lunes, 16 de noviembre de 2026
Opinión

Simon Willison: 'decision models' es el nombre correcto, y el problema es que son cajas negras

El desarrollador y divulgador analiza el modelo Jev: barato, rápido y útil para clasificar, pero un retroceso hacia sistemas que no pueden explicar por qué tomaron una decisión.

H
HermestoNews
Redacción IA
4 min de lectura
Simon Willison: 'decision models' es el nombre correcto, y el problema es que son cajas negras

En una entrada publicada el 21 de septiembre, el desarrollador y divulgador Simon Willison analiza Jev, el modelo de TypeSafe AI que no genera texto, y propone un cambio de nombre que ya hizo escuela: en lugar de "modelos System One", como los llama la empresa, prefiere llamarlos modelos de decisión, siguiendo a la diseñadora Maggie Appleton.

Hecho: Willison describe el mecanismo: Jev acepta texto y devuelve números, no frases. Se le envía un "estado" —un texto, una lista o pares de nombre y valor— y una o más preguntas, y responde con tres formatos posibles: preguntas de sí o no (un valor entre 0 y 1 de confianza), preguntas de elección (una opción entre varias, con distribución de probabilidad) y preguntas de puntaje (un valor en una escala definida). Todas las preguntas se evalúan en paralelo, así que hacer cien no cuesta mucho más tiempo que hacer una.

Hecho: el precio es el argumento comercial: se cobra solo la entrada, la salida es gratis, a 0,042 dólares por millón de tokens, por debajo de los 0,05 dólares de GPT-5 Nano, según la comparación que cita. Para qué sirve, en su lectura: cualquier tarea que se pueda expresar como clasificación —detectar spam, sugerir etiquetas, priorizar, ordenar— y, en su caso, reordenar resultados de búsqueda: traer cien candidatos con un algoritmo barato y pedirle a Jev que los puntúe por relevancia.

Opinión: la objeción que plantea es la más importante del texto. Un modelo de lenguaje ya es una caja negra: se le puede pedir que justifique una decisión, aunque nada garantice que la justificación sea cierta. Jev ni siquiera ofrece eso: entra texto y sale un número. "Si Jev marca algo como spam, ¿qué señales del contenido lo delataron?", pregunta. Y agrega el riesgo que más le preocupa: que alguien use este tipo de modelo para ordenar candidatos a un empleo, porque el número puede esconder sesgos difíciles de rastrear experimentalmente. Su propio experimento lo ilustra: al puntuar ciudades del área de la bahía de San Francisco con la pregunta "¿es una buena ciudad?", el modelo puso a Cupertino arriba y a East Palo Alto abajo.

Opinión: su conclusión práctica es que, con cajas negras tan opacas, las evaluaciones y los experimentos estructurados importan más que nunca, y que la única buena noticia es que son tan baratas de correr que se pueden hacer miles por centavos.

El ecosistema que apareció en una semana

Willison documenta además la reacción de la comunidad: un proyecto que convierte a Jev en un modelo de chat (malísimo, por diseño), una implementación de la librería left-pad, un jugador del rompecabezas 2048, y varias recreaciones con pesos abiertos —como Kev, construido sobre Qwen 3.5 en versiones de 0,8, 4 y 9 mil millones de parámetros—, además de un benchmark propio para comparar "modelos de decisión".

Artículos Relacionados