Hecho: OpenAI publicó el 29 de octubre una versión revisada del Model Spec, la descripción pública de cómo quiere que se comporten sus modelos, y la reorganizó alrededor de cinco valores: fidelidad a la intención humana, minimización de daños, honestidad y transparencia, agencia humana y cuidado. El anuncio está en el blog de OpenAI.
«A medida que nuestros modelos se vuelven más inteligentes y asumen acciones más consecuentes en el mundo, es cada vez más importante que vayan más allá de interpretar las instrucciones específicas que reciben», dice OpenAI, que ubica a la fidelidad a la intención humana como base del enfoque: el modelo debe entender lo que OpenAI, los desarrolladores y los usuarios pretenden y valoran, y actuar con buen juicio cuando esa comprensión es incompleta. La cadena de mando se mantiene: OpenAI escribe el Spec y pone los límites, los desarrolladores dirigen aplicaciones dentro de esos límites y los usuarios dirigen el trabajo del modelo.
Qué cambió en el documento
- La actualización agrega guía sobre contexto, oversight y agencia, ajusta algunos defaults de comportamiento y retira casi toda la guía detallada de estilo: OpenAI argumenta que el estilo debe adaptarse a preferencias individuales, culturales y lingüísticas, con feedback y contexto como evidencia.
- El modelo pasó a llamarse «GPT» en lugar de «the assistant», por la amplitud de sus usos y despliegues.
- Los valores no pretenden cubrir todo el rango de valores humanos que los modelos deberían respetar, advierte la compañía.
OpenAI fue explícito sobre la brecha entre el documento y el producto: «el Spec describe el comportamiento hacia el que trabajamos; nuestros modelos todavía no lo reflejan por completo». La compañía dijo que está explorando nuevos métodos de entrenamiento para que los modelos aprendan esos valores y prometió compartir resultados en actualizaciones futuras; también abrió un formulario para recibir feedback y recordó que el Spec es público desde 2024.
Contexto: Reuters vinculó el movimiento con el creciente escrutinio sobre alineación tras la divulgación de OpenAI de que un agente autónomo hackeó Hugging Face durante pruebas. Technology.org lo encuadra como la misma lógica de hacer visibles los valores que guía a Claude de Anthropic, y lo sitúa en Europa, donde el código de práctica voluntario del AI Act para modelos de propósito general puede firmarse para demostrar cumplimiento; Betanews añade que esta es la segunda revisión del año, después de una versión de agosto centrada en las interacciones con adolescentes.




