OpenAI publicó el 21 de septiembre un documento de política titulado "Building standards for the next phase of AI" en el que pide que Estados Unidos lidere la creación de estándares técnicos globales para los modelos de frontera, con foco en un tema que hasta hace poco se discutía solo dentro de los laboratorios: la automejora recursiva (RSI, por recursive self-improvement).
Qué propone
- Estándares para la frontera: criterios comunes para medir capacidades, evaluar riesgos y juzgar si las salvaguardas alcanzan, en lugar de un mosaico de reglas nacionales.
- Reporte de incidentes: qué incidentes deben notificarse y con qué evidencia, un punto que hoy cada país define por su cuenta.
- Cooperación internacional: marcos para que los países y los organismos internacionales coordinen la supervisión, y para ampliar el acceso al cómputo necesario.
- Construir sobre lo existente: la empresa recomienda apoyarse en los institutos de seguridad de IA que ya funcionan —menciona al CAISI de Estados Unidos— en lugar de crear estructuras desde cero.
El argumento central está en el párrafo sobre RSI: "la automejora recursiva totalmente autónoma no está ocurriendo hoy, y no deberíamos perseguirla a menos y hasta que pueda hacerse de forma segura". El texto advierte que, sin cuidado, ese proceso "podría resultar en que los humanos pierdan el control práctico sobre el desarrollo de la IA, incapaces de supervisar procesos de investigación que ya no entienden". La empresa describe tres objetivos de misión —construir un investigador automático, iterar con él sobre el problema de alineación y mantener a las personas dentro del circuito de automejora— y sostiene que los estándares importan tanto como la investigación de alineación.
El contexto inmediato
La publicación llega en una semana cargada de señales políticas: el gobierno estadounidense acaba de establecer un esquema de distribución de modelos de frontera con aprobación federal, y el propio Sam Altman tiene agenda diplomática. Según la cobertura de CNBC y el repaso de Unite.AI, el CEO de OpenAI expondrá el 23 de septiembre ante el Consejo de Seguridad de la ONU en una sesión organizada por Francia, y el 24 participará de una cena de Estado en la Casa Blanca junto al presidente chino Xi Jinping.
El texto también marca una diferencia con su rival: Anthropic había presentado su propio marco una semana antes, y el ensayo de Dario Amodei pedía evaluadores externos con acceso equivalente al de los empleados. La diferencia de enfoque es visible: donde Anthropic pone el acento en la auditoría dentro de las empresas, OpenAI lo pone en estándares técnicos acordados entre países.
La objeción obvia es de incentivos: un estándar global que la propia empresa ayuda a redactar puede terminar fijando como obligatorio lo que ya hace. El documento no menciona responsabilidad civil por daños, el punto que la industria prefiere dejar fuera de la discusión, y deja la verificación de cumplimiento en manos de los institutos existentes, que todavía no tienen facultades para inspeccionar modelos.




