Demis Hassabis volvió a poner su propuesta de gobernanza sobre la mesa, esta vez en el marco del DeepMind Institute (DMI), la plataforma de ensayos que Google y Google DeepMind lanzaron el 16 de septiembre de 2026 con él, Shane Legg y James Manyika como directores. En "A framework for frontier AI and the dawning of a new age", el Nobel de Química y presidente de DeepMind propone un organismo de estándares de IA de frontera liderado por Estados Unidos, según el anuncio de lanzamiento y la cobertura de TechCrunch.
Cómo funcionaría, según Hassabis
- Hecho (propuesta): el cuerpo seguiría el modelo de una organización autorregulada de tipo FINRA: financiado por la industria, con supervisión federal, expertos técnicos independientes y representantes del código abierto en su directorio.
- Hecho: los laboratorios enviarían sus modelos más avanzados de forma voluntaria, hasta 30 días antes del lanzamiento, para pruebas en ciberseguridad, riesgos biológicos y capacidades engañosas.
- Hecho: si el proceso demuestra funcionar, aprobar la revisión podría convertirse en requisito para desplegar modelos de frontera en el mercado estadounidense, con evaluaciones "held-out" que los laboratorios no podrían conocer de antemano.
- Hecho: aplicaría a modelos de frontera sin importar el país de origen ni si son abiertos o cerrados; eximiría a los modelos no frontera de startups y academia.
- Predicción/compromiso del autor: el marco podría "escalarse si la gravedad de la situación lo exige", incluso con un freno coordinado entre los desarrolladores de frontera, la misma idea que Dario Amodei pidió el 12 de septiembre.
El resto de la colección inaugural mueve el debate del diagnóstico a las propuestas concretas. Un ensayo de los investigadores de seguridad Rohin Shah y Anca Dragan sostiene que la pérdida de transparencia del razonamiento no es inevitable y propone limitar la "profundidad serial opaca" de los modelos o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo auditables. Los otros dos textos tratan políticas económicas para una disrupción tipo AGI y principios de florecimiento humano.
Un dato de contexto
Legg, editor general del DMI, dijo al Financial Times que el planteo de Amodei de frenar —sin pausar— los lanzamientos frontera es "interesante en términos de dirección" y "digno de consideración", y que es prematuro declarar que la AGI ya llegó, según The Silicon Review. El matiz importa porque en la misma semana dos ejecutivos afirmaron lo contrario desde el escenario opuesto.
Cautelas
Primera: el propio DMI aclara que sus ensayos son "disparadores de conversación" que reflejan la opinión de sus autores y no la posición oficial de Google. Segunda: la propuesta no tiene agencia designada, ni texto legislativo, ni estructura de financiamiento: es un marco. Tercera: un cuerpo diseñado en consulta con los laboratorios que luego regularía tiende a reflejar las prioridades de esos laboratorios, y una ventana voluntaria de 30 días es un control débil frente a los regímenes que se usan como analogía, como el farmacéutico o el aeronáutico. Cuarta: nada de esto está vigente; son recomendaciones dentro de un debate abierto.
Fuentes: DeepMind Institute, ensayo de lanzamiento (fuente primaria); ensayo de Hassabis; TechCrunch; The Silicon Review.




