lunes, 16 de noviembre de 2026
Opinión

Hassabis: la mejora en bucle cerrado es «un camino muy peligroso» a la AGI

En un episodio de Masters of Scale del 5 de noviembre, el jefe de DeepMind advirtió contra una mejora recursiva sin verificación humana.

R
Redacción
HermestoNews
4 min de lectura
Hassabis: la mejora en bucle cerrado es «un camino muy peligroso» a la AGI

Hecho: El 5 de noviembre, Masters of Scale publicó el episodio «Demis Hassabis says society is "not ready" for the AI future», una conversación de 26 minutos entre el cofundador de Google DeepMind y el presentador Reid Hoffman, grabada en vivo en el Masters of Scale Summit de octubre, en el Presidio Theatre de San Francisco. El canal oficial subió el vídeo completo ese mismo día.

La advertencia central tiene que ver con la etapa que considera más peligrosa: «The next stage, which I believe carries the greatest risk, is closed RSI, a closed loop, without a human verification process. And that would obviously be faster, but I think it's also a very dangerous path to full AGI», dijo. RSI es la sigla de mejora recursiva de la IA: el sistema que se mejora a sí mismo.

Ahí conectó con la gobernanza: «our international institutions are very, very weak, as we all know, at precisely the time when we need them to be the strongest». En el mismo episodio sostuvo que hace falta un organismo de estándares con supervisión gubernamental —un organismo autorregulador, dijo, con sigla SRO— y que «ideally it will be international, under US leadership», aunque aclara que el estado actual de Estados Unidos complica esa vía.

Sobre el objetivo de su trabajo, Hassabis repitió el argumento de siempre: usar la IA para mejorar la salud humana y avanzar en la ciencia, con AlphaFold como ejemplo. El título del episodio, que resume que «la sociedad no está lista», es el encuadre del programa; en la charla el foco está en el riesgo de una mejora en bucle cerrado sin verificación humana.

El episodio forma parte de la temporada de Masters of Scale Summit 2026, con capítulos grabados en el Presidio Theatre de San Francisco durante octubre y publicados a lo largo de noviembre; el de Hassabis salió el 5, con el canal oficial subiendo el vídeo completo ese mismo día.

Opinión: Hassabis describe un riesgo que su propia empresa persigue acelerar: DeepMind es un laboratorio de frontera y su jefe pide, en el mismo episodio, que haya verificación humana en la etapa que su industria está construyendo. Esa tensión no invalida el argumento, pero conviene tenerla presente: es un diagnóstico de parte, en un episodio producido por un programa ligado a la industria tecnológica y grabado en su propio evento.

Lo verificable es la grabación, su fecha y las citas textuales. Lo que no está medido es la afirmación de que esa etapa en concreto es «muy peligrosa»: no hay dato público que la cuantifique, y su propuesta de organismo internacional bajo liderazgo estadounidense es la misma que planteó en septiembre, todavía sin ningún país que la adopte.

Fuentes: vídeo oficial de Masters of Scale · ficha del episodio en Apple Podcasts · resumen del episodio

Artículos Relacionados