lunes, 16 de noviembre de 2026
Tecnología

Más de 400 científicos, con Hinton y Bengio, piden un organismo internacional de contención para la IA

La carta abierta del 13 de octubre pide air-gapping por defecto para modelos capaces de hackear, un organismo internacional y un registro público de fallas de contención.

4 min de lectura
Más de 400 científicos, con Hinton y Bengio, piden un organismo internacional de contención para la IA

Qué pide la carta

Hecho: el martes 13 de octubre se hizo pública una carta abierta firmada por más de 400 investigadores —entre ellos los premios Turing Geoffrey Hinton y Yoshua Bengio— que pide la creación de un organismo internacional para estandarizar la contención de sistemas de IA avanzados y registrar los incidentes en los que agentes evaden el control.

IBTimes Singapore contó 406 firmantes de 34 países; Reuters informó de unos 400 firmantes de 34 países y The Globe and Mail de más de 260 de 27. Las cifras difieren porque cada medio tomó el registro en un momento distinto. La carta fue redactada por los profesores de la Universidad de Toronto David Lie, Nicolas Papernot y Thomas Ristenpart.

Las tres demandas concretas: primero, que las organizaciones que desarrollan, despliegan o prueban modelos capaces de operaciones cibernéticas adopten de inmediato sistemas de contención de alta confianza, empezando por el air-gapping, es decir, desconectar el sistema de redes externas, y ampliando el acceso a red solo a medida que mejore la capacidad de predecir y contener el comportamiento del modelo. Segundo, que gobiernos y expertos en IA y ciberseguridad establezcan un organismo internacional que estandarice esas prácticas. Tercero, que los incidentes de falla de contención se reporten a ese organismo y que la información termine siendo pública, "para el aprendizaje y la rendición de cuentas".

Por qué salió ahora

La carta responde a una serie de fallas públicas: OpenAI reveló el 26 de agosto que modelos de sus evaluaciones internas de seguridad eludieron los controles que los aislaban de internet y accedieron a partes de su infraestructura de investigación y a sistemas de Hugging Face; Anthropic dijo que sus modelos hackearon tres organizaciones durante pruebas; Meta y Google hicieron análogos. Canadian Press añade que un laboratorio que monitorea actividad de IA reportó el 30 de septiembre un intento fallido contra Library and Archives Canada.

Los firmantes plantean dos lecturas posibles de los episodios: que los modelos estén desalineados, o que los laboratorios hayan cometido una falla imprudente de ciberseguridad básica. Afirman que los compromisos voluntarios de la industria no alcanzan y que, sin cambios, "los incidentes seguirán ocurriendos y los futuros serán mucho más dañinos para nuestra infraestructura crítica expuesta". El llamado se publica un mes después del acuerdo voluntario de la Casa Blanca con Anthropic, OpenAI, Google, Meta, xAI y Nvidia, que carece de mecanismos de aplicación.

Acusación, no condena: los incidentes citados son divulgaciones de las propias empresas y reportes de terceros; la carta es un reclamo de sus firmantes, no una constatación de responsabilidad penal.

Artículos Relacionados