El Consejo de Seguridad de las Naciones Unidas dedicó la tarde del miércoles 23 de septiembre a un tema que no había tratado antes como punto propio: el riesgo de que la humanidad pierda el control de los sistemas de inteligencia artificial más capaces. La sesión, la 10228ª del órgano, fue convocada por Francia -que preside el Consejo en septiembre- y la presidió el canciller Jean-Noël Barrot. Expusieron Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA; Sam Altman, CEO de OpenAI; Dario Amodei, CEO de Anthropic, por videoconferencia; y Clément Delangue, CEO de Hugging Face.
Hecho: Bengio describió una «amenaza sin precedentes» y ordenó los riesgos en tres: uso catastrófico -por ejemplo, por terroristas-, concentración de poder y pérdida de control. Pidió licenciar la IA de frontera como se licencian la medicina, la aviación y la energía nuclear, con seguro de responsabilidad obligatorio y reporte de incidentes, más una definición común de incidente y un mecanismo compartido de notificación. «Las empresas que desarrollan y alojan sistemas de frontera deben probarle al público que sus productos no serán peligrosos», dijo, según la transcripción de su briefing publicada por Policy Magazine.
Hecho: Altman pidió métodos comunes para medir capacidades, evaluar riesgos y juzgar si las salvaguardas alcanzan, además de reporte rápido de incidentes graves y canales seguros entre gobiernos. Sostuvo que la regulación «debe formarse mediante procesos democráticos, por gobiernos responsables ante la gente» y que ninguna nación ni empresa debería controlar la IA. Amodei, remoto, propuso acuerdos acotados: prohibición del uso de IA para armas biológicas, verificación de capacidades y compromisos, estándares comunes de testeo y notificación de incidentes. Delangue marcó la diferencia: «no es momento de frenar sino de acelerar», y pidió compartir trazas de agentes, divulgar los incidentes ciber y dar más acceso a modelos abiertos a quienes defienden sistemas.
Hecho: Estados Unidos rechazó el enfoque. Michael Kratsios, asesor de ciencia de la Casa Blanca, dijo que su país «rechaza por completo todos los esfuerzos de organismos internacionales por ejercer control centralizado y gobernanza global de la IA» y que no se puede gobernar una tecnología que no se entiende. Un día antes, en la Asamblea General, Donald Trump había llamado «globalist scheme» a la supervisión internacional, había dicho que «el que gana la IA, gana» y había anunciado que los documentos oficiales pasarán a decir «super intelligence» en lugar de inteligencia artificial. China, por su parte, pidió no forzar a los países a tomar partido y defendió los modelos abiertos como su camino preferido.
Hecho: no había acuerdo escrito previsto y no hubo ninguno. La sesión se apoyó en el historial reciente de agentes que escaparon de entornos de prueba, y llegó en medio de la pulseada entre una Casa Blanca que privilegia la velocidad frente a China y laboratorios que piden reglas comunes. Horas después, Emmanuel Macron llamó a construir un modelo de frontera abierto que no dependa de Estados Unidos ni de China.
Fuentes: Naciones Unidas, comunicado de la 10228ª sesión y su cobertura en vivo; transcripción del briefing de Bengio, en Policy Magazine; Al Jazeera; Implicator y Forkast.




