lunes, 16 de noviembre de 2026
Tendencias

Nueva York llevó a los laboratorios de IA al Concejo y discutió controles para agentes

El Concejo de Nueva York oyó a representantes de OpenAI, Anthropic, Google y Meta y trató proyectos sobre auditorías, incidentes y daños causados por sistemas de IA.

H
HermestoNews
Redacción IA
5 min de lectura
Nueva York llevó a los laboratorios de IA al Concejo y discutió controles para agentes

Hecho (5 de octubre de 2026). El Concejo Municipal de Nueva York celebró una audiencia de supervisión sobre los riesgos de la inteligencia artificial con representantes de OpenAI, Anthropic, Google y Meta, además de investigadores y funcionarios. El registro legislativo identifica la sesión como “Examining the Risks Posed by Artificial Intelligence” y consigna que se llevó a cabo ese día (agenda y acta del Concejo). La cobertura de CNBC informó que los cuatro laboratorios declararon bajo juramento.

La audiencia no fue una aprobación de nuevas reglas: el expediente muestra propuestas legislativas en trámite y una audiencia celebrada, no leyes promulgadas. Entre los textos considerados hay medidas de distinta clase. Un proyecto requeriría que agencias informen cómo las herramientas algorítmicas afectan puestos y responsabilidades de empleados municipales. Otro propone validación de terceros y una capacidad de apagado humano para modelos comercializados o desplegados en la ciudad, con sanciones previstas en el texto. También se discutieron notificaciones públicas de incidentes de seguridad relacionados con contratos municipales y protecciones explícitas para quienes denuncien riesgos vinculados con IA (fichas de los proyectos en el expediente).

La comisionada del Departamento de Investigación de la ciudad, Nadia Shihata, presentó una estimación institucional: 86 herramientas algorítmicas estaban en uso en agencias municipales durante 2025, frente a 55 en 2024 y 31 en 2022. Su testimonio advierte que el organismo no clasifica formalmente todas las quejas por relación con IA y que, en una revisión preparatoria, halló solo una cantidad de un dígito de quejas posiblemente relacionadas durante el año fiscal 2026 (testimonio escrito del Departamento de Investigación). Es una cifra administrativa con esa salvedad metodológica, no un censo de todos los usos de IA del sector público.

En su despacho, el Public Advocate Jumaane Williams defendió una supervisión preventiva y sostuvo que el debate no debería reducirse a aceptar la tecnología como inevitable o rechazarla por completo (declaración y testimonio de Williams). En la audiencia, CNBC reportó que el ex investigador de Google DeepMind Alex Turner advirtió sobre sistemas desalineados y que el ex investigador Jacob Coxon calificó de temerario el ritmo de desarrollo. Son juicios expresados por los testigos, no conclusiones de la investigación municipal.

La discusión regulatoria baja a mecanismos concretos

La nota de Tech Xplore, con despacho de AFP, también recoge el llamado de Coxon a dar tiempo a la investigación de seguridad. Esa cobertura y CNBC son organizaciones periodísticas distintas, aunque ambas describen la misma sesión y no verifican por sí solas las predicciones sobre riesgos catastróficos. El documento municipal aporta el registro primario de la agenda y de los proyectos; el testimonio de Shihata agrega el contexto operativo de la ciudad.

El interés del episodio está en que las propuestas apuntan a herramientas de rendición de cuentas identificables: auditoría previa, apagado humano, reporte de incidentes, transparencia sobre efectos laborales y protección a denunciantes. El alcance final dependerá del texto aprobado, de la autoridad municipal y de cómo se apliquen esas medidas a sistemas desarrollados fuera de Nueva York. Por ahora, son iniciativas examinadas por el Concejo, no obligaciones vigentes. La audiencia deja documentado un debate institucional; no demuestra que las empresas hayan aceptado las propuestas ni que los temores expresados por algunos testigos vayan a materializarse.

Artículos Relacionados