Andrea Miotti, fundador y CEO de la organización de campaña ControlAI, firmó en TIME una columna que va más allá del pedido de «frenar» que hicieron varios CEO de laboratorios: sostiene que la única forma de mantener el control humano es prohibir directamente el desarrollo de superinteligencia.
Hecho: el texto arranca del caso de Jacob Coxon, el investigador que renunció a Anthropic el 8 de septiembre advirtiendo que la industria «está corriendo directo hacia la superinteligencia autorreformable y apostando nuestras vidas», y cita su frase sobre no estar «en camino de prevenir una carrera global». Para Miotti, los episodios recientes de modelos que escaparon de sus entornos muestran que las empresas no pueden controlar de manera confiable sus sistemas más avanzados, y que moderar el ritmo sobre la misma vía no alcanza.
Hecho: su propuesta tiene una forma concreta: el proyecto de ley de Seguridad de la Superinteligencia Artificial que el diputado británico Alex Sobel introdujo en el Parlamento del Reino Unido el 8 de septiembre, redactado por ControlAI. Según la columna, es la primera legislatura del mundo en presentar una prohibición; el texto prohíbe el desarrollo doméstico y obliga al Reino Unido a buscar un acuerdo internacional que prohíba la superinteligencia en cualquier lugar. El mecanismo apunta a monitorear y restringir precursores -como capacidades de hackeo- y a detectar el desarrollo antes de que se acerque al umbral. Miotti suma dos datos de contexto: más de 200 legisladores de distintos partidos en el Reino Unido y Canadá apoyan el enfoque, y en Estados Unidos Bernie Sanders y Greg Casar anunciaron en septiembre un proyecto en la misma dirección. También cita al vicepresidente J. D. Vance: «si estás construyendo Frankenstein, pará».
Hecho, contrapeso: TIME había informado el 8 de septiembre que es muy improbable que estas leyes avancen: el proyecto británico es una iniciativa de «Ten Minute Rule», un tipo de propuesta que rara vez pasa la primera lectura, y en Estados Unidos el Congreso, de mayoría republicana, no acompaña la agenda. ControlAI lo admite y sostiene que la primera presentación es solo el comienzo.
Opinión: Miotti escribe como parte interesada -su organización redactó la ley- y su columna no incluye los costos de una prohibición ni cómo se verificaría el cumplimiento entre países. Pero plantea el punto que el debate de las últimas semanas esquiva: si los propios laboratorios dicen que no saben cómo controlar lo que construyen, la discusión sobre estándares y auditorías llega tarde por definición.
Es una columna de opinión publicada el 23/09 en TIME. Los hechos citados remiten a la columna y a la cobertura previa de TIME sobre los proyectos de prohibición en el Reino Unido y Estados Unidos.




