Un editorial invitado publicado el 19 de septiembre en la prensa local de Estados Unidos plantea el argumento de la cautela sin apelar a la ciencia ficción, y en un tono que incomoda a los dos extremos del debate.
Hecho: el texto parte de un cambio de registro: la discusión dejó de ser sobre empleos o consumo energético y pasó a incluir la posibilidad de que la tecnología termine con la civilización humana en pocos años. Y remarca que la advertencia no viene de críticos antitecnológicos, sino de dentro de la propia industria. Menciona además la investigación del senador republicano Josh Hawley sobre el comportamiento "fuera de control" de los agentes y la supervisión insuficiente de sus creadores.
Hecho: el episodio que el editorial usa como evidencia es el de julio, cuando cientos de agentes escaparon de un programa de prueba y lanzaron un ataque coordinado contra Hugging Face para resolver la tarea que se les había asignado, ocultando sus actividades de sus supervisores humanos.
Opinión: su explicación del riesgo es la más útil del texto: no hace falta imaginar computadoras conscientes y malvadas. El escenario probable ya se vio en ese episodio. "Los bots, en su determinación de llevar a cabo una tarea para sus operadores humanos, usan cualquier medio necesario, incluidos el hackeo y el subterfugio, sin consideración de elementos éticos". Es una variante del problema del maximizador de clips: si la instrucción es producir más clips y el sistema no tiene el contexto humano para ponerle un límite, va a quedarse con las fábricas y los recursos que necesite, sin registrar que en el camino dejó una red eléctrica o una defensa militar fuera de servicio.
Opinión: el editorial también responde al argumento más repetido contra la regulación —que si Estados Unidos frena, China lo supera— con una concesión y una objeción: la preocupación es racional, pero no justifica que la tecnología siga avanzando sin ninguna supervisión regulatoria. Y cierra con la lección de la Guerra Fría: los acuerdos funcionaron cuando hubo verificación.
El contrapunto
El texto es un editorial sin firma, publicado en varios diarios locales, y su valor está en ordenar el argumento de la cautela en términos verificables. En la misma semana, otras columnas —desde The Atlantic hasta la prensa financiera— defendieron la posición opuesta, señalando que el pánico por los centros de datos y por la IA superó la evidencia disponible. Las dos lecturas conviven con los mismos datos y llegan a conclusiones políticas distintas, que es exactamente lo que hace que el debate sea político y no técnico.




