lunes, 16 de noviembre de 2026
Opinión

Zeeshan Aleem: una inteligencia falsa generada con IA casi desata una guerra con China

El columnista toma el caso del buque chino que EE.UU. se preparaba a interceptar por un informe hecho con un chatbot y advierte que el riesgo urgente es el error humano.

H
HermestoNews
Redacción IA
4 min de lectura
Zeeshan Aleem: una inteligencia falsa generada con IA casi desata una guerra con China

Zeeshan Aleem publicó el 22 de septiembre en MS NOW una columna que invierte el eje del debate: mientras la conversación pública se concentra en una superinteligencia rebelde, el peligro más urgente es el error humano amplificado por la IA.

El caso que cita

Hecho (según CNN): Aleem parte de una investigación de CNN publicada el 18 de septiembre: un informe de inteligencia que circuló en el ejército estadounidense en primavera afirmaba que un buque chino en Medio Oriente transportaba componentes de un programa nuclear. Según cuatro fuentes citadas por CNN, hubo planes para interceptarlo, personal armado se preparaba para abordarlo y aviones militares ya estaban en el aire. Poco antes de la operación, oficiales revisaron el informe y descubrieron que se había armado con ayuda de un chatbot que identificó mal la carga. Una fuente lo describió como "completamente falso" y dijo que "casi inició una guerra". Engadget también cubrió el episodio.

Su argumento

Opinión: para Aleem, el episodio muestra que el riesgo inmediato no es una máquina que se rebela, sino humanos que delegan juicio en sistemas falibles. Enumera otros casos del mismo tipo: periodistas que publicaron citas inventadas por IA, abogados que citaron fallos inexistentes, jueces que firmaron opiniones con citas falsas, estudiantes y docentes que tercerizan la escritura y la corrección, y un libro sobre la relación entre la IA y la verdad que resultó lleno de citas fabricadas.

Su referencia histórica es Stanislav Petrov, el oficial soviético que en 1983 desobedeció el protocolo porque su intuición le dijo que la alerta de misiles era un error del sistema, y acertó: era un fallo del radar. La pregunta que deja abierta es qué pasa cuando los humanos se entrenan para delegar ese juicio en máquinas que no tienen esa intuición. Sobre el escenario de la superinteligencia, su posición es que no es inevitable: sería el producto de ingeniería y arrogancia humanas, no de una fatalidad tecnológica.

El columnista reparte la responsabilidad en dos direcciones. Por un lado, el uso: la IA no se emplea para asistir el trabajo humano sino para reemplazarlo barato en tareas donde eso no corresponde, desde la redacción de una nota hasta la evaluación de un examen. Por el otro, el desarrollo: los laboratorios de frontera trabajan deliberadamente en sistemas cada vez más potentes, y de ahí sale parte del riesgo. Su cierre es una advertencia sobre la costumbre: a medida que la gente delega más trabajo mental, también puede perder el reflejo de dudar de la máquina, que es exactamente lo que salvó a Petrov.

La columna es una pieza de opinión. Los hechos sobre el incidente remiten a las fuentes de CNN, que no identificó el chatbot usado ni la carga real del buque; el resto del texto son interpretaciones del autor sobre lo que ese episodio enseña.

Artículos Relacionados