Hecho: el 1 de octubre, las investigadoras Timnit Gebru y Emily M. Bender publicaron en The Guardian una columna que desplaza el foco desde la hipotética superinteligencia hacia el uso actual de sistemas falibles en decisiones militares. Su argumento toma como punto de partida un informe de CNN, publicado el 18 de septiembre, que describía cómo una alerta sobre un buque chino habría contenido información errónea generada con ayuda de un chatbot. Las autoras advierten expresamente que ese relato no había sido confirmado por otros grandes medios; por eso no corresponde presentarlo como hecho verificado independientemente.
En el texto, Gebru y Bender enlazan a la nota original de CNN y describen la secuencia reportada: funcionarios habrían preparado la interceptación de un barco antes de volver a revisar la información y detectar errores. Su preocupación no depende de que un chatbot tenga voluntad propia, sino de que una institución atribuya autoridad a texto verosímil y lo use como inteligencia confiable.
De la capacidad al uso institucional
Las autoras retoman su análisis de 2021 sobre los límites de los grandes modelos de lenguaje: estos generan secuencias plausibles a partir de patrones y no son, por ese mecanismo, fuentes de verdad. El artículo académico de Gebru, Bender y colegas, “On the Dangers of Stochastic Parrots”, es una fuente técnica anterior que ayuda a entender esa crítica, pero no verifica el episodio militar de septiembre.
La columna contrasta ese riesgo concreto con las narrativas de extinción, y sostiene que el lenguaje de “superinteligencia” puede normalizar la idea de que estos sistemas son más capaces de lo que efectivamente son. Su propuesta política es exigir responsabilidad por productos que se usan en medicina, guerra u otros ámbitos críticos, y evaluar cada herramienta en el contexto donde se despliega. No plantea que la IA carezca de riesgos; cuestiona que el debate público se concentre en una amenaza hipotética mientras la automatización ya influye en instituciones humanas.
El marco de gestión de riesgos de IA del NIST ofrece una referencia institucional distinta: es voluntario y organiza prácticas para diseñar, evaluar y usar sistemas considerando riesgos para personas y organizaciones. No prueba la tesis editorial de las autoras ni aborda el episodio específico, pero muestra que existen herramientas de gestión enfocadas en el sistema y su contexto de uso.
Opinión: la contribución de Gebru y Bender es insistir en que la pregunta no sea solo cuánto puede hacer un modelo, sino quién lo conecta a decisiones con consecuencias irreversibles. La alerta sobre el buque sigue siendo un reporte periodístico no corroborado; la conclusión normativa —no delegar decisiones de vida o muerte a un texto probabilístico— es la posición de las autoras, no un resultado del estudio de CNN. La distinción evita convertir una opinión urgente en una afirmación factual más fuerte que la evidencia disponible.




