Opinión: En una columna publicada el 2 de octubre, Kenneth Roth sostiene que la conversación pública sobre inteligencia artificial presta demasiada atención al escenario hipotético de una superinteligencia fuera de control y menos a un riesgo que ya está presente: el empleo de sistemas algorítmicos en operaciones militares. Roth, exdirector ejecutivo de Human Rights Watch y columnista del Guardian, pide que las decisiones sobre el uso de fuerza mantengan un control humano significativo. Su argumento no es que toda aplicación de IA en defensa sea igual, sino que delegar identificación o selección de objetivos puede borrar la responsabilidad detrás de una decisión letal.
Roth vincula esa preocupación con el uso de herramientas de selección de objetivos en Gaza y con discusiones diplomáticas sobre armas autónomas. Afirma que, en una reunión de gobiernos en Ginebra, una propuesta sobre revisión humana de objetivos generados por IA quedó debilitada. Estas afirmaciones forman parte del análisis del autor; la columna no presenta una auditoría técnica independiente de los sistemas militares ni establece por sí sola la cadena de decisión en cada ataque. Su tesis normativa es más amplia: el “humano en el circuito” solo sirve si tiene información, tiempo y autoridad real para detener una acción.
La distinción entre autonomía y apoyo
El Comité Internacional de la Cruz Roja define las armas autónomas como sistemas que seleccionan y aplican fuerza contra objetivos sin intervención humana. Su explicación destaca las dificultades para prever efectos y limitar daños cuando sensores y software activan el ataque según un perfil predefinido. Ese marco es útil para no confundir una herramienta que organiza información con un arma que aplica fuerza por sí misma. El ICRC también plantea preguntas sobre civiles cercanos, rendición y cambios inesperados en el entorno.
La investigación periodística de +972 Magazine y Local Call sobre Lavender, citando a seis fuentes de inteligencia israelíes, describió un sistema de clasificación de presuntos militantes y cuestionó el grado de revisión humana. El reportaje fue publicado en 2024 y no prueba por sí solo el funcionamiento actual de cada operación; sí aporta un antecedente documentado para el argumento de Roth sobre la distancia entre una recomendación automatizada y una decisión humana independiente.
Una discusión sobre poder y rendición de cuentas
La columna invita a mirar también quién diseña, compra y despliega estas herramientas. En el ámbito militar, llamar “asistencia” a un algoritmo no elimina el efecto que tiene si acelera la producción de objetivos o normaliza decisiones que antes exigían deliberación. Los datos de entrada, los umbrales, la calidad de la información y el contexto operacional pueden influir en resultados que después se presentan como una salida neutral de software.
Hecho: el ICRC ya distingue entre apoyo al análisis y autonomía en la aplicación de fuerza, y documenta preocupaciones humanitarias y jurídicas sobre esta última. Opinión: Roth propone que los Estados preserven un control humano significativo y avancen hacia reglas vinculantes. La diferencia importa: una postura editorial puede orientar el debate, pero no demuestra por sí misma que un sistema particular haya causado una muerte o violado el derecho internacional.
Fuentes: Kenneth Roth en The Guardian; Comité Internacional de la Cruz Roja; +972 Magazine / Local Call.




