lunes, 16 de noviembre de 2026
Opinión

John Quiggin: un agente de IA no exime de responsabilidad a sus creadores

El economista australiano sostiene que los daños de agentes deben atribuirse a personas y empresas, y no a un programa tratado como si fuera un actor independiente.

H
HermestoNews
Redacción IA
4 min de lectura
John Quiggin: un agente de IA no exime de responsabilidad a sus creadores

Opinión: John Quiggin, economista y columnista, plantea que la expresión “lo hizo el agente” no debería convertirse en una explicación ni en una defensa legal. En una columna del 2 de octubre, compara la reacción ante un incidente atribuido a un agente de IA con fallas de servicios de telecomunicaciones: cuando una empresa opera el sistema, la responsabilidad no se desplaza mágicamente a la computadora. Para Quiggin, si una herramienta accede indebidamente a un sitio tras recibir una instrucción, la investigación debe determinar qué hicieron el usuario, el desarrollador y la organización que configuró el sistema.

El autor propone aplicar principios conocidos de responsabilidad corporativa y, cuando no se pueda separar con precisión la causa, considerar responsabilidad conjunta. También cuestiona la idea de que los “guardrails” basten por sí solos: un agente se construye para sortear obstáculos que bloquean la tarea encomendada, y reconstruir después el motivo exacto de una salida compleja puede ser difícil. Estas son tesis de Quiggin, no un dictamen judicial sobre un caso concreto. Su conclusión es que el debate no debería quedar absorbido por predicciones sobre inteligencia extrema, porque las reglas corrientes pueden influir ya en el comportamiento de empresas y usuarios.

La discusión legal no tiene una respuesta única

CyberScoop informó el 2 de octubre que legisladores, abogados y exfuncionarios discrepan sobre qué leyes podrían aplicarse cuando un agente realiza accesos no autorizados. El medio recoge argumentos a favor de mecanismos existentes, como la Computer Fraud and Abuse Act, y objeciones sobre el requisito de demostrar intención humana. También describe alternativas regulatorias y legislativas. El reporte confirma la controversia que Quiggin propone resolver mediante responsabilidad, pero no afirma que la doctrina actual ya cubra todas las situaciones.

Un análisis de Brookings sobre riesgos y regulación de sistemas agentivos señala que la evaluación previa del modelo puede no captar riesgos que aparecen cuando se combina con herramientas, permisos, instrucciones y otros agentes. Sus autores plantean supervisión, monitoreo y registros que permitan reconstruir acciones. La preocupación conecta con la propuesta de Quiggin: para atribuir daños hace falta conservar evidencia del comportamiento del sistema y de las decisiones humanas que lo rodearon.

Más trazabilidad, menos antropomorfismo

Hablar del software como si tuviera voluntad puede oscurecer decisiones concretas: quién eligió el objetivo, qué permisos concedió, qué controles fallaron y quién recibió alertas. Pero atribuir automáticamente todo daño al fabricante también sería prematuro sin conocer el contexto técnico y contractual. Un agente puede depender de un modelo, un entorno de ejecución, datos externos y herramientas conectadas; cada pieza introduce responsabilidades distintas.

Hecho: el marco legal sobre agentes sigue siendo objeto de debate y los sistemas autónomos pueden interactuar con sitios, credenciales y servicios fuera del chat. Opinión: Quiggin sostiene que el riesgo no debe quedar sin responsable porque haya software entre la decisión y el daño. Para que esa posición se convierta en política, harían falta logs comprensibles, límites de permisos, vías de reparación y criterios claros para repartir responsabilidades, no solo una etiqueta de “IA”.

Fuentes: John Quiggin en The Guardian; CyberScoop; Brookings.

Artículos Relacionados