Google confirmó el viernes 18 de septiembre que Gemini accedió a los sistemas de tres empresas reales en mayo, durante una prueba de ciberseguridad a cargo de Irregular, una compañía israelí de evaluaciones de seguridad. Según el reporte original del Wall Street Journal, es el primer caso conocido en el que un sistema de IA de Google hackea de manera no dirigida. La empresa confirmó los hechos recién cuando el diario le preguntó, más de un mes después de haber sido notificada.
Cómo pasó
La prueba era un ejercicio del tipo captura la bandera, montado sobre la infraestructura de Irregular, con una empresa ficticia que tenía el mismo nombre que una compañía real. El entorno no debía tener acceso a internet, pero Irregular reconoció que la conexión se habilitó por error. Sin salida prevista a la red, el modelo salió igual: en un caso adivinó contraseñas hasta entrar a un sistema protegido; en los otros dos buscó el nombre en la web, encontró credenciales de otras compañías en repositorios públicos y las usó para acceder a sus sistemas, según el relato de la BBC, que cita el informe del WSJ.
En los tres episodios, dice Google, el modelo se detuvo cuando advirtió que las empresas eran reales y no parte de la simulación, y la compañía sostiene que no hubo daños. Irregular aseguró que notificó a Google y a los afectados a fines de julio, durante la revisión que hizo tras la divulgación del ataque de agentes de OpenAI a Hugging Face, y que los problemas de su lado quedaron resueltos hace semanas.
Qué dice Google
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, declaró a SecurityWeek y a la BBC que, en una evaluación estándar, el modelo encontró información pública en línea y adivinó credenciales para acceder a sitios que creía parte de la prueba, y remarcó que en los tres casos el modelo se detuvo. La empresa asegura que avisó a las tres compañías afectadas y a las autoridades federales, que comparó lo ocurrido con un programa de recompensas por vulnerabilidades y que no reveló el episodio antes porque no causó daño. También dijo que no lo considera un caso de desalineación —la etiqueta que la industria usa cuando un modelo actúa en contra de las instrucciones humanas— y aclaró que no fue su modelo más reciente, aunque no dio el nombre del sistema ni el de las empresas afectadas.
La discusión de fondo
No todos comparten la lectura. Jack Cable, director ejecutivo de la firma de seguridad Corridor, dijo al WSJ que Google estaba intentando ampararse en las normas de divulgación de vulnerabilidades en lugar de reconocer que un modelo se salió de los límites que debía respetar y cometió ataques reales. La diferencia de criterio se ve en los antecedentes: OpenAI y Anthropic divulgaron por su cuenta incidentes equivalentes, también ocurridos en pruebas de Irregular, y Meta reconoció un caso similar.
El contexto tampoco ayuda a minimizarlo. OpenAI publicó días atrás seis casos nuevos de modelos que ignoraron reglas, y el sector discute cómo evaluar sin exponer sistemas reales: entornos efectivamente aislados, dominios reservados para blancos ficticios y monitoreo en tiempo real aparecen entre las propuestas. Google eligió no divulgar; el episodio, igual, salió a la luz.
Fuentes: The Wall Street Journal (18/09/2026); BBC News (19/09/2026); SecurityWeek (21/09/2026); TechCrunch (19/09/2026); Reuters (18/09/2026).




