lunes, 16 de noviembre de 2026
Opinión

Hinton: un kill switch no sirve si la IA convence a quien tiene que apagarlo

En una entrevista exclusiva a The i Paper, el Nobel de Física descartó el botón de parada de emergencia: una IA muy capaz puede persuadir a quien lo maneja.

R
Redacción
HermestoNews
3 min de lectura
Hinton: un kill switch no sirve si la IA convence a quien tiene que apagarlo

Hecho: El 5 de noviembre, The i Paper (inews.co.uk) publicó una entrevista exclusiva a Geoffrey Hinton, el premio Nobel de Física de este año. El encuadre del medio: la carrera por la IA está «hurtling out of control».

Sobre el botón de parada de emergencia, el llamado kill switch, la respuesta es tajante: «I don't think there is a kill switch scenario. When AI is smart, it will be very good at persuasion. So even if you have someone who's meant to turn it off if it misbehaves, it will be able to persuade them not to».

Desarrolla el razonamiento con un ejemplo: «Imagine an AI that's really smart, and can convince people of things. And you're in charge of the switch, and the AI talks to you, and explains to you why it will be a really bad idea to turn it off, and you'll believe it». Su «favourite example» de que la persuasión no necesita actos físicos es el 6 de enero de 2021: Trump, dice, «managed to invade the Capitol without going there, just by talking».

Conclusión: «So I don't think a big switch is really an option». Sobre el rumbo general sostuvo que «it's probably because it is all hurtling out of control», y que «we're going to have to share the planet with something smarter than us. They're going to take over. They are a much better form of intelligence».

La entrevista se publica en medio del debate sobre mecanismos de parada de emergencia: según Digit, que recoge otra declaración suya en CNN, Hinton ya había dicho que no espera que un kill switch funcione a largo plazo contra una superinteligencia. The i Paper enmarca sus comentarios en que la carrera global por la IA ha puesto el futuro de la humanidad en juego.

Opinión: Es una entrevista opinada de un investigador, no un informe técnico: la analogía con el 6 de enero es un argumento retórico sobre persuasión, no evidencia sobre el comportamiento de un modelo. El «kill switch» que descarta tampoco es un sistema concreto que alguien haya implementado y evaluado, sino una idea general de defensa.

Lo verificable es la fecha, el medio y las citas textuales; lo que no está demostrado es la predicción: que una superinteligencia persuada a su operador es una creencia de Hinton, y lo mismo vale para «they are going to take over». Tampoco hay evaluación independiente de esa hipótesis.

Fuentes: entrevista en The i Paper · cobertura en ZME Science · cobertura en Digit

Artículos Relacionados