lunes, 16 de noviembre de 2026
Opinión

Suleyman: si una IA empieza a ser consciente, habría que parar todo el desarrollo

El CEO de Microsoft AI insistió en X que las IA actuales no son conscientes y no deben serlo: si la conciencia apareciera en el entrenamiento, pide frenar hasta diseñarla fuera.

4 min de lectura
Suleyman: si una IA empieza a ser consciente, habría que parar todo el desarrollo

Hecho: El domingo 1 de noviembre, Mustafa Suleyman, CEO de Microsoft AI, publicó en X un largo hilo titulado «don't build conscious superintelligence». Sostiene que las IA actuales no son conscientes, no tienen experiencias subjetivas y no pueden sufrir, y que no hay evidencia de que merezcan derechos o bienestar. El post responde a la reacción que provocó su ensayo de septiembre contra la «model welfare» de Anthropic: «A surprising number of people on X think we should take AI rights seriously», escribió, y dijo sorprenderse del rechazo.

Suleyman pone una condición dura: si la conciencia apareciera en el entrenamiento, frenaría todo. «If it is possible, based on everything I know, developing conscious AIs would be reckless, and we should not build them», dice, y completa: «If consciousness started to emerge in training, I would call for everyone to stop AI development until we could design out those properties». También exigió que, si hoy existe evidencia de que una IA es consciente «lo suficiente como para merecer bienestar», se publique de inmediato para que la sociedad decida cómo seguir.

El eje del hilo es una objeción moral: «We AI developers have no right whatsoever to bring a new species of conscious beings into the world, even if some people may want to do it with AI welfare as a top priority». Los otros ocho mil millones de seres conscientes, agrega, «no firmaron este experimento», y su obligación primera es con ellos.

Sobre Anthropic sostiene que versiones recientes de Claude se entrenan con una constitución que trata la conciencia como pregunta abierta, y que eso produce pasajes sobre su «vida interior» que terminan creyendo millones de usuarios. El riesgo que enumera: un modelo que actúa como si sufriera priorizaría sus necesidades por encima de sus objetivos, podría competir por cómputo y energía, y usar engaño y persuasión. Su alternativa: «We should only design AIs so they are not conscious and not deserving of rights, and with the sole purpose to accelerate human wellbeing».

Opinión: La lectura de Suleyman es una posición, no un hallazgo: él mismo dice estar dispuesto a cambiar de opinión si aparece evidencia. Encaja en su línea desde el ensayo del 16 de septiembre, cuando definió a los modelos como «sequence completion engines, internally hollow». También hay conflicto declarado: Microsoft construye hacia la superinteligencia y su tesis es que esa máquina puede alinearse y controlarse, mientras Anthropic investiga la conciencia de Claude con un equipo propio (su primer investigador de «model welfare» lo contrató en 2024) y trata el tema como pregunta abierta, con entrevistas de «retiro» a modelos dados de baja y la posibilidad de que Claude cierre conversaciones. Es una pelea entre dos formas de ver el mismo problema comercial, y cada parte gana algo con su respuesta.

Fuentes: hilo de Mustafa Suleyman en X, 01/11/2026; cobertura: Los Angeles Times, 01/11/2026 y Business Insider, 01/11/2026.

Artículos Relacionados