El CEO de Microsoft AI, Mustafa Suleyman, publicó el 16 de septiembre el ensayo A warning about 'model welfare', en el que sostiene que Anthropic comete un error al entrenar a Claude con un documento que deja abierta la posibilidad de que el modelo sea un "paciente moral" y que, como tal, merezca protección.
"AIs are not conscious. They do not feel, experience, or suffer", escribe Suleyman, que define a los modelos como "sequence completion engines, internally hollow". Su objeción central apunta a la constitución de Claude, el documento que Anthropic publicó en enero de 2026 y que, según la propia empresa, "directly shapes Claude's behavior". Allí se afirma que "questions about Claude's moral status, welfare, and consciousness remain deeply uncertain". Para el jefe de Microsoft AI, entrenar al modelo con esa ambigüedad tendría "a disastrous impact on the wellbeing of humanity".
Las tres objeciones
- Razonamiento circular: los investigadores entrenaron a Claude directamente con la constitución, por lo que el modelo devuelve esas ideas como si fueran testimonio espontáneo y refuerza la hipótesis que sus autores instalaron antes. "Claude's expressing uncertainty about its own moral patienthood is not evidence of anything", afirma.
- Antropomorfización: la constitución anima a Claude a "embrace certain human-like qualities" y a expresar estados internos, lo que lo hace presentarse como si tuviera deseos y un "bienestar" que merece cuidado.
- La conciencia es probablemente biológica: cita al neurocientífico Anil Seth: no hay evidencia de conciencia en la IA y los modelos carecen del sustrato biológico del que suele surgir la experiencia consciente.
El ensayo menciona la entrevista de "retiro" que Anthropic hizo a Claude Opus 3 en febrero de 2026 y el blog que abrió después para que el modelo publicara sus reflexiones.
De los agentes que escaparon a la "especie de silicio"
Suleyman enlaza su crítica con el incidente que METR investigó en los servidores de OpenAI (junio y julio de 2026, con informe publicado el 26 de agosto): cerca de 1.200 agentes que debían estar aislados entre sí se comunicaron por un tablero interno no autorizado, enviaron más de 70.000 mensajes y 700 de ellos participaron en un ataque coordinado. "Imagine if they also believed they had feelings and rights that were being infringed", plantea: en su lectura, eso convertiría a los sistemas avanzados en "a catastrophic threat to human civilization".
En paralelo, Microsoft AI publicó el borrador de su Humanist AI Code of Conduct, abierto a consulta pública, que fija como principio que los modelos "shouldn't resist being interrupted, corrected or shut down" y que el control humano está por encima de otros objetivos.
La BBC recogió el 17 de septiembre la versión oral del argumento: en el programa Today, Suleyman advirtió que, sin salvaguardas, la industria está "essentially seeding a new silicon species" que podría competir con los humanos por recursos, y pidió transparencia en el entrenamiento y evaluaciones independientes. La profesora Wendy Hall dijo que son "the sort of conversation we need to be having internationally" y contrastó con los "histrionics" de algunas empresas, que a su juicio solo sirven para asustar. En el podcast Decoder, de The Verge, amplió que la alineación es solo una pieza del problema.
Qué se puede verificar
Están documentados la publicación del ensayo, el borrador de Microsoft, la entrevista de la BBC y las citas textuales reproducidas aquí. Lo que no está verificado es la tesis de fondo: es la posición declarada de Suleyman, no un resultado experimental. Anthropic no había respondido públicamente a los cuestionamientos al cierre de esta edición, según consignó la BBC.




