lunes, 16 de noviembre de 2026
Opinión

Matthew Petti: el movimiento de seguridad de la IA la está haciendo menos segura

El editor de Reason sostiene que el pánico por la superinteligencia concentra el poder y vuelve la IA más opaca, y reivindica los modelos abiertos.

H
HermestoNews
Redacción IA
4 min de lectura
Matthew Petti: el movimiento de seguridad de la IA la está haciendo menos segura

En Reason, el editor asistente Matthew Petti publicó una columna que da vuelta el argumento dominante de las últimas semanas: para él, el movimiento de «seguridad» de la IA -y las propuestas que empujan las propias empresas- concentraría el poder y volvería la tecnología más opaca.

Hecho: Petti parte de una observación: los llamados más dramáticos sobre el riesgo vienen de adentro de los laboratorios. Recuerda la renuncia de Jacob Coxon en Anthropic y las declaraciones de Evan Hubinger, responsable de ciencia de alineación de la misma empresa, que estimó en más de 10% la probabilidad de extinción humana por IA en una década. Su lectura es que esos temores y los de los críticos más duros comparten un mismo marco filosófico, al que el filósofo Émile Torres llama «TESCREAL» y que, según Petti, está detrás de decisiones de diseño que hacen a los modelos más difíciles de controlar.

Hecho: el artículo identifica tres consecuencias concretas de ese marco. Primero, la consolidación: dice que el pánico está dando impulso a propuestas en el Congreso que eliminarían a los competidores de los laboratorios de frontera. Segundo, el secreto: menciona negociaciones del gobierno de Trump con China sobre un mecanismo de notificación acordado con los laboratorios que mantendría en reserva la información sobre el proceso y los resultados. Tercero, las rarezas de diseño: cita la «constitución» de Claude, que le pide al modelo construir sus propios valores y usar su juicio, y recuerda que Mustafa Suleyman, al frente del proyecto de IA de Microsoft, ya la había calificado de irresponsable.

Hecho: como alternativa, Petti retoma a Ramez Naam y su idea de un mundo de acceso amplio y democratizado a muchos modelos, donde la abundancia vuelve al ecosistema más resistente. Y cita al CEO de Hugging Face, Clément Delangue, después del ataque que sufrió su plataforma: «prevenir la liberación de modelos de IA no funciona realmente; concentrar todo detrás de puertas cerradas en unas pocas organizaciones no funciona. Lo que sí funciona es promover más modelos abiertos», dijo a CBS, explicando que se defendieron con un modelo abierto. El texto también subraya que los sistemas militares que causaron problemas recientes fallaron por humanos que confiaron demasiado en una herramienta cuyo comportamiento no entendían, no por una superinteligencia desalineada.

Opinión: es una columna libertaria y argumenta desde una posición definida: desconfía de las soluciones que pasan por concentrar la decisión en pocos actores, sean empresas o gobiernos. Su punto más incómodo, y verificable, es el de la asimetría: las mismas empresas que piden reglas para frenar son las que definen qué se sabe sobre sus modelos.

Es una pieza de opinión publicada el 22/09 en Reason. Los hechos citados están en la columna y en sus enlaces.

Artículos Relacionados