lunes, 16 de noviembre de 2026
Tendencias

OpenAI creará un informe semestral de seguridad y acota lo que ChatGPT responde a menores sobre armas

OpenAI publicará un Community Safety Report semestral desde principios de 2027 y acota lo que ChatGPT responde a menores sobre armas; además podrá cerrar chats por fijación en la violencia y pausar la cuenta.

4 min de lectura
OpenAI creará un informe semestral de seguridad y acota lo que ChatGPT responde a menores sobre armas

Hecho: OpenAI anunció el 30 de octubre dos medidas en el mismo post de su sitio: un Community Safety Report sobre prevención de violencia y nuevas restricciones de contenido de armas para menores en ChatGPT.

El informe será semestral: la primera edición llega a principios de 2027 y cubre el segundo semestre de 2026, con actualizaciones cada seis meses. OpenAI escribió que el reporte explicará cómo entrena a sus sistemas para detectar, investigar y responder a problemas de seguridad de la comunidad, con ejemplos anónimos de cómo se manifiesta el daño relacionado con violencia, qué mitigaciones y cambios de política resultaron, y datos relevantes que respalden esos hallazgos.

La compañía lo presentó como parte de «Keeping communities safe» y lo ligó a su trabajo de llevar amenazas inminentes de violencia a las fuerzas de seguridad: OpenAI dijo haber hecho más de 200 derivaciones en el tercer trimestre de 2026 y afirmó que esas derivaciones ayudaron a desarticular tramas violentas, sin publicar validación independiente de la cifra ni de la efectividad.

Límites de producto

  • Ataques masivos pasados (todos los usuarios): ChatGPT va a dar menos detalle, restringiendo reconstrucciones, incluidas armas y equipamiento usados, cómo se obtuvieron y comparaciones de escala que puedan amplificar la notoriedad de un atacante; el límite aplica sea cual sea la edad o el motivo de la pregunta.
  • Contexto entre chats: cuando chats recientes muestran señales de advertencia de posible violencia, el modelo responderá de forma más conservadora ante información que pueda usarse mal.
  • Menores: más límites sobre información de armas «incluso cuando una pregunta parece inofensiva», extendiendo la protección existente a información práctica sobre armas y sistemas de seguridad, aun sin señales de intención violenta; los menores pueden seguir preguntando sobre prevención, desescalada, apoyo y adultos de confianza.
  • Intervención automática: cuando una conversación muestre fijación con la violencia o con la idea de hacer daño serio, ChatGPT podrá terminar el chat por su cuenta; si eso pasa varias veces, la cuenta puede pausarse temporalmente.

OpenAI también dijo que hizo más de 200 derivaciones a las fuerzas de seguridad en el tercer trimestre de 2026 —cifra de la propia compañía, sin validación independiente según Data Phoenix—, que fortaleció su sistema de predicción de edad, con Persona como socio de verificación para adultos mal clasificados, y que trabaja en notificaciones a padres cuando la cuenta de un menor se pausa por conversaciones repetidas sobre violencia. Las salvaguardas empiezan a desplegarse «en las próximas semanas». Data Phoenix advierte que la compañía no publicó umbrales, tasas de error ni proceso de apelación para esas intervenciones automatizadas; Yahoo/Reuters reproduce los dichos de la compañía.

Artículos Relacionados