OpenAI ha anunciado una actualización integral en sus políticas de gobernanza y protección ciudadana para frenar la proliferación de conductas peligrosas en sus plataformas. A través de un comunicado oficial publicado en el día de ayer, la compañía tecnológica confirmó que ChatGPT cuenta ahora con la capacidad técnica de interrumpir y finalizar de forma unilateral cualquier conversación cuando detecte fijaciones violentas o intenciones de causar daño a terceros, incorporando además medidas disciplinarias sobre las cuentas infractoras y un protocolo periódico de transparencia institucional.
Cierre forzoso de chats, congelación de cuentas y más de 200 avisos a la policía
El nuevo mecanismo preventivo del modelo actúa como un cortafuegos activo en tiempo real:
- Finalización inmediata de la sesión: Si los algoritmos de detección identifican que el usuario muestra obsesión con actos violentos o verbaliza planes para herir a otras personas, el sistema corta la conversación al instante para frenar la escalada conductual.
- Sanciones por reincidencia: Si un mismo perfil acumula varias interrupciones forzosas por este motivo, OpenAI procederá a la congelación temporal de la cuenta.
- Remisión a las fuerzas del orden: La empresa reveló que parte de su operativa diaria consiste en dar aviso proactivo a las autoridades policiales ante amenazas inminentes. Solo a lo largo del tercer trimestre de 2026, OpenAI trasladó más de 200 pistas e informes de casos a los cuerpos de seguridad.
Bloqueo al ‘morbo’ táctico en ataques masivos y protección reforzada a menores
Para evitar que la IA se utilice como herramienta de glorificación o aprendizaje operativo de crímenes del pasado, OpenAI ha rediseñado las respuestas relacionadas con atentados y ataques a gran escala:
- Síntesis extrema de hechos históricos: Aunque la información sea pública en internet, el chatbot responderá con datos estrictamente concisos. Se prohíbe el desglose de parámetros de armamento, métodos de adquisición de equipos tácticos o comparativas de daños que ensalcen la notoriedad de los perpetradores. La plataforma mantendrá abiertas las consultas enfocadas en el impacto social, la memoria de las víctimas y las pautas para identificar señales tempranas de alerta.
- Restricción absoluta sobre armas en adolescentes: Las cuentas de usuarios menores de edad tendrán vetado el acceso a información sobre armas de fuego, incluso ante preguntas contextuales o aparentemente inocuas. Asimismo, el sistema bloquea cualquier conocimiento práctico sobre manipulación de armas o técnicas para evadir controles de seguridad para la totalidad de los usuarios.
- Notificaciones de control parental: OpenAI desarrolla una función para alertar de inmediato a los padres o tutores legales cuando la cuenta de un menor sea suspendida temporalmente tras insistir en temáticas violentas.
Informes semestrales de seguridad a partir de 2027
Con el objetivo de fiscalizar la efectividad de estos filtros, OpenAI publicará formalmente su Informe de Seguridad Comunitaria (Community Safety Report):
- Primer informe: Verá la luz a principios de 2027, auditando los datos y métricas de seguridad correspondientes al segundo semestre de 2026.
- Periodicidad: Se actualizará cada seis meses para divulgar los avances en contención de violencia, efectividad de los filtros de moderación y patrones de riesgo detectados en la plataforma.
La delgada línea entre el deber de auxilio y la vigilancia masiva del prompt
El endurecimiento de OpenAI abre un debate ético y técnico que trasciende a la propia compañía. Por un lado, la responsabilidad social de una plataforma que gestiona cientos de millones de interacciones diarias es indiscutible: impedir que un modelo de lenguaje actúe como manual táctico para atentados o no alertar a la policía ante un peligro de muerte inminente sería una negligencia corporativa insostenible.
Sin embargo, el informe de más de 200 casos remitidos a la policía en solo tres meses evidencia que las conversaciones con ChatGPT están sujetas a un escrutinio automatizado constante. La introducción de mecanismos que cierran el chat, congelan perfiles y reportan a las autoridades sitúa a la IA generativa en el terreno de la monitorización preventiva. El desafío técnico será la tasa de falsos positivos: distinguir cuándo un usuario indaga sobre calibres o tácticas militares por motivos literarios, periodísticos o de ficción, y cuándo existe una intención delictiva real. A medida que las tecnológicas asumen funciones casi policiales en la nube, el usuario debe interiorizar que el prompt nunca ha sido un espacio confidencial.
Déjanos tu opinión en los comentarios y únete a la discusión en Instagram, Facebook y YouTube.
