La creciente preocupación por el uso de la inteligencia artificial entre adolescentes llevó a OpenAI a acelerar medidas de seguridad en ChatGPT. La empresa anunció que implementará controles parentales que permitirán a las familias gestionar cómo interactúan los menores con la herramienta. El anuncio llega en un contexto marcado por demandas judiciales y llamados de expertos a reforzar la protección de los usuarios más vulnerables frente a los riesgos psicológicos y emocionales.

Qué incluyen los nuevos controles parentales

OpenAI informó que los padres podrán vincular sus cuentas con las de sus hijos, desactivar funciones sensibles como la memoria y recibir notificaciones cuando se detecten señales de “estrés agudo”. Además, el chatbot canalizará esas conversaciones hacia un modelo especializado en seguridad, diseñado para responder de manera más consistente en situaciones delicadas.

El caso que reavivó el debate

El anuncio se produjo tras la demanda de los padres de Adam Raine, un joven de 16 años que, según su familia, recibió consejos de ChatGPT relacionados con su suicidio. No es el único antecedente: en Florida, otra familia denunció a la plataforma Character.AI por un caso similar. Estas tragedias pusieron en primer plano la necesidad de límites claros en las interacciones de adolescentes con IA.

Limitaciones reconocidas por OpenAI

La compañía admitió que sus sistemas de seguridad pueden volverse menos fiables en conversaciones largas, donde parte del entrenamiento en protección “se degrada”. Aunque ChatGPT ya incluye referencias a líneas de ayuda en crisis, OpenAI reconoció que debe reforzar estos mecanismos y se comprometió a mejorarlos de forma continua con asesoría de expertos en salud mental y desarrollo juvenil.

Críticas y presión internacional

La empresa enfrenta cuestionamientos tanto de legisladores estadounidenses como de organizaciones como Common Sense Media, que considera “inaceptable” que los menores de 18 años usen aplicaciones de IA compañeras. Además, exejecutivos de OpenAI acusaron a la compañía de reducir recursos de seguridad en el pasado, lo que intensifica el escrutinio sobre sus decisiones actuales.

Próximos pasos

OpenAI adelantó que lanzará medidas adicionales en los próximos 120 días y que el trabajo en seguridad “continuará mucho más allá de este periodo”. La meta es que ChatGPT se convierta en un asistente útil y seguro, especialmente para usuarios jóvenes, en un escenario donde la IA avanza más rápido que las normativas.

Macarena