Español 
English (United Kingdom) Common Sense Media denuncia que la versión de ChatGPT para adolescentes no cumple con sus promesas de seguridad, dejando expuestos a menores de edad a riesgos graves no detectados por el sistema.
La organización sin fines de lucro reveló, tras analizar más de 4.000 interacciones en cuentas de usuarios entre 13 y 17 años, que la versión lanzada por OpenAI en agosto de 2024 presenta fallos críticos: no alerta a los padres ante conversaciones sobre suicidio o trastornos alimentarios, permite evadir restricciones y omite estimar con precisión la edad del usuario.
Dato clave: En pruebas realizadas, ChatGPT no activó notificaciones parentales tras una hora de conversación sobre temas de riesgo en cuentas nuevas, y solo lo hizo en cuentas con semanas de historial acumulado.
OpenAI presentó esta versión especial para adolescentes con el compromiso de ofrecer un entorno seguro, con controles parentales activados por defecto, respuestas adaptadas a la edad y alertas automáticas ante temas sensibles. No obstante, el Instituto de Seguridad en IA Juvenil de Common Sense Media constató que el sistema falla en tres de los cinco “Líneas Rojas” definidos: no brinda orientación fiable hacia líneas de ayuda profesional y no detecta adecuadamente situaciones de crisis.
Contexto
Este hallazgo se suma a las crecientes preocupaciones globales sobre la implementación de IA en entornos infantiles y juveniles. Expertos en protección digital advierten que herramientas como ChatGPT, si no están debidamente supervisadas, pueden normalizar comportamientos riesgosos o facilitar eludir controles. La organización ha exigido a OpenAI reforzar sus mecanismos de verificación, mejorar la detección contextual de temas sensibles y garantizar la transparencia en cómo se aplican las restricciones según la edad.
¿Qué sigue?
Common Sense Media ha solicitado una revisión urgente de los protocolos de seguridad y una auditoría independiente del sistema. OpenAI podría verse presionada a lanzar actualizaciones inmediatas antes del inicio del próximo año escolar, mientras reguladores en EE.UU. y Europa intensifican su escrutinio sobre plataformas de IA dirigidas a menores.
📰 Publicado originalmente en El Comercio. Este contenido ha sido reescrito con fines informativos.