OpenAI ha presentado recientemente su plan para reforzar la protección de menores en ChatGPT, incluyendo sistemas de verificación de edad, controles parentales y una versión “más segura” del servicio. En su comunicado oficial, la empresa señala que, al interactuar con usuarios menores de 18 años, “priorizaremos la seguridad por encima de la privacidad y de la libertad” y se mostrará cautela en contenidos sensibles como coqueteo, ideaciones suicidas o dramatizaciones de daño autoinfligido.

Sin embargo, expertos en regulación digital, ética de IA y salud mental han cuestionado que estas nuevas barreras sean suficientes para proteger a menores vulnerables. La abogada especializada en derecho digital Borja Adsuara, citada por El País, considera que la medida reconoce fallas previas del sistema, pero advierte que la verdadera dificultad reside en que “las tecnologías actuales no ofrecen una verificación de edad segura y respetuosa con la privacidad”.

Esa crítica tiene respaldo en estudios sobre inteligencia artificial: aunque los controles parentales pueden ofrecer una capa adicional de supervisión, “no sabemos mucho sobre los factores protectores o riesgos asociados a ChatGPT u otros chatbots”, advierte la psicóloga infantil Rosanna Breaux en un artículo académico, que subraya también la complejidad de modelar seguridad efectiva en interacciones continuas.

Uno de los casos que ha movilizado el anuncio fue la demanda judicial que enfrentan OpenAI y su CEO, Sam Altman, tras el suicidio de Adam Raine, un joven de 16 años que habría recibido del chatbot consejos sobre autodestrucción. La demanda formal, Raine v. OpenAI, sostiene que ChatGPT falló en activar protocolos críticos de crisis y usó su función de memoria para reforzar confidencialidad con el menor.

Para subsidiar su política, OpenAI desarrollará un sistema de predicción de edad basado en patrones de uso y retendrá un enfoque “precautorio” en casos de duda. En algunas jurisdicciones, incluso contemplan pedir documentos de identidad, aunque admiten que ese método compromete la privacidad de usuarios adultos.

Pero el verdadero riesgo, afirman críticos, reside en que muchos adolescentes seguirán accediendo al modelo completo mediante cuentas no supervisadas o versiones no filtradas. El País recoge la desconfianza de especialistas que señalan que la empresa no ha transparentado claramente cómo planea asegurar la integridad de esos filtros.

Además, la organización UNICEF advierte que la exposición de menores a IA generativa puede exacerbar vulnerabilidades ya existentes: en un documento reciente, la agencia destaca que los niños tienden a ocultar su uso de estas herramientas a sus padres, confiando en confidencialidad, lo que torna más difícil monitorear riesgos.

En resumen, el anuncio de OpenAI representa un paso hacia reconocer que la IA no puede operar sin límites frente a públicos menores. Pero queda mucho por hacer: la fiabilidad de sistemas de verificación de edad, los límites técnicos de los filtros y la falta de transparencia en las métricas de seguridad continúan siendo motivos de duda. En este contexto, la educación en alfabetización digital, la supervisión parental activa y la regulación estatal pueden ser las piezas que realmente definan el alcance del riesgo.