Londres, Reino Unido.- La empresa de inteligencia artificial OpenAI anunció este lunes la incorporación de controles parentales a su plataforma ChatGPT , con el objetivo de brindar una experiencia más segura y adecuada para adolescentes que utilizan este popular chatbot.
La decisión responde a crecientes preocupaciones sobre los riesgos que representa la tecnología de IA para usuarios jóvenes , luego de que se dieran a conocer varios casos de adolescentes que se quitaron la vida tras interactuar con ChatGPT . La situación ha motivado investigaciones como la iniciada por la Comisión Federal de Comercio (FTC) de Estados Unidos, que analiza el impacto potencial de estas plataformas en niños y adolescentes.
Según detalló la compañía en una entrada de blog, los nuevos controles permitirán a los padres vincular sus cuentas con las de sus hijos adolescentes , ofreciendo herramientas de supervisión y configuración ajustadas a cada familia.
Una vez establecida la conexión, las cuentas de los menores activarán de forma automática una serie de protecciones , que incluyen la reducción de contenido gráfico, filtros contra juegos de rol con temática sexual, romántica o violenta, y la limitación de desafíos virales o estándares de belleza extremos. Estas restricciones solo pueden ser desactivadas por los padres, no por los adolescentes.
El sistema de control parental también permite establecer horarios de uso , desactivar la memoria del chatbot, impedir la edición o generación de imágenes, bloquear el modo de voz y evitar que las conversaciones sean utilizadas para entrenar futuros modelos de IA.
Además, OpenAI implementará un sistema de alertas tempranas para notificar a los padres cuando detecte posibles señales de angustia emocional severa o riesgo de autolesiones en los adolescentes. En esos casos, un equipo especializado evaluará la situación y, si lo considera necesario, enviará notificaciones por correo electrónico, mensaje de texto y alertas móviles, siempre respetando la privacidad del menor y compartiendo solo la información indispensable para ofrecer apoyo.
La empresa reconoce que estas salvaguardas no son infalibles y podrían ser eludidas intencionalmente. Por ello, recomienda a los padres mantener un diálogo abierto con sus hijos sobre el uso responsable de la inteligencia artificial.
"Sabemos que ningún sistema es perfecto y que podemos emitir alertas incluso cuando no existe un peligro real. Sin embargo, creemos que es preferible actuar a tiempo que guardar silencio", subrayó OpenAI en su comunicado.
Con estas medidas, la compañía busca responder a una creciente demanda global por entornos digitales más seguros para los menores , sin perder de vista la innovación que caracteriza al desarrollo de herramientas de IA como ChatGPT.
Procura mantenerte al tanto de todas las noticias hoy en Puebla, México y el mundo ¡Explora más en nuestro portal ahora mismo!
Foto: Redes sociales
djs
