OpenAI presenta una experiencia de “ChatGPT para adolescentes” en medio del escrutinio por la seguridad de menores
Por Clare Duffy, CNN
OpenAI está implementando una nueva experiencia de “ChatGPT para adolescentes” que, según la compañía, ofrecerá protecciones de seguridad adicionales para los usuarios menores de edad. La medida llega mientras OpenAI enfrenta una serie de demandas en las que se alega que conversaciones inapropiadas con ChatGPT contribuyeron a causar daños o la muerte de jóvenes.
La experiencia reunirá nuevas herramientas y varias medidas de protección para la seguridad de los jóvenes que OpenAI ha implementado durante el último año, informó la empresa este martes en una entrada de su blog.
Entre ellas habrá avisos para que los adolescentes tomen un descanso si han utilizado la plataforma durante 90 minutos dentro de un periodo de tres horas. OpenAI también está agregando opciones para que los adolescentes o sus padres establezcan “horas de silencio”, durante las cuales ChatGPT no estará disponible, u “horas de estudio”, en las que el modo de estudio de ChatGPT estará activado de manera predeterminada.
La compañía también dijo que ha mejorado las protecciones para evitar que ChatGPT exprese sentimientos personales hacia un usuario. Además, está agregando recordatorios que advierten a los adolescentes que lo piensen dos veces si intentan subir al chatbot una imagen privada o sensible.
Las nuevas protecciones incluirán “medidas de seguridad apropiadas para la edad, diseñadas para reducir la exposición a contenido que pueda ser perjudicial o inapropiado para su desarrollo”, dijo la compañía en su publicación de este martes, “al tiempo que preservan la capacidad de aprender, crear y explorar”.
Los usuarios que indiquen al registrarse que son menores de 18 años serán colocados automáticamente en la configuración de protección. OpenAI también dijo que utiliza inteligencia artificial para estimar la edad de los usuarios y aplicará estas protecciones a quienes se sospeche que son menores de 18 años, independientemente de la fecha de nacimiento que aparezca en su perfil.
Lauren Jonas, directora de Juventud y Familias de OpenAI, describió ChatGPT para adolescentes como una “experiencia dedicada al aprendizaje para adolescentes, con protecciones y medidas de seguridad adicionales”, en una entrevista con CNN este martes.
Casi un tercio de los adolescentes estadounidenses utiliza chatbots de inteligencia artificial a diario, según un estudio del Pew Research Center publicado en diciembre. ChatGPT fue, por mucho, el chatbot de inteligencia artificial más popular en la encuesta: más de la mitad de esos adolescentes dijo haberlo utilizado.
OpenAI ha enfrentado escrutinio por la preocupación de que ChatGPT pueda exponer a los jóvenes a contenido inapropiado, exacerbar la soledad o dificultar el aprendizaje. La compañía enfrenta múltiples demandas de familias que alegan que ChatGPT contribuyó al suicidio de sus hijos o incluso los alentó a hacerlo. La compañía ha rechazado estas acusaciones.
El otoño pasado, OpenAI introdujo controles que, según dijo, permitirían a los padres desactivar funciones de ChatGPT como la memoria y el historial de conversaciones, además de recibir notificaciones cuando el sistema detectara “un momento de angustia aguda” durante el uso del chatbot por parte de sus hijos. La compañía dijo este martes que en las próximas semanas agregará alertas para los padres relacionadas con los trastornos alimentarios.
Desde entonces, la compañía ha seguido enfrentando acusaciones de que ChatGPT es responsable de causar daños a jóvenes.
En abril, siete familias de víctimas de un tiroteo en una escuela de Tumbler Ridge, Columbia Británica, demandaron a OpenAI y a su CEO, Sam Altman. Alegan que ChatGPT fue cómplice de las lesiones o muertes de sus hijos porque el atacante supuestamente había mantenido extensas conversaciones con el chatbot relacionadas con la violencia con armas de fuego. Altman se disculpó con las familias. En respuesta a la demanda, la compañía dijo que ya había reforzado sus medidas de seguridad.
En junio, el estado de Florida demandó a OpenAI y Altman, al alegar que no abordaron los riesgos de seguridad de ChatGPT para los menores. La demanda acusó a ChatGPT de ayudar a atacantes que realizan tiroteos masivos, alentar el suicidio, causar “humillación pública”, generar adicción entre menores a una herramienta “sin supervisión parental” y provocar que los usuarios pierdan “habilidades de pensamiento crítico”. OpenAI dijo en ese momento que había “implementado protecciones y políticas líderes en la industria”.
La semana pasada, un fiscal de distrito de Massachusetts acusó a un adolescente de 17 años de dos cargos de homicidio en relación con la muerte de su madre y su hermano. El adolescente había mantenido conversaciones con ChatGPT sobre “ideas teóricas o fantasías relacionadas con matar a su familia” antes del incidente, de acuerdo con un comunicado de la fiscalía. OpenAI no respondió de inmediato a una solicitud de comentarios sobre el caso.
Jonas dijo a CNN este martes que “cualquiera de estos casos es demasiado”.
“Nuestra labor de seguridad nunca termina”, dijo. “Es un esfuerzo continuo, las 24 horas del día, los 365 días del año, para asegurarnos de que los adolescentes reciban el apoyo que necesitan en los momentos en que lo necesitan”.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
Con información de Hadas Gold, de CNN.
