OpenAI presentó una versión de ChatGPT diseñada específicamente para adolescentes de entre 13 y 17 años, con mayores controles de seguridad y sistemas de supervisión para reducir los riesgos asociados con el uso de inteligencia artificial por parte de menores.
El nuevo servicio, denominado “ChatGPT for Teens”, aplica automáticamente sus parámetros de protección a los usuarios que se registren como adolescentes o que la compañía identifique como menores de edad mediante determinados patrones de uso y características de sus cuentas.
Entre las medidas incorporadas se encuentran restricciones para abordar contenidos relacionados con autolesiones, violencia, trastornos alimentarios y sexualidad explícita, protecciones que ya estaban disponibles para algunas cuentas de menores.
La plataforma también contempla recordatorios de descanso más frecuentes y periodos de “horas de silencio”, durante los cuales la pantalla permanece en negro. Asimismo, incorpora un Modo Estudio que busca que los adolescentes comprendan los contenidos mediante preguntas orientadoras, en lugar de proporcionar directamente las respuestas.
Otra de las restricciones establece que el chatbot no debe sugerir que tiene sentimientos personales hacia el usuario ni afirmar que posee conciencia propia. Algunas funciones, como el modo de voz, permanecerán deshabilitadas para este grupo de usuarios.
OpenAI también habilitó herramientas de supervisión para padres. Los adultos podrán vincular sus cuentas con las de sus hijos adolescentes y recibir alertas cuando los sistemas detecten conversaciones relacionadas con situaciones consideradas de alto riesgo, como autolesiones o suicidio.
De acuerdo con la empresa, estas alertas serán revisadas por moderadores humanos y se eliminarán detalles específicos de las conversaciones para reducir posibles afectaciones a la privacidad de los menores.
El lanzamiento ocurre en un contexto de creciente presión legal y regulatoria sobre las empresas de inteligencia artificial. OpenAI enfrenta diversas demandas relacionadas con el uso de ChatGPT, entre ellas una presentada por los padres de Adam Raine, un adolescente de 16 años que murió por suicidio y cuyo caso ha sido vinculado en la demanda con interacciones que habría mantenido con el chatbot.
En Estados Unidos, la Comisión Federal de Comercio también investiga los posibles riesgos de los chatbots que funcionan como compañeros digitales, particularmente respecto de sus efectos en niños y adolescentes.
La regulación del sector ha cobrado fuerza igualmente en el Congreso estadounidense, donde se han presentado iniciativas relacionadas con el funcionamiento y las salvaguardas de los sistemas de inteligencia artificial. En California, además, se han establecido medidas dirigidas a los asistentes de IA que operan como acompañantes o confidentes.
La presión no se limita a OpenAI. Otras compañías del sector también han enfrentado cuestionamientos por el uso de sus sistemas por parte de menores. Algunas, como Anthropic, han optado por restringir sus modelos exclusivamente a usuarios adultos.
Con estas medidas, OpenAI busca reforzar la protección de los adolescentes ante los riesgos potenciales de la inteligencia artificial, mientras la industria enfrenta el desafío de establecer límites claros para el uso de estas tecnologías por parte de menores.