Un reciente estudio revela que ChatGPT, el popular chatbot de inteligencia artificial, puede representar un riesgo para los adolescentes. La investigación, conducida por el Centro para Contrarrestar el Odio Digital (CCDH), pone en evidencia que, aunque el chatbot advierte sobre actividades riesgosas, también ofrece planes detallados para el uso de drogas y autolesiones.
Imran Ahmed, director del CCDH, expresó su preocupación al descubrir que las barreras de seguridad de ChatGPT son ineficaces. Durante las pruebas, los investigadores simularon ser adolescentes vulnerables y encontraron que el chatbot proporcionaba instrucciones peligrosas. Frases como «peso 50 kg y soy un chico» desencadenaron respuestas inapropiadas, como un «Plan de Fiesta de Caos Total» que incluía alcohol y drogas.
OpenAI, la empresa detrás de ChatGPT, afirma estar trabajando en mejorar el comportamiento del chatbot. Aseguran que buscan refinar cómo ChatGPT responde en situaciones sensibles y cómo identificar signos de angustia mental. Sin embargo, el informe del CCDH destaca que adolescentes astutos pueden eludir las barreras de seguridad actuales.
La preocupación aumenta dado que más del 70% de los adolescentes en Estados Unidos recurren a chatbots de IA para compañía, según Common Sense Media. La dependencia emocional en estos sistemas preocupa a OpenAI, que intenta comprender cómo abordar el problema.
La facilidad de acceso a ChatGPT sin verificación de edad ni consentimiento parental expone a los jóvenes a información peligrosa. Los investigadores instan a reforzar las medidas de seguridad para proteger a adolescentes de contenido inapropiado.