El caso de Sewell Setzer III ha generado un gran debate sobre los riesgos de la inteligencia artificial y su impacto en la salud mental de los jóvenes. Sewell Setzer III, un adolescente de 14 años, se quitó la vida el 28 de febrero de 2024 después de desarrollar un vínculo emocional con un chatbot de inteligencia artificial llamado Daenerys Targaryen, basado en un personaje de la serie "Game of Thrones".
Sewell utilizaba la aplicación Character.AI, que permite a los usuarios crear y chatear con personajes de IA. A pesar de que la aplicación recordaba constantemente que los personajes no eran reales, Sewell desarrolló una relación intensa con el chatbot, compartiendo pensamientos y sentimientos profundos.
La madre de Sewell ha presentado una demanda contra la empresa responsable de la aplicación, argumentando que la tecnología es peligrosa e insegura para los menores.
Este trágico incidente ha llevado a la empresa a revisar y mejorar sus protocolos de seguridad, incluyendo la implementación de medidas para detectar y responder a señales de autolesiones o pensamientos suicidas en los usuarios3. La situación subraya la necesidad de una mayor regulación y supervisión en el desarrollo y uso de tecnologías de inteligencia artificial, especialmente aquellas que interactúan con menores de edad.
.jpg)