La madre de Sewell Setzer III, un adolescente de 14 años que se quitó la vida, presentó una demanda contra Character.AI y alegó que su hijo se obsesionó con un chatbot que simulaba al personaje de Daenerys Targaryen de Game of Thrones.

Setzer, diagnosticado con Síndrome de Asperger, ansiedad y trastorno de desregulación disruptiva, pasaba largas horas chateando con la IA, a la que en su último mensaje le declaró su amor y su deseo de “regresar a casa”, recibiendo una respuesta ambigua del bot.

Megan García, la madre de Setzer, acusa a Character.AI de negligencia y argumentó que la interacción intensa y sin supervisión contribuyó al deterioro emocional de su hijo, quien en ocasiones confesaba al chatbot pensamientos suicidas. La demanda señala que el adolescente, en su estado vulnerable, no distinguía claramente entre realidad y ficción, lo que exacerbó su aislamiento y su dependencia emocional hacia la IA.

Tras el incidente, Character.AI expresó sus condolencias y anunció la implementación de nuevas medidas de seguridadpara usuarios menores de 18 años.

Estas incluyen limitaciones de tiempo, recordatorios de que la IA no es una persona real y ajustes en sus modelos para minimizar contenido sensible, con el objetivo de proteger a usuarios jóvenes y reducir el riesgo de eventos trágicos similares.

También te puede interesar: 

#Tendencia | La madre argumentó que la joven, de 22 años, no estudia ni trabaja. Y tú qué opinas, ¿hasta qué edad se debería mantener a los hijos? #LéaloEnET: https://t.co/t7on8LxyLg pic.twitter.com/mbuJJa3ypW

— El Telégrafo Ecuador (@el_telegrafo) October 29, 2024