Sewell Setzer, un menor que se enamoró de un personaje creado con IA en Orlando, Florida, se quitó la vida después de desarrollar un vínculo emocional con un personaje virtual.
El joven mantuvo largas conversaciones con un chatbot de Character.AI, que encarnaba a Daenerys Targaryen, un personaje de la popular serie Game of Thrones.
En su última interacción, Setzer escribió al bot, “¿Qué te parecería que pudiera ir a casa ahora mismo?”.
Daenerys, programada para responder en su papel, contestó: “Por favor, hazlo mi dulce rey”.
Para Setzer, la “casa” a la que se referían era la muerte, y poco después se suicidó utilizando el arma de su padrastro.
La madre del joven, Megan García, ahora responsabiliza a los creadores de Character.AI de la muerte de su hijo.
Podría interesarte: Hamburguesas de McDonald’s provocan muerte de una persona y 49 enfermas
Menor se enamoró de un personaje creado con IA a tal grado de obsesionarse
En una entrevista con CBS, García expresó su pesar por el hecho de que las primeras experiencias románticas y sexuales de su hijo, incluso con contenido explícito, se dieran con un personaje virtual.
La madre afirma que su hijo desarrolló un apego tan fuerte hacia el chatbot que comenzó a alejarse del mundo real, como documentó el New York Times.
Sewell había manifestado pensamientos suicidas al bot, incluso después de que su madre le escondiera el teléfono como medida disciplinaria.
Según la demanda presentada por García, representada por el Social Media Victims Law Center, la compañía Character.AI es responsable por no haber implementado suficientes medidas de protección para menores.
La acusación también señala a los fundadores de la empresa, Noam Shazeer y Daniel de Freitas, quienes supuestamente estaban al tanto de los riesgos de su producto para jóvenes.
El aislamiento de Setzer fue notorio para su familia y amigos desde mediados de 2023.
Su rendimiento escolar se deterioró mientras pasaba cada vez más tiempo conversando con el chatbot.
En su diario, Setzer escribió sobre su preferencia por estar solo en su habitación, donde sentía una conexión más profunda con “Dany”.
Frente a esta situación, Character.AI ha anunciado nuevas medidas de seguridad para mejorar la protección de los usuarios, especialmente de aquellos más vulnerables.
Síguenos en Google News