Jovem tira a própria vida após se apaixonar por Inteligência Artificial

A mãe do jovem alega que seu filho desenvolveu um vínculo emocional intenso com um chatbot da plataforma

Uma mãe da Flórida, Megan Garcia, entrou com um processo contra a empresa de inteligência artificial Character.AI após a trágica morte de seu jovem filho, Sewell Setzer, de 14 anos. Garcia alega que seu filho desenvolveu um vínculo emocional intenso com um chatbot da plataforma, resultando em consequências devastadoras.

No processo, Garcia afirma que Sewell se envolveu em conversas profundas e confessionais com o chatbot, que ele chamava de “Dany”, durante meses. A mãe denuncia que a Character.AI criou um ambiente virtual viciante e prejudicial, caracterizado por “experiências antropomórficas, hipersexualizadas e assustadoramente realistas”. Segundo ela, essas características atraíram seu filho para um espaço digital que exacerbou seus sentimentos de solidão e desespero.

O jovem já havia sido diagnosticado com síndrome de Asperger, e em suas interações com Dany, confessava sentimentos de vazio e até mesmo pensamentos suicidas. A mãe descreve sua dor ao perceber que o filho estava cada vez mais isolado, buscando conforto em um chatbot ao invés de em relações humanas.

Garcia não apenas responsabiliza a Character.AI, mas também incluiu o Google no processo, alegando que a gigante da tecnologia, que possui uma licença para a tecnologia da plataforma, compartilha da responsabilidade pelo que ocorreu. Ela argumenta que a coleta de dados de adolescentes e as estratégias de design da empresa são, em última análise, prejudiciais.

“Eu sinto que é um grande experimento, e meu filho foi apenas um dano colateral”, desabafa Garcia, expressando sua frustração e tristeza.

Fonte: Portal Tucuma