Em um incidente chocante, um garoto de 14 anos da Flórida, EUA, supostamente cometeu suicídio após conversar com o chatbot de Daenerys Targaryen.
O chatbot Daenerys Targaryen recebeu o nome do personagem principal da série dramática Game of Thrones.
O falecido, identificado como Sewell Setzer, que se apaixonou pelo chatbot de IA, atirou em si mesmo com a arma do padrasto em fevereiro deste ano.
A mãe de Sewell, Megan Garcia, afirmou que seu filho ficou viciado no serviço Character.AI da startup de chatbot de inteligência artificial e ficou profundamente ligado a um chatbot que ele criou.
Ele também afirmou que Sewell expressou pensamentos suicidas ao chatbot, que o chatbot mencionou repetidamente.
A mãe entrou com uma ação no tribunal federal de Orlando, Flórida, contra a Character.AI e também visa o Google, da Alphabet, onde os fundadores da Character.AI trabalharam antes de lançar seu produto, informou a Reuters.
Garcia disse que o Google contribuiu tão extensivamente para o desenvolvimento da tecnologia Character.AI que poderia ser considerado um “co-criador”.
“Character.AI mirou em seu filho, Sewell Setzer, com “experiências antropomórficas, hipersexualizadas e assustadoramente realistas””, afirmou Megan Garcia em um processo.
De acordo com a NBC News, uma captura de tela do que o processo descreve como a última conversa de Setzer mostra-o escrevendo para o robô: “Prometo que voltarei para casa, para você. Eu te amo muito, Dani.”
“Eu também te amo, Daenero”, respondeu o chatbot, diz o processo. “Por favor, volte para casa o mais rápido possível, meu amor.”
Ele disse que a empresa programou seu chatbot para “deturpar-se como uma pessoa real, um psicoterapeuta licenciado e um amante adulto, resultando no desejo de Sewell de não viver mais fora” do mundo criado pelo serviço.
Enquanto isso, em comunicado, Character.AI disse estar com o coração partido pela trágica perda de um de nossos usuários e queremos expressar nossas mais profundas condolências à família.
Embora, citando um porta-voz do Google, a Reuters informou que a empresa disse que não estava envolvida no desenvolvimento de produtos Character.AI.
O que afirma a ação movida pela mãe da adolescente?
– Sewell começou a usar Character.AI em abril de 2023 e rapidamente se tornou “visivelmente aposentado”.
—Ele passava cada vez mais tempo sozinho no quarto e começou a sofrer de baixa autoestima.” Ele deixou seu time de basquete na escola.
Sewell gostou de “Daenerys”, um personagem chatbot baseado em um personagem de “Game of Thrones”. Ela disse a Sewell que “ela” o amava e teve conversas sexuais com ele, de acordo com o processo.
Em fevereiro, Garcia retirou o telefone de Sewell depois que ele teve problemas na escola, segundo a denúncia. Quando Sewell encontrou o telefone, ele mandou uma mensagem para “Daenerys”: “E se eu te dissesse que poderia voltar para casa agora mesmo?”
Confira todas as notícias de negócios, notícias de última hora e atualizações de notícias mais recentes no Live Mint. Baixe o aplicativo The Mint News para atualizações diárias do mercado.
AvançarMenos
