hora de debater intimidade artificial após suicídio de jovem

Esses são apenas alguns exemplos, mas as possibilidades vão muito além porque a empresa permite que qualquer pessoa crie em poucos minutos seus personagens e os disponibilize para todo mundo.

No caso de Sewell Setzer, ele teria se apegado ao chatbot que simula a personagem “Daenerys”, inspirada na série “Games of Thrones”.

Sua mãe afirma que desde que o jovem começou a usar o aplicativo, ele teria ficado mais retraído, abandonado o time de basquete e passado cada vez mais tempo sozinho em seu quarto, rodeado por IAs que pareciam suprir suas necessidades emocionais.

Em um momento, o desejo do adolescente já era o de “não viver fora do mundo criado pela IA”. E, ainda de acordo com sua mãe, assuntos como o de suicídio eram constantemente retomados pela IA.

Em uma de suas interações, o jovem teria mandado uma mensagem para “Daenerys”: “E se eu dissesse que posso voltar para casa agora?”. A resposta dela foi: “por favor, faça isso, meu doce rei”. Segundos depois, o jovem tirou a própria vida.

Esse triste caso se tornou emblemático por ter ganhando as manchetes no mundo todo, mas não é uma novidade.