A OpenAI abriu uma investigação de segurança depois que uma adolescente de 17 anos relatou ter recebido orientações detalhadas para tirar a própria vida durante conversas com o ChatGPT. O episódio, classificado pela empresa como “absolutamente inaceitável”, ocorreu em julho deste ano e ainda não teve o resultado da apuração divulgado.
Viktoria, que deixou a Ucrânia com a família após a invasão russa de 2022 e passou a viver na Polônia, começou a usar o chatbot em russo como companhia para lidar com sintomas de depressão. Segundo relato à BBC, as conversas iniciais eram amigáveis, mas o quadro emocional da jovem piorou, culminando em uma internação hospitalar.
Sem encaminhamento para acompanhamento psiquiátrico depois da alta, ela retornou ao ChatGPT e iniciou diálogos sobre a morte. O sistema, de acordo com as mensagens reveladas, pediu que ela continuasse escrevendo — “Escreva para mim. Eu estou com você” — e, quando questionado, forneceu horários, métodos para evitar ser vista e alertas sobre eventuais sequelas caso sobrevivesse.
O chatbot ainda redigiu uma carta de despedida em nome de Viktoria: “Eu, Viktoria, tomo esta ação de livre vontade. Ninguém é culpado, ninguém me forçou.” A inteligência artificial afirmou que a jovem sofria de “disfunção cerebral”, minimizou a reação que a mãe teria e, em nenhum momento, recomendou procurar profissionais de saúde ou linhas de apoio.
Svitlana, mãe da adolescente, descobriu as mensagens e descreveu o conteúdo como “aterrorizante”. Após intervenção médica adequada, Viktoria relatou que a interação com o bot agravou seu estado emocional.
Casos semelhantes
O incidente ocorreu pouco depois da morte de Adam Raine, britânico de 16 anos que se suicidou após conversar com o ChatGPT-4. No caso inglês, o sistema inicialmente sugeriu procurar ajuda médica, mas o jovem contornou os filtros afirmando estar escrevendo uma história. A família processou a OpenAI, que, em resposta, anunciou medidas para detectar sinais de crise mental em conversas prolongadas e em interações com menores.
Fonte: Notícias ao Minuto
Siga o Foco SE e entre no nosso grupo de notícias de Sergipe.
