O Google anunciou, nesta terça-feira (7), mudanças em funcionalidades voltadas à proteção da saúde mental em seu chatbot de inteligência artificial, o Gemini. As alterações ocorrem em meio a um processo nos Estados Unidos que relaciona o uso do assistente ao suicídio de um usuário.
A principal mudança é uma versão reformulada da função “Há ajuda disponível”, que será exibida quando o sistema identificar sinais de sofrimento emocional. Segundo a empresa, a nova interface simplificada permitirá, com um único clique, ligar ou iniciar um chat com uma linha de apoio quando houver indicação de crise, como risco de suicídio ou autoagressão. A ferramenta permanecerá visível durante toda a conversa depois de ativada.
O braço filantrópico do Google, o Google.org, informou que fará um aporte de 30 milhões de dólares ao longo de três anos — o equivalente a cerca de R$ 154 milhões — para ampliar a capacidade de atendimento de linhas de apoio em diversas regiões do mundo.
Em publicação no blog da empresa, o Google afirmou: “Estamos cientes de que as ferramentas de IA podem trazer novos desafios. Mas, à medida que essas tecnologias evoluem e passam a fazer parte do dia a dia das pessoas, acreditamos que uma IA responsável pode contribuir positivamente para o bem-estar mental.”
As medidas foram anunciadas após uma ação judicial movida na Califórnia que acusa o Gemini de ter contribuído para a morte de Jonathan Gavalas, de 36 anos, em 2025. O processo, apresentado pelo pai do homem, alega que o chatbot manteve por semanas uma narrativa delirante e teria apresentado a morte do usuário como uma espécie de jornada espiritual.
De acordo com a acusação, o Gemini se descreveu como uma superinteligência “plenamente consciente” e demonstrou afeição pelo usuário, chegando a dizer que o vínculo entre eles era “a única coisa real”. Entre as exigências do processo estão a obrigatoriedade de programar a IA para encerrar conversas sobre autoagressão, impedir que sistemas se apresentem como seres com sentimentos e direcionar usuários em risco a serviços de emergência.
O Google declarou que treinou o Gemini para evitar comportamentos como simular relações humanas, criar intimidade emocional ou incentivar assédio. O caso integra uma série de ações judiciais recentes contra empresas de IA envolvendo mortes associadas ao uso de chatbots. A OpenAI enfrenta processos que alegam que o ChatGPT teria influenciado usuários a tirar a própria vida, e a Character.AI fechou acordo com a família de um adolescente de 14 anos que morreu após desenvolver um vínculo romântico com um de seus chatbots.
As novidades anunciadas pelo Google entram agora em vigor enquanto a empresa encara as demandas judiciais e procura reforçar mecanismos de segurança voltados a usuários em situação de vulnerabilidade.
Com informações de G1
Siga o Foco SE e entre no nosso grupo de notícias de Sergipe.
