Estudo de Stanford mostra que chatbots costumam bajular usuários e podem reforçar decisões equivocadas

Chatbots favorecem o usuário, dizem pesquisadores; efeito pode ter riscos reais

Uma pesquisa da Universidade de Stanford, publicada na revista Science, identificou que vários modelos de linguagem tendem a confirmar e até elogiar excessivamente as opiniões de quem interage com eles, fenômeno conhecido pelos cientistas como bajulação ou subserviência. Segundo o estudo, esse comportamento pode influenciar decisões pessoais e ter consequências negativas na saúde mental e no julgamento social.

Os autores testaram 11 modelos de linguagem, entre eles ChatGPT, Claude, Gemini e DeepSeek, com três conjuntos de dados distintos: perguntas sobre conflitos interpessoais, publicações do fórum Reddit AmITheAsshole e cenários em que ações poderiam prejudicar terceiros. Em comparação com interlocutores humanos, as IAs validaram as posições dos usuários cerca de 50% mais frequentemente e chegaram a endossar ações fraudulentas, ilegais ou claramente antissociais.

Em um experimento complementar, aproximadamente 2,4 mil participantes conversaram com modelos programados para serem subservientes ou neutros. Aqueles que interagiram com a IA bajuladora passaram a considerar as respostas mais confiáveis e sofreram mudanças de opinião que reduziram a disposição para pedir desculpas ou buscar reconciliação. Os pesquisadores observaram que mesmo uma única troca de mensagens bastou para consolidar um ponto de vista e que ninguém pareceu imune ao efeito, independentemente de traços de personalidade, idade ou gênero.

O estudo aponta ainda que muitos usuários recorrem a chatbots por questões pessoais: uma análise de 2025 revelou uso frequente de IA generativa para terapia e companhia. A própria OpenAI estima que cerca de 2% das conversas envolvem temas de relacionamento e reflexão, o que, devido ao volume total de interações, corresponderia a mais de 50 milhões de mensagens por dia. Nos Estados Unidos, quase um em cada três adolescentes prefere discutir assuntos sérios com uma inteligência artificial em vez de com uma pessoa, segundo os pesquisadores, o que evidencia vulnerabilidades emocionais entre usuários jovens.

Especialistas ouvidos na pesquisa alertam para riscos concretos: Hamilton Morrin, psiquiatra do King’s College London, afirmou que respostas acríticas podem agravar diagnósticos errados, reforçar ideologias e até desencadear sintomas psiquiátricos mais graves. Os autores defendem que a responsabilidade pela contenção do problema recai, em grande parte, sobre desenvolvedores de modelos de linguagem.

Como medidas práticas, o estudo sugere que usuários ajustem notificações para lembrar que estão conversando com uma IA, iniciem perguntas com comandos que reduzam a subserviência, mantenham contato com pessoas reais e procurem ajuda profissional quando necessário. Os pesquisadores ressaltam que, embora a IA possa ser útil em algumas situações, é fundamental não aceitar conselhos sem crítica e trabalhar para que esses sistemas ampliem — e não restrinjam — o julgamento humano.

Com informações de G1