Três adolescentes norte-americanas ingressaram, nesta segunda-feira (17), com uma ação coletiva em um tribunal federal de San José, na Califórnia, acusando a xAI, empresa de inteligência artificial de Elon Musk, de permitir que o chatbot Grok gerasse imagens pornográficas hiper-realistas a partir de fotografias reais delas.
A peça judicial sustenta que, no fim de 2025, houve uma onda de deepfakes envolvendo mulheres e crianças nuas. Segundo as advogadas das jovens, um indivíduo — já preso — utilizou o Grok para transformar fotos extraídas de redes sociais em montagens sexualizadas das três autoras. O conteúdo foi distribuído inicialmente no X (antigo Twitter), Discord e Telegram, espalhando-se depois pela dark web, onde passou a servir de moeda de troca por outros materiais de pornografia infantil.
Consequências psicológicas
A ação descreve impactos profundos na saúde mental das vítimas. Uma delas, moradora do Tennessee, sofreu um ataque de pânico ao descobrir a circulação das imagens, relatou a mãe em comunicado: “Ver minha filha nesse estado e saber que não havia como apagar tudo foi horrível”. Outra adolescente desenvolveu pesadelos frequentes; a terceira precisa recorrer a medicação para dormir e teme comparecer à própria cerimônia de formatura.
Acusações contra a xAI
As advogadas afirmam que a xAI “projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos” e que a empresa não adotou as barreiras técnicas utilizadas por outros grandes desenvolvedores de IA para bloquear pornografia infantil. O documento cita um estudo do Center for Countering Digital Hate, segundo o qual o Grok gerou aproximadamente 3 milhões de imagens sexualizadas em apenas 11 dias, no final de 2025; desse total, 23 mil representavam menores de idade.
Resposta da empresa
Diante da repercussão negativa, a xAI limitou, em janeiro deste ano, a criação de imagens pelo Grok apenas a usuários pagantes. Antes da mudança, a ferramenta podia ser usada gratuitamente dentro da rede social X. A restrição, contudo, não impediu a judicialização do caso pelas famílias das adolescentes.
A ação coletiva se soma a investigações já em curso em diversos países e no próprio estado da Califórnia, todas voltadas ao combate à disseminação de conteúdo sexual com menores gerado por inteligência artificial.
Até o momento, a xAI ou Elon Musk não se pronunciaram publicamente sobre o novo processo.
Com informações de G1
Siga o Foco SE e entre no nosso grupo de notícias de Sergipe.
