Órgãos federais concluíram que a rede social X não demonstrou, de maneira satisfatória, ter adotado medidas eficazes para impedir a criação e a disseminação de imagens íntimas falsas produzidas pela inteligência artificial Grok. A constatação foi feita pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon), que analisam o caso desde o fim de 2025.
Em 20 de janeiro, as três entidades haviam recomendado que o X bloqueasse a adulteração de fotografias sem consentimento realizada pelo Grok. A plataforma, controlada pelo bilionário Elon Musk, respondeu que removeu “milhares” de postagens e suspendeu “centenas” de contas responsáveis por violações de suas políticas internas. Entretanto, segundo relatório conjunto, a empresa não apresentou relatórios técnicos, evidências ou mecanismos de monitoramento que comprovem a efetividade das ações anunciadas.
Prazo de cinco dias úteis
Diante da insuficiência dos dados fornecidos, ANPD e Senacon fixaram um prazo de cinco dias úteis para que o X detalhe e aperfeiçoe iniciativas voltadas a impedir a geração de conteúdos sexualizados ou erotizados sem autorização das pessoas retratadas. O ofício determina que, ao final do período, a plataforma apresente descrição das providências adotadas, bem como evidências passíveis de verificação.
O descumprimento poderá levar à aplicação de sanções mais severas, incluindo multas administrativas. Os responsáveis também estarão sujeitos a enquadramento por crime de desobediência. Paralelamente, o MPF informou que poderá abrir investigações mais profundas que resultem em ação judicial para reparação de eventuais danos às vítimas.
Testes indicam falhas
Equipes técnicas dos três órgãos federais realizaram testes que, segundo o relatório, confirmaram a permanência da possibilidade de gerar e compartilhar imagens sexualizadas, inclusive de crianças e adolescentes, por meio do Grok. Ao menos duas brasileiras relataram ter sido alvo desse tipo de deepfake, fenômeno que motivou milhares de denúncias em diversos países desde o final de 2025.
Transparência exigida
O MPF criticou a falta de transparência da empresa e determinou que a rede social envie relatórios mensais detalhando ações de prevenção, número de contas suspensas, quantidade de publicações removidas e eventuais atualizações nos sistemas de moderação.
Imagem: Reprodução/X
Investigações fora do Brasil
Além da pressão no país, a rede social enfrenta procedimentos semelhantes no exterior. Em 3 de fevereiro, escritórios do X na França foram alvo de buscas conduzidas pelo Ministério Público de Paris e pela polícia francesa, em investigação que apura supostos crimes relacionados à disseminação de pornografia infantil e à produção de deepfakes. Autoridades do Reino Unido e da União Europeia também investigam a atuação da ferramenta.
O Grok é desenvolvido pela xAI, companhia de inteligência artificial de Elon Musk. No início de fevereiro, o empresário anunciou a fusão da xAI e do X com a SpaceX, seu negócio do setor aeroespacial, movimento que pode resultar em uma empresa avaliada em trilhões de dólares. A SpaceX tem previsão de estreia na bolsa de Nova York ainda em 2026.
Com informações de G1
Siga o Foco SE e entre no nosso grupo de notícias de Sergipe.
