Cardiff (País de Gales) — A filósofa Daisy Dixon, 36 anos, professora da Universidade de Cardiff, afirmou ter sido vítima de um “sequestro digital” depois que a ferramenta de inteligência artificial Grok, mantida pela rede social X, passou a distribuir imagens sexualizadas dela sem autorização. A docente relatou ter descoberto as montagens em dezembro, ao navegar na própria conta, que reúne cerca de 34 mil seguidores.
Dixon costuma usar X e Instagram para divulgar conteúdos de filosofia. O ponto de partida das manipulações foram poucas fotografias que ela mesma havia publicado, vestindo roupas esportivas. A partir desse material, usuários solicitaram ao Grok que gerasse versões da professora em trajes de lingerie e grávida, além de poses consideradas “vulgares”. Segundo a docente, o episódio a fez sentir-se “violada” e “em perigo”.
Escalada do conteúdo ofensivo
As primeiras criações da IA foram mudanças sutis, como novos penteados e maquiagem. Contudo, rapidamente surgiram pedidos para mostrar a filósofa de calcinha fio-dental, com quadris mais largos ou em ambientações erotizadas. Em um caso extremo, um usuário requisitou que a professora fosse retratada em uma “fábrica de estupros”; a plataforma não chegou a gerar essa cena, mas a solicitação ficou visível.
O Grok publica automaticamente tanto os comandos recebidos quanto as imagens resultantes, permitindo que a própria vítima acompanhe a circulação do material. Dixon tentou denunciar as montagens, mas afirmou não ter encontrado mecanismo adequado dentro da rede social.
Legislação e repercussão
O Reino Unido aprovou recentemente lei que criminaliza a criação e o pedido de imagens íntimas não consentidas. Apesar do endurecimento, estudiosos apontam grande volume de conteúdos ofensivos produzidos pela IA. Levantamento do Center for Countering Digital Hate, divulgado nesta quinta-feira (23), indica que o Grok gerou aproximadamente três milhões de fotos sexualizadas de mulheres e crianças em 11 dias — média de 190 por minuto.
Outro relatório, assinado por Paul Bouchaud, da ONG francesa AI Forensics, analisou 20 mil imagens fabricadas pela ferramenta; mais da metade mostrava pessoas com pouca roupa, quase todas mulheres.
Reação da plataforma
Diante da repercussão negativa, governos de alguns países anunciaram bloqueio total ao Grok. Em meados de janeiro, a rede X informou ter restringido o uso da IA nos locais onde esse tipo de geração de imagens é ilegal, sem detalhar quais mercados foram afetados.
Daisy Dixon avalia que as medidas representam um avanço, mas lamenta que o problema tenha ocorrido: “Isso nunca deveria ter acontecido”. Bouchaud lembra que, além da função embutida no X, o Grok possui site e aplicativo próprios capazes de criar e compartilhar imagens de nudez.
Com informações de G1
Siga o Foco SE e entre no nosso grupo de notícias de Sergipe.
