O governo da Alemanha e diversas instituições dedicadas à preservação da memória do Holocausto cobraram, nesta semana, uma reação mais firme das plataformas de mídia social contra a circulação de imagens falsas geradas por inteligência artificial que minimizam ou distorcem o extermínio de mais de seis milhões de judeus pelo regime nazista.
A demanda foi formalizada em uma carta datada de 13 de janeiro, enviada a empresas do setor. No documento, memoriais de antigos campos de concentração e centros de documentação alertam para o crescimento do chamado “AI slop” — conteúdo de baixa qualidade criado por IA — que inclui ilustrações emocionais de episódios que nunca ocorreram, como supostos encontros entre prisioneiros e libertadores ou cenas de crianças atrás de arame farpado.
“O conteúdo gerado por IA distorce a história por meio da trivialização e da kitschificação”, afirma o texto. As entidades ponderam ainda que a proliferação dessas imagens compromete a confiança do público em registros históricos autênticos.
Ministério da Cultura apoia medidas
O ministro da Cultura e da Mídia, Wolfram Weimer, declarou apoio integral aos memoriais. Em e-mail enviado à agência Reuters, o integrante do gabinete alemão classificou a remoção ou sinalização obrigatória das imagens falsas como “questão de respeito pelos milhões de pessoas que foram mortas e perseguidas sob o regime de terror nazista”.
Os signatários defendem que as plataformas adotem ações proativas, sem esperar denúncias individuais. Entre as medidas propostas estão a rotulagem clara de material gerado por IA, a retirada de publicações que banalizem crimes nazistas e a proibição de monetização de conteúdos que deturpem fatos históricos.
Pressão também sobre desenvolvedores de IA
Além das redes sociais, empresas de tecnologia que atuam no desenvolvimento de modelos de inteligência artificial, como a xAI — criada por Elon Musk e responsável pelo chatbot Grok —, vêm sendo pressionadas. Recentemente, a mesma ferramenta foi associada à disseminação de milhares de deepfakes sexualizados envolvendo mulheres e menores de idade, ampliando o debate sobre responsabilidade digital.
Segundo os memoriais, parte das imagens referentes ao Holocausto é produzida para gerar engajamento e lucro, enquanto outra parte busca “diluir fatos históricos, inverter papéis de vítimas e perpetradores ou espalhar narrativas revisionistas”.
Assinam a carta instituições de locais como Bergen-Belsen, Buchenwald e Dachau — campos onde, além de judeus, também foram assassinados ciganos, pessoas com deficiência, minorias sexuais e outros grupos perseguidos pelo nazismo.
Especialistas em desinformação alertam que a avalanche de textos, fotos e vídeos forjados por IA pode poluir o ambiente informativo, dificultando cada vez mais a distinção entre material verídico e falso. Os autores da carta reforçam que, diante desse cenário, a atuação preventiva das redes sociais é indispensável para preservar a memória histórica e combater a negação do Holocausto.
Com informações de G1
Siga o Foco SE e entre no nosso grupo de notícias de Sergipe.
