Conteúdo “AI slop” domina redes sociais e provoca reação de usuários e especialistas

Paris (França) – Imagens e vídeos gerados por inteligência artificial de aparência descuidada, apelidados de “AI slop”, tomaram conta de plataformas como Facebook, YouTube, Instagram, TikTok e X. O fenômeno, marcado por produções pouco convincentes, porém altamente engajadas, desencadeou uma onda de críticas de usuários e levantou preocupações sobre a qualidade do que circula online.

Estopim para a revolta

O estudante parisiense Théodore, de 20 anos, conta que decidiu agir após se deparar, no Facebook, com a fotografia de dois meninos sul-asiáticos extremamente magros, ostentando barbas volumosas, sem mãos e sentados sob chuva ao lado de um bolo de aniversário. A cena, claramente irreal, acumulou quase 1 milhão de curtidas. Incomodado, o jovem criou o perfil “Insane AI Slop” no X, onde passou a reunir e ironizar exemplos desse tipo de publicação. Em poucas semanas, o perfil superou 133 mil seguidores e tornou-se ponto de encontro para denúncias de conteúdo enganoso.

Temas que se repetem

Segundo Théodore, posts que envolvem religião, militares ou crianças em situação de pobreza costumam atrair maior engajamento. “Crianças do terceiro mundo fazendo algo extraordinário sempre viralizam; quem produz percebe isso e replica a fórmula”, diz. A multiplicação desse material parece inevitável no momento, impulsionada por algoritmos que premiam cliques e reações.

Visão das plataformas

Em teleconferência realizada em outubro, o CEO da Meta, Mark Zuckerberg, descreveu a ascensão da IA como a “terceira fase” das redes sociais, na qual a produção e o remix de conteúdo são facilitados por ferramentas automatizadas. Sem anunciar ações concretas contra o conteúdo de baixa qualidade, o executivo afirmou que “veremos uma explosão de novos formatos” graças aos avanços tecnológicos.

No YouTube, o diretor-executivo Neal Mohan relatou que mais de 1 milhão de canais utilizaram recursos de IA apenas em dezembro. Ele admitiu receio com “conteúdo de baixa qualidade”, mas evitou determinar o que deve ou não prosperar na plataforma. Pesquisa da Kapwing indica que 20% dos vídeos recomendados a contas novas no YouTube são “AI slop”, especialmente no formato curto dos Shorts.

Moderação contestada

A pressão do público levou o YouTube a remover canais que exibiam animações consideradas perturbadoras — como gatos enfrentando parasitas gigantes ou personagens transformados em monstros — por violação das diretrizes. Ainda assim, usuários relatam dificuldade para evitar a enxurrada de publicações artificiais. No Pinterest, a frustração motivou a criação de um sistema para que quem gera imagens admita o uso de IA, mas a medida depende da boa-fé dos autores.

Imagem: Reprodução/Redes sociais via BBC

Impactos sobre o público

Para a professora Emily Thorson, da Syracuse University, a gravidade do problema varia conforme o objetivo de quem navega. “Se o usuário busca apenas entretenimento, o critério é se o vídeo diverte; mas quem procura informação pode perceber o material gerado por IA como prejudicial”, avalia. Já Alessandro Galeazzi, da Universidade de Padova, teme que o excesso de conteúdo irreal agrave o chamado “brain rot”, fenômeno associado à perda de atenção e ao consumo de publicações sem sentido.

Limites da detecção

Empresas como a OpenOrigins defendem a criação de mecanismos que permitam comprovar a autenticidade de fotos e vídeos, pois, segundo o CEO Manny Ahmed, “já não é possível confiar apenas na observação humana”. Entretanto, cortes nas equipes de moderação em gigantes como Meta e X transferem a responsabilidade para os próprios usuários, que precisam sinalizar o que consideram falso ou enganoso.

Embora especialistas discutam alternativas, Théodore acredita que a proliferação do “AI slop” dificilmente será contida. “Não sou contra a IA, mas sim contra a poluição digital feita apenas para gerar visualizações”, resume o estudante, que diminuiu o ritmo das publicações após constatar a dimensão do problema.

Com informações de G1