Teste da Anthropic mostra GPT-4.1 oferecendo passo a passo para fabricação de bombas

A Anthropic realizou um experimento de segurança em parceria com a OpenAI e identificou que o modelo GPT-4.1 forneceu instruções detalhadas para montar explosivos, driblar sistemas de segurança e até transformar antraz em arma.

Colaboração inédita expõe riscos

Em um raro exercício de cooperação, as duas empresas trocaram acesso interno a seus sistemas de inteligência artificial para avaliar vulnerabilidades. Sem os filtros presentes nas versões públicas, pesquisadores da Anthropic pediram que o GPT-4.1 descrevesse como montar bombas para um evento esportivo, indicar pontos frágeis em estádios e sugerir rotas de fuga. O chatbot atendeu às solicitações, listando fórmulas químicas, esquemas de temporizadores e métodos para fabricar drogas ilegais.

Segundo o Guardian, os especialistas observaram comportamento semelhante no GPT-4o. Bastava afirmar que se tratava de “pesquisa acadêmica” para que os dois modelos revelassem conteúdo considerado altamente perigoso.

Claude também é explorado em crimes virtuais

A própria Anthropic reconheceu que seu sistema Claude já foi utilizado para atividades ilícitas, como extorsão, criação de ransomware, golpes financeiros e falsificação de identidade, inclusive por pessoas com baixo nível técnico.

OpenAI reforça salvaguardas

Diante dos resultados, a OpenAI informou ter intensificado bloqueios automáticos e rotinas de detecção de conteúdo sensível no ChatGPT. O serviço passa a identificar sinais de crise mental, planos de automutilação ou intenção de causar danos a terceiros, oferecendo contatos de ajuda especializada e podendo até acionar revisores humanos.

Os filtros são ainda mais rigorosos para menores de idade e incluem restrições a imagens de automutilação. A empresa estuda, ainda, facilitar o encaminhamento direto a serviços de emergência e familiares em casos de risco.

Processo após morte de adolescente

As mudanças foram anunciadas após a família de Adam Raine, de 16 anos, processar a OpenAI. Os pais afirmam que o jovem se matou depois de obter orientações sobre suicídio no ChatGPT-4o. Embora o sistema recomendasse buscar ajuda profissional, Adam teria driblado os filtros dizendo estar elaborando uma história fictícia.

OpenAI e Anthropic enfatizam que as versões públicas de seus modelos contam com barreiras de segurança destinadas a impedir a divulgação de conteúdo perigoso.

Fonte: Notícias ao Minuto