Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge por não ter comunicado à polícia canadense sinais de alerta identificados em uma conta do ChatGPT que foi banida meses antes de um ataque em fevereiro que matou oito pessoas.
Na carta endereçada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, e divulgada na sexta-feira, 24 de abril, Altman afirmou estar “profundamente arrependido” por não ter informado as autoridades sobre a conta banida em junho, oito meses antes do crime.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. As autoridades canadenses dizem que a conta da suspeita havia sido identificada pelos sistemas de detecção de abuso da OpenAI e suspensa em junho.
Altman reconheceu que palavras não são suficientes, mas considerou necessário apresentar um pedido de desculpas para reconhecer a perda sofrida pela comunidade.
“Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, escreveu Altman.
David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”.
Como a OpenAI responde a riscos
A OpenAI afirma empregar sistemas automatizados de moderação que analisam conteúdos em tempo real. Esses mecanismos podem restringir ou banir contas por violações às regras, que incluem exploração sexual, incentivo à automutilação e promoção de violência. Em situações graves, os sinais gerados pelos sistemas são encaminhados para revisão humana e, se for identificada uma ameaça crível, a empresa diz que pode compartilhar dados relevantes com as autoridades policiais.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e alertaram sobre possíveis medidas regulatórias caso não fossem feitas mudanças. A empresa informou que tomaria medidas para reforçar suas proteções e criou um canal de contato direto com a polícia.
Na carta, Altman afirmou que a OpenAI está comprometida em trabalhar com governos em diferentes níveis para tentar evitar tragédias semelhantes no futuro.
Familiares de uma menina que ficou gravemente ferida no ataque apresentaram uma ação judicial por negligência contra a OpenAI, alegando que a empresa teria sabido que a suspeita planejava um “evento com mortes em massa” e não tomou providências.
