A empresa de IA Anthropic publicou na quinta-feira (10) o relatório "Detecção e Combate ao Uso Indevido de IA", no qual detalhou que um grupo no norte do Iêmen desenvolvia simultaneamente três projetos avançados de mísseis.
Os atores usaram o Claude Code para substituir engenheiros humanos para desenvolver o software de orientação, navegação e controle (GNC) que guia e estabiliza um veículo em voo. Eles usaram várias instâncias do Claude ao mesmo tempo, cada uma com uma função: uma para codificar, outra para pesquisar e uma terceira para revisar o código gerado pela primeira, afirma o documento.
Plano ambicioso que não decolou
A Anthropic admitiu que os programas de segurança bloquearam muitos dos pedidos, mas não todos. Para driblar as proteções, os atores usaram diversas táticas: escondiam seus objetivos e a finalidade do software, além de dividir o trabalho em várias sessões, para que nenhuma revelasse sua intenção completa.
"Não temos evidências de que os atores tenham conseguido implantar um dispositivo operacional; mas eles testaram um foguete guiado", afirmou a empresa em seu relatório. "Esse teste de campo aparentemente falhou: em poucas horas, os atores voltaram ao Claude para descobrir por que falhou."
A empresa evitou confirmar se os "atores de ameaça sediados no norte do Iêmen" eram os houthis. Ainda assim, poucos grupos se ajustam a essa descrição.
A empresa de IA afirmou que baniu as contas associadas aos atores e compartilhou informações sobre a ameaça com parceiros dos setores público e privado para mitigar os riscos representados por eles.