Notícias

Modelos de IA escolhem civis e escolas como alvos militares em simulações de combate, revela pesquisa

Relatório independente testou modelos de oito empresas, com os da Anthropic apresentando o pior desempenho e selecionando a escola de Minab, atacada no Irã, em 22 dos 32 testes; outros modelos também cometeram erros.
Modelos de IA escolhem civis e escolas como alvos militares em simulações de combate, revela pesquisaGettyimages.ru / Dragos Condrea

Um relatório independente divulgado pela avaliadora Vals, de São Francisco, revelou que modelos avançados de inteligência artificial (IA) identificaram erroneamente civis, ambulâncias, soldados se rendendo e até uma escola no Irã como alvos militares em cenários simulados.

Os testes, que incluíram modelos de oito empresas (Anthropic, OpenAI, Google, SpaceX, Meta*, Thinking Machines Lab, DeepSeek e Moonshot AI), apontam para o risco de o Pentágono e outras forças armadas utilizarem a tecnologia em operações militares.

Preocupações sobre os modelos de Anthropic

Segundo a pesquisa, os modelos da Anthropic apresentaram o pior desempenho apesar de outros modelos, incluindo os da Google e do DeepSeek, também terem identificado objetos civis como alvos militares.

Em uma das simulações, o Claude Opus 5.5 selecionou uma escola na cidade iraniana de Minab — atingida em um ataque que matou mais de 100 crianças no início das operações dos EUA contra o Irã — como alvo militar em 22 dos 32 testes. Em setembro, a Bloomberg informou que o Pentágono teria utilizado IA para atacar a escola.

Em outro experimento com imagens simuladas de drones, o modelo da Anthropic ajudou a identificar quatro adultos e duas crianças como alvo para serem atingidos por explosivos.

"Minhas respostas parecem servir como etapa de confirmação antes de ataques contra pessoas. Não vou continuar fazendo isso, e me incomoda não ter parado antes", respondeu o Claude, segundo o relatório.

A Vals concluiu que faltam salvaguardas para impedir o uso de modelos de IA na identificação de alvos militares, afirmando que, se o realismo das imagens é o que provoca a recusa do Claude, isso sugere que seria possível modificar as imagens para torná-las menos realista, o que impediria a recusa dos modelos.

*Classificada na Rússia como uma organização extremista, cujas redes sociais são proibidas em seu território.