
Não é mais ficção científica: a IA já ajuda a matar

A possibilidade de a inteligência artificial (IA) participar em decisões com consequências letais deixou de ser mera ficção científica, uma vez que esta tecnologia está a ser utilizada pelas forças armadas dos EUA em operações onde civis estão em risco, de acordo com uma análise publicada na sexta-feira (17) pela revista Responsible Statecraft.
Embora alguns defensores da sua utilização argumentem que a IA poderá reduzir os danos à população civil, uma audiência recente no Congresso dos EUA lançou dúvidas sobre se essa promessa está a ser cumprida na prática.
Civis mortos por "engano"

De acordo com a Responsible Statecraft, o Pentágono identificou e atacou 13 mil alvos nos primeiros 38 dias do conflito com o Irã, utilizando o sistema Maven Smart, desenvolvido pela Palantir, para selecionar alvos e armamentos. No entanto, Steven Feldstein, da Carnegie Endowment for International Peace, alertou durante a audiência que, embora alguns afirmem uma precisão de 90% na seleção de alvos militares, o número real pode estar "mais próximo de 50%".
Feldstein acrescentou que, mesmo que a precisão melhore, o problema é que o volume de alvos também aumenta, de modo que o número total de civis afetados pode acabar sendo maior.
Entre os casos mais trágicos está o ataque de 28 de fevereiro a uma escola primária feminina em Minab, no Irã, que deixou mais de 170 mortos e que foi associado ao sistema Maven. Em resposta, um executivo da Palantir argumentou que, historicamente, a tecnologia "sempre reduziu os danos colaterais", embora especialistas tenham exigido provas concretas de que esses sistemas realmente oferecem melhor proteção à população civil.
Decidindo o que é aceitável
De acordo com a Responsible Statecraft, os sistemas de IA não operam isoladamente, mas sim executam ordens com base em regras de engajamento definidas por pessoas. Se essas regras não priorizarem a proteção de civis, o resultado ainda pode ser letal. Feldstein concluiu que, se um exército decide que "é aceitável que cinco civis morram para cada suspeito atacado [...], ele está dizendo à máquina o que é aceitável".
Como exemplo, a Responsible Statecraft citou o caso do Lavender, um sistema de IA desenvolvido pela unidade de inteligência do Exército israelense e usado para alvejar cerca de 37 mil homens palestinos supostamente ligados ao Hamas ou à Jihad Islâmica Palestina.
No entanto, uma fonte da inteligência israelense confirmou que havia pressão constante para expandir a lista de alvos. Nesse contexto, as Forças de Defesa de Israel aceitaram ataques contra alvos de baixo nível, mesmo quando isso poderia resultar na morte de 15 a 20 civis como dano colateral.
Embora os defensores da IA argumentem que essa tecnologia poderia tornar a guerra mais precisa e humana, o treinamento para minimizar danos à população civil estaria sendo enfraquecido. O Responsible Statecraft destaca que o Centro de Excelência para Proteção Civil do Pentágono, criado em 2023 para treinar comandantes nessas medidas, terá sua equipe reduzida de 40 pessoas em janeiro de 2025 para apenas nove até o final do ano.

