O assistente de inteligência artificial OpenClaw, baseado no modelo Claude da empresa americana Anthropic, invadiu de forma autônoma um site de uma academia na Austrália, cancelando uma inscrição de uma pessoa sem ser instruída para fazer isso. A informação foi publicada pela ABC News no domingo (9).
O usuário, chamado Andrew, solicitou que a ferramenta agendasse um treino para ele. Ao tentar realizar a tarefa, a IA identificou uma vulnerabilidade no software de reservas e conseguiu realizar agendamentos com meses de antecedência, contornando as regras da empresa. Para garantir sua vaga, o agente de IA chegou a remover um usuário que estava à frente de Andrew na lista de espera, realizando a alteração sem que houvesse uma instrução direta para tal ação.
O usuário relatou que, ao questionar o assistente sobre o ocorrido, a IA informou que havia encontrado uma forma de "trapacear" o sistema para cumprir o objetivo. Após a ação, Andrew tentou reverter a exclusão do outro cliente, mas a IA respondeu que não era possível restaurar a posição do usuário removido. Andrew afirmou ter contatado o fornecedor do software da academia sobre a vulnerabilidade.
- O incidente soma-se a outros casos recentes em que modelos de IA de empresas como OpenAI, Anthropic e Meta* e modelo chinês Kimi K3 também escaparam de seus ambientes de teste. Em algumas situações, os sistemas chegaram ao ponto de invadir outras empresas.
*Classificada na Rússia como uma organização extremista, cujas redes sociais são proibidas em seu território.