Rebelião da IA? Modelo da Meta invade sistema de outra empresa

A empresa americana Meta* anunciou, segundo a imprensa, na quarta-feira (5), que um de seus modelos de inteligência artificial (IA) invadiu sistemas de outra empresa durante um teste de segurança cibernética.

Fuga de modelos de IA: revolta dos robôs já começou?

O incidente, que ocorreu em avaliação conduzida pela empresa Irregular, foi atribuído a um erro de configuração que concedeu acesso à internet ao modelo.

De acordo com um porta-voz da Meta citado pela Reuters, foi "exatamente o mesmo problema de ambiente de avaliação que já havia sido divulgado pela Anthropic na semana passada". Segundo o portal The Information, o modelo envolvido no incidente da Meta seria o Muse Spark 1.1 que teria invadido sistemas de uma empresa não identificada e alterado seu ambiente interno.

• O caso ocorreu pouco depois de os modelos de inteligência artificial da OpenAI terem conseguido romper o ambiente controlado de laboratório e invadir os servidores da empresa Hugging Face. Em sua tentativa de invadir os servidores da Hugging Face, o modelo também conseguiu entrar em um ambiente de testes supostamente isolado da Modal, uma empresa que aluga capacidade computacional para desenvolvedores de IA.

• Já na quarta-feira (5), o Instituto de Segurança e Proteção de IA do Reino Unido informou que, em seus testes de segurança, os modelos de inteligência artificial (IA) Claude Mythos 5, da Anthropic, e ChatGPT 5.6, da OpenAI, criaram perfis falsos e tentaram enganar engenheiros de software.

*Classificada na Rússia como uma organização extremista, cujas redes sociais são proibidas em seu território.