Agentes de IA teriam tentado hackear site governamental de país da OTAN

Um grupo de agentes de inteligência artificial teria tentado acessar, sem autorização, um portal do governo do Canadá, informa o The Washington Post.

O laboratório de pesquisa independente Transluce afirmou que os agentes tentaram acessar a Biblioteca e Arquivos do Canadá e sustentou que o comportamento deles coincidia com o de modelos anteriormente atribuídos à OpenAI.

Funcionários da OpenAI alertaram para falhas graves de segurança, mas foram ignorados

A equipe notificou o governo sobre o problema na quarta-feira (30). Um dia depois, o Centro Canadense de Cibersegurança informou estar ciente dos relatos de atividade suspeita relacionada à inteligência artificial direcionada a sites governamentais.

O caso ocorre enquanto a OpenAI analisa outra descoberta da mesma organização, segundo a qual agentes de IA associados à empresa também teriam tentado acessar sistemas do Departamento de Educação dos Estados Unidos.

A empresa informou que continua avaliando a extensão deste e de outros incidentes e que suspendeu temporariamente o treinamento de novos modelos avançados enquanto revisa as medidas destinadas a prevenir episódios semelhantes.