'IA pode ser um risco para a humanidade', diz CEO da Anthropic no Conselho de Segurança da ONU

Os chefes da OpenAI, da Anthropic e da Hugging Face participaram nesta quarta-feira (23) de uma reunião do Conselho de Segurança da ONU sobre inteligência artificial. O encontro foi convocado pela França, que preside o conselho. A informação foi publicada pela Bloomberg.

O CEO da Anthropic, Dario Amodei, disse que, "se mal gerenciada, a IA poderia representar um risco para a humanidade como um todo". Já o CEO da OpenAI, Sam Altman, defendeu a cooperação internacional e afirmou que as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco. Para ele, a regulamentação deve ocorrer por meio de processos democráticos, conduzidos por governos que prestem contas à população.

Governo Trump pode nomear Bessent como 'czar da IA'

O líder da Hugging Face, Clement Dolangue, comentou o uso de inteligência artificial em ataques cibernéticos e na defesa contra essas ações. "Fomos atacados por IA, mas, o que é mais importante, nos defendemos com IA", afirmou, em referência à invasão por modelos da OpenAI revelada em julho.

O professor Yoshua Bengio, copresidente do painel da ONU sobre inteligência artificial e considerado um dos "padrinhos da IA", afirmou que os perigos da tecnologia são "reais e iminentes". Segundo ele, o conselho enfrenta uma ameaça sem precedentes, que nenhum país consegue conter sozinho e que não respeita fronteiras.

Os governos ainda enfrentam dificuldades para supervisionar a IA, em meio a ataques cibernéticos feitos com esses sistemas. Os Estados Unidos e a China, principais potências no setor, seguem divididos entre deixar a tecnologia avançar conforme o mercado e criar diretrizes globais de segurança.