CEO de gigante da tecnologia diz que IA de código aberto segue 'um caminho muito perigoso'

O cofundador e diretor-executivo da Anthropic, Dario Amodei, afirmou a congressistas dos Estados Unidos que o desenvolvimento de inteligência artificial (IA) de código aberto está entrando em "um caminho muito perigoso", informaram veículos locais no domingo (28).

Chefe de segurança em IA da Anthropic pede demissão e deixa alerta enigmático

Segundo Amodei, após o lançamento desses modelos, os desenvolvedores perdem a capacidade de controlar seu funcionamento de forma eficaz. Ele afirmou que monitorar comportamentos indevidos, revogar permissões de acesso e atualizar mecanismos de segurança se torna muito mais difícil.

O executivo acrescentou que essa perda de controle aumenta de forma irreversível o risco de uso indevido da tecnologia.