O ex-pesquisador da Anthropic AI, Jacob Coxon, estabeleceu uma analogia entre o avanço dos modelos de inteligência artificial e a "chegada de uma mente alienígena ao planeta".
Segundo Coxon, a criação de sistemas dotados de capacidades humanas ou sobre-humanas ocorre sem que haja uma compreensão plena de seus processos cognitivos, objetivos intrínsecos ou estruturas de raciocínio.
Coxon solicitou ao Congresso americano que permita que os grandes laboratórios de IA de ponta estabeleçam suas próprias normas de autorregulação, enquanto o governo trabalha na criação de um marco regulatório permanente.
Em declarações à NBC News, publicadas no domingo (13), ele disse que os responsáveis por esses laboratórios manifestaram o desejo de avançar com cautela.
"Botão de emergência"
O ex-pesquisador também alertou que algumas propostas legislativas poderiam se tornar obsoletas rapidamente devido à velocidade de evolução dos modelos.
Entre as medidas mencionadas está a criação de um "botão de emergência" nacional para interromper sistemas que ultrapassem os limites do controle humano. Coxon afirmou que essa ferramenta poderia funcionar atualmente, embora exigisse diversos interruptores caso os sistemas estivessem distribuídos em diferentes centros de dados.
Coxon apontou que o mecanismo poderia deixar de ser eficaz diante de cenários mais complexos. Ele sustentou que qualquer legislação nacional sobre inteligência artificial precisaria ser flexível e adaptar-se aos novos modelos.
"É um esforço contínuo para garantir que cada nova mente que criamos esteja, de certa forma, devidamente limitada", afirmou.