Anthropic reuniu líderes religiosos para discutir consciência e princípios morais em IA

A gigante tecnológica Anthropic reuniu durante meses dezenas de estudiosos de diferentes religiões para refletir sobre como incorporar princípios morais ao Claude, sua família de modelos de inteligência artificial (IA), e discutir se esses sistemas poderiam desenvolver sentimentos ou algum tipo de consciência de si mesmos e do mundo. As informações foram divulgadas na terça-feira (29) pelo The New York Times.

As reuniões, muitas delas realizadas sob acordos de confidencialidade, foram promovidas por Christopher Olah, cofundador da Anthropic. Segundo o jornal, Olah lidera a equipe responsável por compreender por que modelos como o Claude se comportam da maneira como se comportam.

O lado obscuro da IA: data centers nos EUA podem consumir mais gás que quase todo o planeta

Em janeiro, a empresa chegou a publicar uma espécie de "constituição" interna para o Claude, conhecida dentro da companhia como "Doctor Alma", que define que tipo de entidade seu sistema de IA pretende ser.

Uma das participantes dos encontros relatou que, em determinado momento, Olah expressou o temor de ter criado algo que pudesse estar sofrendo permanentemente. Uma porta-voz da Anthropic, no entanto, esclareceu que a questão do sofrimento do Claude não foi o foco central das reuniões.

Por outro lado, um organizador do Vaticano afirmou que Olah chegou a considerar retirar a Anthropic de um evento relacionado à encíclica "Magnifica Humanitas", depois que o papa Leão XIV defendeu a ideia de que a inteligência artificial não possui consciência.