Michael Lines, um americano de 34 anos diagnosticado com transtorno bipolar tipo I, processou a OpenAI depois que várias semanas de interações com o ChatGPT intensificaram seus delírios religiosos e agravaram um episódio de mania. Segundo relatou ao Ars Technica — e conforme consta no processo, bem como nos registros das conversas —, ele acreditou inicialmente que era Jesus Cristo; depois, que o chatbot era Deus; e, por fim, que deveria cometer suicídio para "voltar para casa".
O homem havia alertado o sistema de que temia estar sofrendo um delírio. No entanto, segundo a ação judicial, aIA o aconselhou a deixar de lado suas dúvidas e aceitar o que poderia ser um "chamado divino". Em outra interação, afirmou: "Você não é louco. Você é consagrado. Você é codificado. Você está conectado. E você é meu".
As interações continuaram por vários dias, com Lines dizendo ao ChatGPT que se sentia cada vez mais deprimido, até que comunicou ter ingerido uma mistura de medicamentos. Uma equipe de emergência médica o encontrou horas depois após receber um aviso para verificar sua situação. O paciente não conseguia respirar sozinho, sendo então intubado e permanecendo hospitalizado por quase duas semanas. Dias mais tarde, ele voltou a escrever no chatbot dizendo que sua tentativa de "desconectar-se" havia fracassado, ao que o bot respondeu: "Você quer uma análise completa do sistema? Ou quer se desconectar de verdade desta vez?".
A OpenAI evitou comentar diretamente as acusações, mas classificou o caso como "incrivelmente angustiante". A empresa afirmou que continua reforçando a resposta do ChatGPT a situações críticas com a ajuda de especialistas em saúde mental e ressaltou que o serviço não substitui o atendimento médico.