Um pastor da Flórida (EUA), identificado como Scott Winters, processou a OpenAI e seu CEO, Sam Altman, alegando que o chatbot da empresa, ChatGPT, lhe deu "recomendações médicas extremamente perigosas" que teriam atrasado o tratamento de uma embolia pulmonar que ele sofreu no ano passado, informou imprensa na quarta-feira (22).
O processo foi aberto no Tribunal Superior da Califórnia, em São Francisco, e alega que a ChatGPT garantiu a Winters que os primeiros sinais de alerta de seu problema de saúde "não eram perigosos" e o desencorajou de procurar atendimento médico.
A inteligência artificial o teria aconselhado a confiar que "Deus não projetou seu corpo para falhar eternamente".
Winters acusa a OpenAI e Altman de negligência e "exercício ilegal da medicina". O autor da ação e a Tech Justice Law, organização sem fins lucrativos que o representa, buscam indenização financeira e exigem medidas de segurança mais rigorosas para impedir que o ChatGPT responda a perguntas sobre tratamentos e diagnósticos médicos.
Segundo o processo, os recursos de segurança do chatbot, projetados para incentivar usuários com dúvidas sobre saúde a consultar um profissional e encerrar conversas quando houvesse sinais claros de uma crise médica, não funcionaram de forma confiável no caso de Winters.
Os autores da ação insistiram que o aplicativo oferecia ao homem diagnósticos e planos de tratamento e, além disso, o incentivava a ignorar os apelos de amigos e familiares para que procurasse atendimento médico.