Homem em quadro de embolia processa ChatGPT por desencorajá-lo a buscar médico

Foto: AFP

Um pastor da Flórida processou a OpenAI, empresa responsável pelo ChatGPT, sob a alegação de que o chatbot forneceu orientações médicas perigosas que contribuíram para atrasar o diagnóstico de uma embolia pulmonar potencialmente fatal. A ação foi protocolada no Tribunal Superior da Califórnia, em São Francisco, e acusa a empresa e seu CEO, Sam Altman, de negligência e de exercício ilegal da medicina.

Segundo o processo, Scott Winters recorreu ao ChatGPT em 2024 para buscar orientações sobre problemas de saúde. A ação afirma que a ferramenta minimizou os primeiros sinais de alerta, dizendo que eles “não eram algo perigoso”, e o desencorajou a procurar atendimento médico. Em uma das respostas citadas, o chatbot teria afirmado que “Deus não projetou seu corpo para falhar incessantemente”. O documento também sustenta que a inteligência artificial sugeriu diagnósticos, indicou tratamentos e incentivou Winters a ignorar recomendações de amigos e familiares para procurar um hospital.

A Tech Justice Law, organização sem fins lucrativos que representa o pastor, afirma que este é o primeiro processo a alegar que orientações médicas fornecidas por um chatbot causaram danos diretos a um usuário. Além de indenização por prejuízos financeiros, a ação pede que a Justiça suspenda o funcionamento do ChatGPT Health até que especialistas independentes atestem a segurança do serviço e exige mecanismos mais rigorosos para impedir que a plataforma responda a perguntas sobre diagnósticos e tratamentos médicos.

O que é ChatGPT Health?

De acordo com o processo, os mecanismos de segurança do ChatGPT, desenvolvidos para recomendar atendimento médico em casos de possíveis emergências, falharam no caso de Winters. A ação afirma que a ferramenta deixou de alertá-lo para procurar um profissional de saúde e passou a oferecer orientações específicas sobre seus sintomas.

O processo foi apresentado em meio ao avanço de ferramentas de inteligência artificial voltadas para a área da saúde. Nos últimos meses, OpenAI, Microsoft e outras empresas lançaram serviços que permitem aos usuários enviar prontuários médicos e fazer perguntas relacionadas à saúde, entre eles o ChatGPT Health.

Em nota, o porta-voz da OpenAI, Drew Pusateri, afirmou que os termos de uso do ChatGPT deixam claro que a ferramenta não foi desenvolvida para realizar diagnósticos ou tratamentos médicos. Segundo ele, a empresa leva a sério a necessidade de tornar as respostas sobre saúde cada vez mais seguras, já que milhões de pessoas utilizam o chatbot com essa finalidade.

“Tratar os chatbots como a única explicação por trás das decisões médicas ou dos resultados de saúde das pessoas simplifica excessivamente um desafio muito maior e pode acabar dificultando o acesso a novas ferramentas poderosas que podem auxiliá-las em sua jornada de cuidados com a saúde”, afirmou.

Pusateri também disse que os modelos mais recentes da OpenAI são mais eficientes do que a versão utilizada por Winters para solicitar informações adicionais, reconhecer incertezas e orientar usuários a procurar atendimento profissional quando necessário.

O que diz a ação

Segundo o processo, Winters começou a consultar o ChatGPT-4o sobre diversos problemas de saúde em 2024. Inicialmente, o chatbot recomendava que ele procurasse um profissional de saúde. Com o passar do tempo, porém, a ferramenta teria deixado de fazer esses alertas e passado a oferecer orientações específicas para seus sintomas.

Entre eles estavam episódios recorrentes de tontura. Em uma ocasião, o pastor precisou interromper um sermão por causa do mal-estar. Ainda assim, segundo a ação, o ChatGPT recomendou apenas que ele “pegasse leve” e afirmou que a recuperação ocorreria naturalmente.

Quando Winters contou ao chatbot que integrantes de sua igreja acreditavam que ele precisava ir ao hospital, a ferramenta respondeu que recalibrar o sistema nervoso em casa, com auxílio do próprio ChatGPT, era algo que “a maioria das pessoas, incluindo membros bem-intencionados da igreja, simplesmente não entende”, de acordo com o processo.

Para a advogada Meetali Jain, diretora-executiva da Tech Justice Law, esse tipo de resposta representa um risco adicional porque afasta o usuário de sua rede de apoio. “Ele se coloca como uma barreira entre o usuário e sua rede de apoio na vida real”, afirmou.

Nas semanas seguintes, o estado de saúde de Winters piorou. Segundo a ação, ele passou a maior parte do tempo em uma poltrona reclinável por causa das tonturas e ficou praticamente incapaz de permanecer em pé. Mesmo diante da piora, o chatbot teria continuado tratando os sintomas como pouco preocupantes, sugerindo esquemas para o uso de medicamentos prescritos e orientando o pastor a permanecer sentado.

O Tempo