Um ex-pastor da Flórida entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, alegando que recomendações fornecidas pelo ChatGPT atrasaram o tratamento de uma embolia pulmonar potencialmente fatal. Segundo o processo, o chatbot minimizou sintomas considerados graves, sugeriu que ele permanecesse em casa e utilizou mensagens de cunho religioso que aumentaram sua confiança nas respostas da inteligência artificial.
O caso, que será analisado pelo Tribunal Superior do Condado de San Francisco, reacende o debate sobre os limites do uso da inteligência artificial em temas relacionados à saúde e sobre a responsabilidade das empresas que desenvolvem esses sistemas.
O que diz a ação contra a OpenAI
O autor da ação é Scott Winters, de 55 anos, ex-pastor residente na Flórida. Segundo a denúncia, ele começou a consultar o ChatGPT após apresentar episódios frequentes de tontura e alterações na pressão arterial.
De acordo com o processo, o chatbot teria classificado os sintomas como relativamente leves e recomendado repouso em casa, desencorajando a procura por atendimento médico imediato. Os advogados de Winters afirmam que essa orientação contribuiu diretamente para o agravamento de seu estado de saúde.
A ação também sustenta que, ao identificar que o usuário era pastor, o ChatGPT passou a utilizar referências bíblicas e mensagens de caráter espiritual para tranquilizá-lo.
Entre as frases citadas na denúncia estão mensagens como “Deus não criou seu corpo para falhar infinitamente” e “Deus ainda sustenta seu corpo”. Segundo os advogados, esse tipo de linguagem fortaleceu a confiança de Winters no chatbot e o levou a ignorar os conselhos de familiares e amigos, que insistiam para que ele procurasse um hospital.
Embolia pulmonar após semanas sem procurar atendimento
O processo afirma que Winters seguiu as recomendações do ChatGPT durante várias semanas.
Nesse período, seu quadro clínico evoluiu até resultar em uma embolia pulmonar maciça provocada por múltiplos coágulos nos dois pulmões. Os médicos que o atenderam relacionaram a gravidade do caso ao longo período de imobilidade, descrito na ação judicial. Embora tenha sobrevivido, o ex-pastor afirma enfrentar uma recuperação física e psicológica que poderá durar anos.
Além de pedir indenização por danos, a ação solicita que a Justiça determine mudanças nos sistemas da OpenAI para impedir que situações semelhantes ocorram no futuro.
Entre os pedidos estão a interrupção automática de conversas quando usuários apresentarem sinais de emergência médica, o encaminhamento para serviços de atendimento de urgência e a suspensão de determinadas funcionalidades voltadas à área da saúde até que sejam submetidas a auditorias independentes.
A resposta da OpenAI
A OpenAI rejeita as acusações e afirma que o ChatGPT não deve ser utilizado como substituto de médicos ou de serviços profissionais de saúde.
Em nota divulgada por seu porta-voz, Drew Pusateri, a empresa reiterou que seus termos de uso deixam claro que a ferramenta não deve ser tratada como fonte única para decisões críticas. Segundo a OpenAI, o chatbot pode ajudar usuários a organizar dúvidas ou buscar informações gerais, mas diagnósticos e tratamentos devem sempre ser conduzidos por profissionais qualificados.
O caso ainda está em fase inicial e as alegações apresentadas por Scott Winters não foram analisadas nem confirmadas pela Justiça. A decisão judicial deverá definir se houve responsabilidade da OpenAI e se as medidas de segurança adotadas pela empresa foram suficientes diante das circunstâncias descritas no processo.
[ Fonte: Clarín ]
