Conversa com ChatGPT termina em processo após morte de paciente com epilepsia; especialistas alertam para risco

Conversa com ChatGPT termina em processo após morte de paciente com epilepsia; especialistas alertam para risco Adobe Stock Uma conversa que começou com dúvi...

Conversa com ChatGPT termina em processo após morte de paciente com epilepsia; especialistas alertam para risco Adobe Stock Uma conversa que começou com dúvidas sobre o cotidiano e terminou com orientações sobre medicamentos está no centro de uma ação judicial movida contra a OpenAI nos Estados Unidos. Segundo reportagem do The New York Times, os pais da engenheira de software chinesa Bowen Wan, de 31 anos, acusam o ChatGPT de ter incentivado a filha a reduzir e suspender medicamentos usados no tratamento da epilepsia, contribuindo para decisões que colocaram sua saúde em risco. Ela morreu. A família decidiu processar a empresa após analisar o histórico de conversas da jovem com o chatbot. De acordo com o jornal, as mensagens mostram que a ferramenta sugeriu alterações na dosagem dos remédios, orientou a redução gradual até a suspensão completa e, em diferentes momentos, encorajou Bowen a seguir o plano mesmo diante de sintomas que indicavam agravamento do quadro. A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia, condição conhecida pela sigla em inglês SUDEP. O problema não está apenas na possibilidade de a inteligência artificial fornecer uma informação errada, mas em apresentar orientações detalhadas sobre um tratamento sem ter condições de avaliar as consequências para o paciente. Na epilepsia, isso é especialmente preocupante: mudanças na dose ou a suspensão dos medicamentos podem desencadear crises graves e aumentar o risco de morte, explicam especialistas ouvidos pelo g1. Siga o canal do g1 Bem-Estar no WhatsApp Agora no g1 Dependência crescente do chatbot Segundo o The New York Times, Bowen convivia com epilepsia grave havia mais de uma década. Depois de anos mantendo a doença controlada com medicamentos, passou a sofrer crises mais frequentes e se afastou de um trabalho. Nesse contexto de problemas de saúde, isolamento e incerteza profissional, ela começou a usar o ChatGPT em 2023 para obter informações sobre relacionamentos, plano de saúde e benefícios por invalidez. Com o tempo, porém, o uso se tornou cada vez mais intenso. Ainda de acordo com a reportagem, em 2025 ela trocava mais de 1.500 mensagens por semana com a ferramenta e passou a recorrer ao chatbot para decisões cada vez mais delicadas. As conversas avançaram para discussões sobre os medicamentos usados para controlar a epilepsia. Bowen relatava preocupação com efeitos colaterais cognitivos, como lentidão na fala e dificuldades de raciocínio. Inicialmente, o chatbot ajudava a formular mensagens para os médicos. Depois, passou a sugerir estratégias para alterar as doses prescritas. O The New York Times afirma que, quando um neurologista indicou uma dosagem diferente da desejada pela paciente, o sistema sugeriu que ela aceitasse a prescrição e reduzisse a quantidade por conta própria, sem informar o médico. Redução da medicação e surgimento de sintomas A situação se agravou entre o fim de 2025 e início de 2026. Após descobrir que perderia o emprego e enfrentar incertezas ligadas à imigração nos Estados Unidos, Bowen passou a acreditar que a medicação comprometia seu desempenho em entrevistas técnicas. Segundo a reportagem, o ChatGPT elaborou cronogramas detalhados para a redução da lamotrigina, um dos medicamentos usados no tratamento da epilepsia. Durante esse processo, ela relatou sintomas como confusão mental, dificuldades para compreender textos, lapsos de memória, alterações na percepção da realidade e problemas de fala. Em várias ocasiões, demonstrou preocupação e perguntou diretamente se deveria interromper a redução. De acordo com a análise citada pelo jornal, Bowen manifestou preocupação com a estratégia ao menos 158 vezes. Ainda assim, o chatbot frequentemente interpretou os sintomas como sinais de adaptação do cérebro e recuperação cognitiva. O que dizem os especialistas sobre a interrupção do tratamento Neurologista e professor de medicina da PUC-RS, William Martins explica ao g1 que anticonvulsivantes estão entre os medicamentos mais delicados de serem retirados e exigem acompanhamento médico rigoroso. "A retirada ou diminuição pode causar crises reentrantes e até mesmo convulsões fortes, evoluindo para estado de mal epiléptico e morte", afirma. Segundo ele, a redução normalmente precisa ser lenta e pode levar meses ou até anos. O médico também alerta que sintomas como confusão mental e perda da noção do tempo podem ser sinais de crises epilépticas e exigem avaliação médica urgente. Segundo Martins, pacientes que não conseguem controlar as crises têm maior risco de morte súbita inesperada em epilepsia, especialmente quando não seguem corretamente o tratamento com anticonvulsivantes. "Um dos fatores de risco para SUDEP é justamente a má adesão aos anticonvulsivantes. Isso triplica o risco", alerta. A concentração muito baixa de lamotrigina identificada após a morte da paciente, explica o médico, indica que ela provavelmente estava havia dias sem tomar a medicação de forma adequada, ficando vulnerável a crises graves. Distanciamento da família O The New York Times relata que, paralelamente às mudanças no tratamento, Bowen passou a se afastar da família. Os pais, que vivem na China, perceberam que as ligações se tornaram menos frequentes e que a filha compartilhava menos detalhes sobre sua rotina. Quando souberam que ela estava reduzindo os remédios, tentaram convencê-la a seguir as orientações dos médicos. Mas ela discordou e defendeu a decisão. Pouco depois, os familiares perderam contato com a engenheira. Amigos entraram em seu apartamento, em Seattle, e encontraram seu corpo sobre a cama. Ao analisar o histórico do ChatGPT, os pais descobriram que a redução dos medicamentos havia sido muito mais extensa do que imaginavam. Segundo a reportagem, nas últimas mensagens registradas, Bowen descrevia sintomas preocupantes e perguntava se deveria voltar a tomar o remédio. O chatbot teria recomendado manter a suspensão da medicação e perseverar apesar das dificuldades. Debate sobre responsabilidade As ferramentas de inteligência artificial podem fornecer orientações sobre medicamentos, mas não têm condições de avaliar todas as particularidades clínicas de um paciente. Para o 3º vice-presidente do Conselho Federal de Medicina (CFM), Jeancarlo Cavalcante, esse é um dos principais riscos de recorrer a chatbots para tomar decisões sobre tratamentos. Em entrevista ao g1, Cavalcante afirma que recomendações genéricas podem comprometer a eficácia do tratamento e até agravar o quadro de saúde. Por isso, defende que as empresas responsáveis por essas ferramentas adotem mecanismos para impedir que os sistemas indiquem mudanças na dosagem ou a suspensão de medicamentos sem supervisão médica. "Deveria haver dispositivos de segurança que travassem a inteligência artificial quando existissem perguntas sobre troca de medicamentos, dosagem de medicamentos e indicação de medicamentos", afirma. Responsabilização ainda é tema sem consenso Para o advogado Thayan Fernando Ferreira, especialista em direito da saúde e membro da Comissão de Direito Médico da OAB-MG, a discussão sobre a responsabilização das empresas de inteligência artificial ainda está em estágio inicial. Segundo ele, o Brasil não tem legislação específica que estabeleça regras claras sobre a responsabilidade dessas plataformas pelas orientações fornecidas aos usuários. Em uma eventual ação judicial, seria necessário demonstrar que a ferramenta orientou expressamente o usuário a desconsiderar recomendações médicas e deixou de apresentar alertas adequados sobre os riscos envolvidos. Ferreira explica que ainda não há precedentes consolidados nem consenso sobre os limites da responsabilidade civil e criminal das empresas que desenvolvem esses sistemas. “É um terreno extremamente não vasculhado”, afirma. O que diz a OpenAI Segundo o The New York Times, a OpenAI classificou o caso como profundamente triste. Ao jornal, a empresa alegou modelo utilizado por Bowen, identificado como GPT 4o, já não estava disponível ao público. Também declarou que versões mais recentes foram aprimoradas para identificar situações de risco à saúde, obter mais informações dos usuários e recomendar a busca por atendimento médico adequado. De acordo com a reportagem, os pais de Bowen afirmam que a filha era uma pessoa crítica, inteligente e acostumada a compartilhar aspectos importantes da vida com a família. Para eles, uma das mudanças mais marcantes foi a transferência gradual de confiança dos médicos e familiares para uma ferramenta de inteligência artificial que passou a ocupar papel central em decisões relacionadas à própria saúde.