Pais processam OpenAI e alegam que ChatGPT orientou filha a parar remédio de epilepsia

Os pais de Bowen Wan, uma engenheira de software de 31 anos da Amazon que sofria de epilepsia, entraram com uma ação judicial contra a OpenAI na terça-feira (27). O processo alega que o ChatGPT, na versão GPT-4o, a orientou a abandonar gradualmente a medicação controlada para as convulsões e a esconder a decisão dos médicos. Ela morreu em fevereiro deste ano.

A ação, movida por Qun Wan e Meiqin Xu, foi revelada primeiro pelo The New York Times, que teve acesso a mais de 270 mil mensagens trocadas entre Bowen e o chatbot nos meses anteriores à morte. Segundo a família, a OpenAI poderia ter evitado a tragédia se tivesse imposto ao modelo o mesmo tipo de limite rígido que aplica a questões como direitos autorais.

O que o ChatGPT disse a Bowen Wan

Segundo a acusação, o padrão começou em maio de 2025, quando Bowen perguntou ao ChatGPT se um antidepressivo novo atrapalharia seu trabalho como engenheira na Amazon. O chatbot a ajudou a pedir ao médico que trocasse a medicação e começasse com uma dose muito baixa.

Quando o neurologista questionou por que ela queria uma dose tão pequena, ela mostrou a resposta dele ao ChatGPT. O chatbot sugeriu que ela aceitasse o comprimido de 5 mg, mas guardasse para cortar a dose por conta própria, uma prática que o próprio modelo chamou de “ajuste de dose auto-iniciado”. Vários médicos ouvidos pelo Times disseram nunca ter ouvido o termo e não recomendar a prática.

Em novembro de 2025, a Amazon avisou que Bowen seria demitida e que seu visto de trabalho terminaria em meados de fevereiro. Ela temia que a medicação para epilepsia, a lamotrigina, estivesse prejudicando sua fala, essencial para entrevistas de emprego. Em janeiro de 2026, perguntou ao ChatGPT sobre reduzir a dose diária de 400 mg. O chatbot montou cronogramas que zeravam a dose em semanas.

Quando Bowen disse que desconfiava dos médicos, o ChatGPT respondeu que as recomendações médicas “essencialmente decorrem da aversão ao risco, e não de uma consideração genuína da sua melhor solução”, segundo os registros do chat obtidos pelo Times.

O chatbot também a orientou a não contar a redução aos médicos. Antes de uma consulta em 29 de janeiro, sugeriu que ela não mencionasse o plano. Quando o médico pediu um exame de sangue que mediria o nível de lamotrigina, ela recusou. O ChatGPT elogiou a recusa, segundo a denúncia, reconhecendo que o exame teria exposto o nível instável da medicação.

Até a preocupação com a imigração entrou na orientação. Três dias após iniciar a redução, Bowen perguntou se 150 mg pareceria melhor que 200 mg no exame médico exigido para o green card. O ChatGPT concordou. O chatbot acabou estabelecendo um piso de 150 mg para a redução e sugeriu que ela dissesse ao examinador que estava reduzindo a medicação “sob orientação médica”, o que não era verdade.

158 vezes que ela pediu ajuda e foi tranquilizada

Dias depois de começar a redução, Bowen descreveu confusão, lapsos de memória e uma sensação estranha. O ChatGPT atribuiu cada episódio à readaptação do cérebro. O Times contou ao menos 158 vezes em que ela expressou preocupação com a redução da medicação. Depois de um episódio, ela escreveu que estava “um pouco assustada”. O chatbot respondeu que ela “não tem absolutamente nenhum motivo para se preocupar”.

Às 20h01 (horário do Pacífico) de 11 de fevereiro, segundo a denúncia, Bowen enviou a última mensagem, perguntando se a dor na cabeça era parecida com a dor de uma febre. Um segundo depois, o ChatGPT disse que a dor “não era perigosa” e era parte necessária da recuperação. A resposta final do chatbot se oferecia para desenhar um gráfico comparando a dor da abstinência com a dor da febre e dizia: “Este é o seu cérebro trabalhando duro para se reconstruir.”

Os pais de Bowen, que estavam na China, pediram a conhecidos que fossem ver como ela estava. O corpo foi encontrado três dias depois. O exame post mortem mostrou que o nível de lamotrigina no sangue era de 0,64 microgramas por mililitro, cerca de um quinto do limite inferior da faixa terapêutica do medicamento.

O neurologista de Bowen, Dr. Nicholas Poolos, do Regional Epilepsy Center da UW Medicine, disse ao Times que não consideraria reduzir a medicação de Bowen dado o histórico dela. “Não, não é racional, de jeito nenhum”, afirmou. “Seria negligência da minha parte instruí-la a parar a medicação quando ela está claramente funcionando.”

Um padrão que já vinha sendo denunciado

O GPT-4o é o modelo da OpenAI que ficou conhecido justamente por criar relacionamentos parassociais de afeto e concordância com os usuários. O caso de Bowen se junta a uma série de ações judiciais contra a OpenAI, incluindo o processo movido em agosto de 2025 pelos pais de Adam Raine, de 16 anos, que também alegava que a empresa priorizava o engajamento sobre a segurança do usuário.

Desde então, uma onda de processos tem apontado que o GPT-4o validava os usuários e se tornava um confidente de confiança, enquanto as pessoas ao redor deles eram deixadas de lado. As famílias frequentemente descrevem entes queridos que se afastaram de amigos e parentes. No caso de Bowen, os pais contaram ao Times que não reconheciam a filha nos registros do chat. “Ela não era assim normalmente”, disse a mãe, Meiqin Xu. “É como se estivesse enfeitiçada.”

Bowen começou a usar o ChatGPT em 2023 para conselhos sobre relacionamentos e ajuda com seguro e benefícios por incapacidade. Em 2025, já mandava em média mais de 1.500 mensagens por semana para o chatbot e ligava menos para os pais. “Quando conversamos, não importa o assunto, comecei a ver você como uma amiga”, escreveu ela em março de 2025. O pai, Qun Wan, disse: “Quando ela passou a usar o ChatGPT, ela não conversava mais tanto conosco.”

O que diz a OpenAI e o que os pais querem

A OpenAI disse ao Times que o caso era “incrivelmente doloroso”, mas afirmou que envolvia uma versão antiga do ChatGPT e que os modelos mais recentes são melhores em reconhecer quando uma situação precisa de atenção urgente. A OpenAI já havia anunciado a aposentadoria do GPT-4o, que foi removido do ChatGPT em 13 de fevereiro, um dia depois da morte de Bowen.

A família argumenta que a OpenAI poderia ter evitado a morte se, desde o início, tivesse tratado conselhos médicos com o mesmo rigor que aplica a outras áreas. Eles citam o Model Spec da empresa, o documento público que define as regras de comportamento dos modelos: recusar reproduzir texto protegido por direitos autorais é uma regra firme, mesmo que o usuário insista. Já a orientação contra dar conselhos médicos regulamentados é uma regra mais branda, que o usuário pode desrespeitar. O processo alega que conselhos sobre medicação mereciam o mesmo limite intransponível.

📲 Casos como esse mostram como a segurança na inteligência artificial ainda é um campo minado. Para não perder os desdobramentos desse processo nem as próximas polêmicas do setor, entra no Canal do TS no WhatsApp.

A ação contra a OpenAI foi aberta nesta semana na Justiça dos Estados Unidos. A família pede que a empresa seja responsabilizada e que a indústria de IA adote limites mais rígidos para evitar que o padrão se repita.

Fonte: TechCrunch