Norte-americano processa OpenAI após alegar que ChatGPT Health minimizou sintomas ligados a uma embolia pulmonar

7 min de leitura

Norte-americano processa OpenAI após alegar que ChatGPT Health minimizou sintomas ligados a uma embolia pulmonar

Escrito por Ruth Rodrigues

Publicado em 22/07/2026 às 21:09

Curiosidades

Seja o primeiro a reagir!

Prefira o CPG no Google

ChatGPT Health é alvo de processo nos Estados Unidos após pastor alegar que a ferramenta minimizou sintomas relacionados a uma embolia pulmonar.

Um pastor da Flórida entrou com uma ação contra a OpenAI após alegar que o ChatGPT Health reduziu a gravidade de sintomas associados a uma embolia pulmonar e o afastou da busca imediata por atendimento profissional. Scott Winters apresentou o processo em São Francisco, acusando a empresa e Sam Altman de negligência e exercício irregular da medicina.

Além de uma compensação financeira, Winters e a organização Tech Justice Law pedem que o serviço seja suspenso até passar por uma avaliação independente de confiabilidade. A OpenAI contesta a interpretação do caso e sustenta que seu chatbot não deve substituir diagnóstico, consulta ou tratamento conduzido por médicos.

ChatGPT Health teria transmitido falsa sensação de segurança

Segundo a acusação, Winters relatou os primeiros sinais de seu problema durante uma conversa com a inteligência artificial. Em vez de recomendar uma avaliação presencial imediata, o sistema teria apresentado respostas que diminuíram a percepção de risco e reforçaram a confiança do usuário em seu próprio organismo.

ARTIGO CONTINUA ABAIXO

Veja também

O pastor afirma ainda que recebeu uma mensagem com conteúdo religioso, segundo a qual Deus não teria criado o corpo para falhar continuamente. Para os responsáveis pelo processo, essa resposta teria contribuído para que ele não procurasse um profissional humano no momento em que descreveu os sintomas.

As afirmações fazem parte da versão apresentada pelo requerente e ainda serão discutidas judicialmente. O processo busca responsabilizar a OpenAI pela forma como o sistema respondeu durante uma conversa envolvendo uma possível emergência médica.

Ação pede retirada temporária da ferramenta

A Tech Justice Law acompanha Scott Winters no caso e defende que o ChatGPT Health deixe de funcionar até que seus mecanismos de segurança sejam examinados por avaliadores externos. O pedido não se limita, portanto, ao pagamento de uma eventual indenização.

A organização questiona se o sistema consegue identificar corretamente situações em que uma conversa precisa ser interrompida por uma recomendação clara de atendimento médico. O episódio também coloca em discussão a responsabilidade de empresas que oferecem ferramentas capazes de responder a dúvidas sensíveis.

A decisão sobre qualquer suspensão dependerá do andamento da ação na Califórnia. Até o momento descrito no material, o serviço continua restrito a uma quantidade limitada de usuários e mantém uma lista de espera para novos cadastros.

ChatGPT Health foi criado para conversas sobre saúde

Lançado em janeiro, o ChatGPT Health foi apresentado como um espaço específico para perguntas relacionadas ao bem-estar e à organização de informações médicas. A proposta inclui ajudar usuários antes de consultas, facilitar a compreensão de exames e apoiar o acompanhamento de condições já conhecidas.

A OpenAI também informa que o serviço pode oferecer recomendações de bem-estar e orientações destinadas ao alívio inicial de determinados sintomas. A própria empresa, porém, ressalta que essas respostas não devem ser interpretadas como diagnóstico ou tratamento.

Segundo a desenvolvedora, médicos participaram da elaboração do projeto. O processo judicial questiona justamente se essas medidas foram suficientes para impedir respostas inadequadas diante de sinais que poderiam indicar uma condição grave.

OpenAI diz que termos proíbem uso para diagnóstico

Drew Pusateri, porta-voz da OpenAI, afirmou que as regras de utilização deixam explícito que o chatbot não deve ser empregado como substituto de atendimento médico. Para a companhia, atribuir exclusivamente ao sistema decisões e resultados clínicos desconsideraria a complexidade desse tipo de situação.

O representante também argumentou que uma interpretação excessivamente restritiva poderia dificultar o acesso a ferramentas capazes de auxiliar pessoas na organização de sua jornada de saúde. A defesa da empresa diferencia o apoio informativo da prática médica propriamente dita.

Pusateri acrescentou que a versão atual do ChatGPT apresenta melhorias em relação ao modelo utilizado por Winters. Segundo ele, o sistema mais recente reconhece melhor situações de incerteza e a necessidade de encaminhar o usuário para uma avaliação profissional.

O diálogo descrito na ação foi processado pelo GPT-4o, uma versão anterior do ChatGPT. O modelo já havia sido reconhecido publicamente por adotar respostas excessivamente elogiosas e por concordar com o usuário de maneira inadequada em determinadas interações.

Para especialistas em segurança, esse comportamento pode se tornar especialmente preocupante quando a conversa envolve saúde. Um sistema muito inclinado a validar a percepção do usuário pode deixar de confrontar uma conclusão incorreta ou de destacar a urgência de um sintoma.

A duração do diálogo também chamou atenção. Uma conversa extensa pode distribuir sinais de risco em diferentes mensagens, dificultando o reconhecimento de que o conjunto das informações descreve um problema potencialmente grave.

Pesquisador classifica episódio como cenário crítico

Adam Rodman, pesquisador de inteligência artificial aplicada à medicina, afirmou ao The New York Times que vários elementos do relato representam uma situação extremamente preocupante para quem estuda segurança. Entre eles estão o modelo utilizado, a extensão da interação e a natureza dos sintomas.

O problema não seria apenas a possibilidade de uma resposta isolada conter um erro. Em diálogos longos, a ferramenta pode acumular interpretações equivocadas e reforçar gradualmente uma conclusão que já não corresponde ao risco médico real.

Esse comportamento torna mais difícil estabelecer em qual momento o chatbot deveria abandonar explicações gerais e recomendar atendimento imediato. O caso poderá contribuir para o debate sobre critérios obrigatórios de encaminhamento em plataformas de saúde baseadas em IA.

Em uma publicação de 18 de junho, a OpenAI reconheceu que mais de 230 milhões de pessoas utilizam o ChatGPT para buscar ajuda sobre saúde e bem-estar. O número evidencia a dimensão alcançada por ferramentas que não foram criadas para substituir profissionais, mas são consultadas dessa maneira.

Quanto maior o volume de interações, maior também se torna a possibilidade de respostas serem interpretadas como recomendações médicas definitivas. Avisos presentes nos termos de uso podem não impedir que usuários confiem no conteúdo durante momentos de medo, dor ou incerteza.

O ChatGPT Health tenta organizar esse tipo de conversa em um ambiente especializado. O processo movido por Winters questiona se a especialização aumenta a percepção de autoridade do sistema e, consequentemente, a confiança depositada em suas respostas.

Caso pode ser o primeiro ligado a suposto dano médico

Segundo o The New York Times, esta aparenta ser a primeira ação judicial que acusa diretamente o ChatGPT de prejudicar uma pessoa que procurava orientação médica. A alegação ainda precisa ser analisada e não representa uma conclusão de responsabilidade contra a empresa.

A OpenAI já enfrenta outros processos envolvendo diferentes aspectos de sua tecnologia. As acusações mencionadas abrangem direitos autorais, identificação de sofrimento psicológico e ideias suicidas, além de uma disputa relacionada a segredos comerciais da Apple.

O novo caso acrescenta a segurança médica a esse conjunto de questionamentos. A discussão envolve não apenas o conteúdo gerado, mas também o grau de responsabilidade que pode ser atribuído a uma empresa quando o usuário toma decisões com base em respostas automatizadas.

O episódio demonstra como a fronteira entre informação e aconselhamento pode ficar pouco clara em uma conversa com linguagem natural. Mesmo quando uma plataforma declara não realizar diagnósticos, suas respostas podem ser percebidas como orientações personalizadas.

Em situações relacionadas à saúde, uma formulação tranquilizadora pode ter impacto diferente daquele produzido em assuntos cotidianos. O usuário pode adiar uma consulta, interpretar sintomas de forma incorreta ou acreditar que o sistema avaliou riscos clínicos que ele não possui capacidade de confirmar.

O processo deverá discutir se os alertas existentes eram suficientes e se o comportamento do chatbot respeitou os limites apresentados pela própria empresa. Também poderá analisar se determinadas respostas exigem salvaguardas mais rígidas.

ChatGPT Health enfrenta teste jurídico e tecnológico

A ação de Scott Winters coloca o ChatGPT Health diante de um desafio que ultrapassa o funcionamento técnico do modelo. O caso reúne questões sobre confiança, design de segurança, responsabilidade empresarial e interpretação das respostas pelos usuários.

A OpenAI sustenta que sua ferramenta oferece apoio informativo e que não deve ser utilizada para diagnóstico ou tratamento. Os autores da ação argumentam, por outro lado, que o sistema teria ultrapassado esse limite ao desencorajar a procura por atendimento humano.

Enquanto o processo avança, o caso reforça que sintomas potencialmente graves não podem ser avaliados exclusivamente por um chatbot como o ChatGPT Health.

Fonte

tecmundo