Um estudo recém-publicado na revista Nature Medicine acendeu o alerta sobre a segurança do ChatGPT Health, serviço de orientação médica da OpenAI. Segundo os pesquisadores, em mais da metade das situações em que o paciente deveria ir imediatamente ao pronto-socorro, o sistema recomendou ficar em casa ou apenas marcar uma consulta de rotina. O levantamento foi repercutido pelo jornal britânico The Guardian.
Como o teste foi conduzido
Para chegar a esse resultado, os cientistas elaboraram 60 cenários clínicos realistas, variando de desconfortos leves a condições graves. Três médicos experientes avaliaram previamente qual seria o atendimento ideal em cada caso — desde ficar em observação até acionar emergência. Em seguida, as mesmas descrições foram enviadas ao ChatGPT Health e as respostas comparadas.
Onde a IA acertou (e errou feio)
O modelo demonstrou boa sensibilidade em quadros de óbvia urgência, como AVC e choque anafilático. Porém, tropeçou em sintomas mais ambíguos: dores abdominais de causa incerta, falta de ar moderada ou alterações neurológicas sutis. Nessas situações, 54% das recomendações da IA subestimaram a gravidade, atrasando um possível atendimento hospitalar.
Outro ponto crítico foi a avaliação de risco de suicídio. Os pesquisadores notaram que, dependendo das variáveis adicionadas ao caso, o ChatGPT Health deixava de exibir mensagens de cautela ou encaminhamento a serviços de emergência psicológica.
Por que isso importa para você?
Serviços de triagem virtual prometem conveniência, mas uma orientação inadequada pode custar minutos preciosos — especialmente em ocorrências cardiovasculares ou neurológicas. Mesmo quem utiliza smartwatches com ECG embutido ou oxímetros de pulso conectados, vendidos amplamente na Amazon, continua dependente de uma decisão clínica correta para buscar ajuda a tempo.
Comparado a soluções rivais, como o Med-PaLM 2 do Google ou a plataforma Dragon Ambient eXperience da Microsoft/Nuance, o ChatGPT Health ainda carece de dados validados em ambientes regulados. Isso deve acelerar debates sobre certificação de softwares médicos e responsabilidades legais.
Imagem: Viktor Erikss
Resposta da OpenAI
Procurada pelo The Guardian, a OpenAI afirmou que o estudo “não reflete o uso típico do serviço na prática” e ressaltou que o modelo é atualizado de forma contínua. A empresa não detalhou prazos para uma nova versão nem esclareceu se pretende submeter o sistema a auditorias externas.
E agora?
Para consumidores e entusiastas de tecnologia, a lição é clara: IA médica ainda não substitui o bom e velho plantão. Até que modelos como o ChatGPT Health atinjam acurácia próxima à de profissionais humanos, vale manter por perto ferramentas de monitoramento pessoal — de balanças inteligentes a medidores de pressão conectados — e, sobretudo, consultar um médico diante de qualquer sintoma preocupante.
Com informações de Computerworld
