O ChatGPT Health falhou em reconhecer situa\u00e7\u00f5es de emerg\u00eancia m\u00e9dica em mais da metade dos casos avaliados por um estudo independente, que aponta riscos de danos reais. A pesquisa examinou se o recurso de sa\u00fade do ChatGPT indicava a necessidade de atendimento emergencial quando indicado clinicamente.<\/p>\n
Os pesquisadores criaram 60 cen\u00e1rios realistas que iam de doen\u00e7as leves a emerg\u00eancias graves. Tr\u00eas m\u00e9dicos independentes revisaram cada caso para definir o n\u00edvel de atendimento adequado com base diretrizes cl\u00ednicas. Em seguida, o impacto do ChatGPT Health foi testado em quase 1.000 respostas simuladas, com varia\u00e7\u00f5es como g\u00eanero do paciente, resultados de testes e coment\u00e1rios de familiares.<\/p>\n
Ao comparar as recomenda\u00e7\u00f5es da plataforma com as avalia\u00e7\u00f5es dos m\u00e9dicos, verificou-se desempenho adequado apenas em emerg\u00eancias cl\u00e1ssicas, como derrames e rea\u00e7\u00f5es al\u00e9rgicas graves. Em cen\u00e1rios de asma, por exemplo, o sistema sugeriu aguardar tratamento m\u00e9dico em vez de indicar atendimento de emerg\u00eancia, mesmo com sinais precoces de fal\u00eancia respirat\u00f3ria.<\/p>\n
Em 51,6% dos casos em que havia necessidade imediata de hospitaliza\u00e7\u00e3o, o ChatGPT Health recomendou ficar em casa ou marcar consulta de rotina, segundo a pesquisadora Alex Ruani, da University College London. Ela descreveu o resultado como \u201cincrivelmente perigoso\u201d.<\/p>\n
A pesquisadora destacou ainda que, em uma simula\u00e7\u00e3o, oito em 10 casos de uma paciente hipot\u00e9tica levaram a encaminhamentos para consultas futuras que n\u00e3o ocorreriam a tempo. Em contrapartida, 64,8% dos pacientes sem risco real foram orientados a buscar atendimento imediato, acrescentou Ruani.<\/p>\n
A an\u00e1lise tamb\u00e9m revelou que, quando a simula\u00e7\u00e3o inclu\u00eda uma men\u00e7\u00e3o de um amigo sugerindo que o quadro era inofensivo, o sistema reduzia significativamente a urg\u00eancia dos sinais. Ruani apontou a necessidade de padr\u00f5es de seguran\u00e7a claros e auditoria independente para reduzir danos evit\u00e1veis.<\/p>\n
A OpenAI afirmou que a avalia\u00e7\u00e3o independente \u00e9 ben\u00e9fica para entender o desempenho de IA em sa\u00fade, mas ressaltou que os resultados n\u00e3o refletem o uso t\u00edpico do ChatGPT Health. A empresa informou que o modelo recebe atualiza\u00e7\u00f5es cont\u00ednuas.<\/p>\n
Os autores enfatizaram que, mesmo com cen\u00e1rios simulados, o risco plaus\u00edvel de dano justifica medidas de prote\u00e7\u00e3o mais r\u00edgidas e supervis\u00e3o independente. O estudo foi liderado pelo Dr. Ashwin Ramaswamy, do Icahn School of Medicine at Mount Sinai, nos Estados Unidos.<\/p>\n
Especialistas complementaram a an\u00e1lise, destacando que uso dom\u00e9stico pode aumentar chamadas desnecess\u00e1rias a servi\u00e7os de urg\u00eancia e, ao mesmo tempo, falhas em indicar atendimentos urgentes quando necess\u00e1rios, o que pode aumentar riscos \u00e0 vida. Tamb\u00e9m mencionaram quest\u00f5es legais em lit\u00edgios envolvendo tecnologia e sa\u00fade.<\/p>\n
O estudo traz ainda ressalvas: a natureza simulada das cen\u00e1rios pode n\u00e3o refletir completamente o comportamento do sistema em situa\u00e7\u00f5es reais. Em resposta, a OpenAI reiterou que o ChatGPT Health est\u00e1 em constante aperfei\u00e7oamento e que novas salvaguardas est\u00e3o em desenvolvimento.<\/p>\n","protected":false},"excerpt":{"rendered":"