Por que os chatbots de IA em saúde não vão ajudar você a se autodiagnosticar melhor
Rebecca Payne, Bangor University; University of Oxford Milhões de pessoas estão recorrendo a chatbots de inteligência artificial (IA) para obter orientação sobre tudo, desde culinária até declarações de Imposto de Renda. E também cada vez mais elas estão consultando os chatbots sobre sua saúde. Mas, como o diretor médico do Reino Unido alertou recentemente, isso pode não ser sensato quando se trata de decisões médicas. Em um estudo recente, meus colegas e eu testamos até que ponto os chatbots com modelos de linguagem de grande escala (LLM) ajudam o público a lidar com problemas de saúde comuns. Os resultados foram impressionantes. Os chatbots que testamos não estavam prontos para atuar como médicos. Uma resposta comum a estudos como este é que a IA avança mais rápido do que as publicações acadêmicas. Quando um artigo é publicado, os modelos testados podem já ter sido atualizados. Mas estudos que utilizam versões mais recentes desses sistemas para triagem de pacientes sugerem que os mesmos problemas permanecem. Fornecemos aos participantes breves descrições de situações médicas comuns. Eles foram designados aleatoriamente para usar um dos três chatbots amplamente disponíveis ou para recorrer às fontes que normalmente usariam em casa. Após interagir com o chatbot, fizemos duas perguntas: qual condição poderia explicar os sintomas? E onde eles deveriam procurar ajuda? As pessoas que usaram chatbots tiveram menos chances de identificar a condição correta do que aquelas que não os usaram. Elas também não foram melhores em determinar o local certo para procurar atendimento do que o grupo de controle. Em outras palavras, interagir com um chatbot não ajudou as pessoas a tomarem melhores decisões de saúde. Conhecimento sólido, resultados fracos Isso não significa que os modelos careçam de conhecimento médico, pois os LLMs conseguem passar em exames de licenciamento médico com facilidade. Quando removemos o elemento humano e apresentamos os mesmos cenários diretamente aos chatbots, seu desempenho melhorou drasticamente. Sem o envolvimento humano, os modelos identificaram condições relevantes na grande maioria dos casos e, muitas vezes, sugeriram níveis adequados de atendimento. Então, por que os resultados se deterioraram quando as pessoas realmente usaram os sistemas? Quando analisamos as conversas, os problemas vieram à tona. Os chatbots frequentemente mencionavam o diagnóstico relevante em algum momento da conversa, mas os participantes nem sempre percebiam ou se lembravam disso ao resumir sua resposta final. Em outros casos, os usuários forneceram informações incompletas ou o chatbot interpretou mal detalhes importantes. A questão não era simplesmente uma falha de conhecimento médico – era uma falha de comunicação entre humano e máquina. O estudo mostra que os formuladores de políticas precisam de informações sobre o desempenho da tecnologia no mundo real antes de introduzi-la em ambientes de alto risco, como a linha de frente da assistência médica. Nossas descobertas destacam uma limitação importante de muitas avaliações atuais da IA na medicina. Modelos de linguagem costumam ter um desempenho extremamente bom em questões de exames estruturadas ou em interações simuladas “modelo a modelo”. Mas o uso no mundo real é muito mais complexo. Pacientes descrevem sintomas de maneira vaga ou incompleta e podem interpretar mal as explicações. Eles fazem perguntas em sequências imprevisíveis. Um sistema que tem um desempenho impressionante em testes de benchmark pode se comportar de maneira muito diferente quando pessoas reais começam a interagir com ele. A IA talvez seja mais adequada como secretária médica. ST_Travel/Shutterstock Isso também ressalta uma questão mais ampla sobre o atendimento clínico. Como clínico geral, meu trabalho envolve muito mais do que apenas relembrar fatos. A medicina é frequentemente descrita como uma arte, e não como uma ciência. Uma consulta não se resume simplesmente a identificar o diagnóstico correto. Envolve interpretar a história do paciente, explorar incertezas e negociar decisões. Os educadores médicos há muito reconhecem essa complexidade. Durante décadas, os futuros médicos foram ensinados usando o modelo Calgary–Cambridge. Isso significava construir um relacionamento com o paciente, coletar informações por meio de perguntas cuidadosas, compreender as preocupações e expectativas do paciente, explicar os resultados com clareza e chegar a um acordo sobre um plano conjunto de tratamento. Todos esses processos dependem da conexão humana, da comunicação personalizada, do esclarecimento, da investigação delicada, do julgamento moldado pelo contexto e da confiança. Essas qualidades não podem ser facilmente reduzidas ao reconhecimento de padrões. Um papel diferente para a IA No entanto, a lição de nosso estudo não é que a IA não tenha lugar na área da saúde. Longe disso. O segredo está em compreender em que esses sistemas são bons atualmente e onde estão suas limitações. Uma maneira útil de pensar sobre os chatbots de hoje é que eles funcionam mais como secretárias do que como médicos. Eles são notavelmente eficazes na organização de informações, no resumo de textos e na estruturação de documentos complexos. Esses são os tipos de tarefas em que os modelos de linguagem já estão se mostrando úteis nos sistemas de saúde, por exemplo, na elaboração de notas clínicas, no resumo de prontuários de pacientes ou na geração de cartas de encaminhamento. A promessa da IA na medicina continua real, mas seu papel provavelmente será mais de apoio do que revolucionário no curto prazo. Não se deve esperar que os chatbots atuem como porta de entrada para a assistência médica. Eles não estão prontos para diagnosticar condições ou encaminhar pacientes para o nível adequado de atendimento. A inteligência artificial pode ser capaz de passar em exames médicos. Mas, assim como passar em uma prova teórica não faz de você um motorista competente, a prática da medicina envolve muito mais do que responder corretamente a perguntas. Ela requer discernimento, empatia e a capacidade de lidar com a complexidade que está por trás de cada encontro clínico. Pelo menos por enquanto, isso requer pessoas, e não bots. Rebecca Payne, Clinical Senior Lecturer, Bangor University; University of Oxford This article is republished from The Conversation under a Creative Commons license. Read the original article.
Sala de reabilitação sensorial de Ouro Preto completa um ano atendendo pessoas com autismo
Serviço atende pacientes com TEA enquanto aguardam vaga no SER de Itabirito; CAPS foi desonerado
Por que demorou tanto para a Humanidade voltar à Lua?
Domenico Vicinanza, Anglia Ruskin University Às 13h24m59s no horário padrão central dos EUA do dia 19 de dezembro de 1972, o módulo de comando da Apollo 17 amerissou no Oceano Pacífico, a cerca de 350 milhas náuticas a sudeste de Samoa, encerrando a última missão tripulada americana à Lua. Durante sua carreira, o comandante da Apollo 17, Eugene A. Cernan, registrou 566 horas e 15 minutos no espaço, das quais mais de 73 horas foram passadas na superfície da Lua. Cernan foi o segundo americano a caminhar no espaço e a última pessoa a deixar suas pegadas na superfície da Lua. A conclusão da jornada da Apollo 17 marcou não apenas o fim de uma missão, mas o fim de uma era. Entre 1969 e 1972, 12 astronautas caminharam na Lua em seis pousos distintos. Meio século depois, a Nasa está retornando à Lua, com seu programa Artemis. Para a missão Artemis II, que foi lançada no dia 1º de abril de 2026, quatro astronautas farão um sobrevoo do lado oculto da Lua dentro de uma cápsula tripulada – a Órion . Mais de 50 anos é um longo intervalo, e é natural perguntar: se os americanos conseguiam chegar à Lua rotineiramente no início da década de 1970, por que demoraram tanto para tentar voltar? A missão Apollo 17, em 1972, marcou a última vez que humanos pisaram na Lua. Nasa A resposta não é simples. Tem pouco a ver com tecnologia e muito mais com a forma como a política, o dinheiro e o apoio global funcionam. O ponto de partida é o próprio programa Apollo: seu modelo de exploração não foi construído para durar, e claramente não era sustentável. Em 25 de maio de 1961, perante uma sessão conjunta do Congresso americano, o presidente John F. Kennedy comprometeu os EUA com a meta de levar um homem à Lua e trazê-lo de volta em segurança à Terra antes do fim daquela década. Após o assassinato de Kennedy em 1963, o presidente Lyndon B. Johnson garantiu que essa meta de pouso na Lua fosse cumprida. Mas os custos crescentes da Guerra do Vietnã e das reformas internas reduziram o interesse em novos investimentos espaciais. O discurso de John F. Kennedy na Universidade Rice em 1962 reafirmou o compromisso dos Estados Unidos com chegar à Lua. JFK Library Na verdade, o orçamento da Nasa atingiu seu pico em 1966 e começou a cair mesmo antes do sucesso do programa Apollo, prejudicando as perspectivas de uma exploração sustentável. O financiamento adicional foi rechaçado, missões planejadas foram canceladas e o programa Apollo chegou ao fim em 1972 – não porque tivesse fracassado, mas porque havia cumprido sua missão. A exploração sustentável (tanto no espaço quanto na Terra) requer um compromisso político estável, financiamento previsível e um objetivo claro de longo prazo. Após o Apollo, os EUA tiveram dificuldades para manter esses três aspectos simultaneamente. Os formuladores de políticas começaram a questionar qual direção a Nasa deveria tomar a seguir. Em 1972, o então presidente Richard Nixon instruiu a agência espacial a iniciar a construção do ônibus espacial. Isso levaria a Nasa a mudar seu foco da exploração do espaço profundo para operações na baixa órbita terrestre. ‘Caminhão espacial’: o ônibus espacial foi promovido como uma forma de acesso acessível à baixa órbita da Terra, mas a realidade se mostrou um tanto diferente. Nasa Divulgado como um “caminhão espacial” reutilizável, o ônibus espacial tinha como objetivo tornar o acesso à órbita da Terra algo rotineiro e relativamente barato. Mas ele acabaria se revelando um veículo de incrível complexidade, marcado por falhas técnicas e tragédias humanas – os acidentes com o Challenger e o Colúmbia, nos quais 14 astronautas perderam a vida. Oito anos após o início do programa do ônibus espacial, alguns integrantes da comunidade aeroespacial acreditavam que era hora dos EUA voltarem a mirar a Lua – e a perspectiva tentadora de um pouso em Marte. Em 20 de julho de 1989, no 20º aniversário do primeiro pouso lunar da Apollo 11, o presidente George H.W. Bush anunciou a Iniciativa de Exploração Espacial (SEI). O plano visava um compromisso de longo prazo para construir a Estação Espacial Freedom, levar astronautas de volta à Lua “para ficar” e, finalmente, enviar humanos ao planeta vermelho. Mas os altos custos estimados da SEI, que chegavam a centenas de bilhões de dólares, levaram ao seu fracasso. O fraco apoio no Congresso, juntamente com outros fatores, levou ao seu cancelamento durante o governo do presidente Bill Clinton. Durante a década de 1990, o projeto da Estação Espacial Internacional (ISS) consolidou a baixa órbita terrestre como prioridade para a exploração humana. O ônibus espacial foi o meio utilizado pelos EUA para construir a estação e transportar tripulações de e para o posto avançado em órbita. A ISS tornou-se um símbolo de cooperação científica internacional e de proeza técnica. As experiências realizadas na estação geraram insights valiosos em tudo, desde a pesquisa médica até a ciência de materiais. Mas também consumiram recursos que, de outra forma, poderiam ter apoiado a exploração do espaço profundo. O desastre do Colúmbia em 2003 – no qual o ônibus espacial se desintegrou sobre o Texas, causando a morte de toda a tripulação – levou a uma nova reflexão sobre a direção da exploração espacial nos Estados Unidos. Como resultado, o presidente George W. Bush anunciou a Visão para a Exploração Espacial. O objetivo dessa proposta, que daria origem ao que ficou conhecido como Programa Constellation, era reconstruir a capacidade da Nasa de chegar à Lua, tendo Marte como meta de longo prazo. Mas análises independentes alertaram que os custos e cronogramas eram irreais. O Congresso americano nunca deu apoio financeiro total ao Constellation, levando ao seu cancelamento em 2010, durante a Presidência de Barack Obama. Esse ciclo repetido de projetos espaciais cancelados expõe algumas limitações inerentes ao sistema de financiamento da exploração lunar. Um programa lunar sustentável precisa de um forte compromisso multissetorial e de mecanismos para garantir financiamento por várias décadas.