Especialistas afirmam que a ferramenta pode fornecer conselhos médicos completamente errados, expondo usuários a riscos graves.
Por Redação
“Será que estou com gripe ou Covid?” “Por que acordo me sentindo cansado?” “O que está causando essa dor no peito?” Por mais de duas décadas, perguntas médicas digitadas no mecanismo de busca mais popular do mundo resultavam em uma lista de links para sites especializados. Hoje, no entanto, a resposta provavelmente vem diretamente de um texto gerado por inteligência artificial.
O CEO do Google, Sundar Pichai, apresentou pela primeira vez os planos da empresa para integrar inteligência artificial (IA) ao buscador durante a conferência anual da companhia, realizada em Mountain View, na Califórnia, em maio de 2024. A partir daquele mês, usuários nos Estados Unidos passaram a visualizar um novo recurso, o AI Overviews, que fornece resumos automáticos no topo dos resultados de busca tradicionais. A mudança foi considerada a maior reformulação do principal produto do Google em 25 anos.
Em julho de 2025, a tecnologia já havia sido expandida para mais de 200 países, em 40 idiomas, alcançando cerca de 2 bilhões de usuários mensais. A rápida implementação faz parte da estratégia do Google para proteger seu modelo tradicional de buscas, responsável por aproximadamente US$ 200 bilhões (R$ 147 bilhões) anuais, diante do avanço de concorrentes baseados em IA.
“Estamos na vanguarda da inteligência artificial e lançando soluções em um ritmo incrível”, afirmou Pichai em julho do ano passado. Segundo ele, o AI Overviews vinha apresentando “bom desempenho”.
Apesar disso, especialistas alertam para riscos significativos. As Visões Gerais de IA utilizam modelos generativos para fornecer respostas rápidas e conversacionais sobre diversos temas, posicionadas acima dos links tradicionais. Embora possam citar fontes, nem sempre conseguem identificar quando essas fontes estão incorretas ou fora de contexto.
Poucas semanas após o lançamento nos EUA, usuários relataram informações factualmente erradas sobre temas variados. Em um caso emblemático, uma Visão Geral de IA afirmava que Andrew Jackson, sétimo presidente dos Estados Unidos, havia se formado na faculdade em 2005. Diante das críticas, Elizabeth Reid, chefe de buscas do Google, reconheceu em postagem no blog da empresa que, “em um pequeno número de casos”, a ferramenta interpretou erroneamente o conteúdo de páginas da web. Segundo ela, “na escala da web, com bilhões de consultas diárias, é inevitável que ocorram algumas anomalias e erros”.
Quando o tema é saúde, no entanto, precisão e contexto são considerados inegociáveis. O Google passou a enfrentar crescente escrutínio após uma investigação do jornal The Guardian revelar que usuários estavam sendo expostos a informações médicas falsas ou enganosas por meio dos resumos de IA.
Embora a empresa afirme que os AI Overviews são “confiáveis”, a apuração identificou casos considerados “realmente perigosos” por especialistas. Em um deles, o Google aconselhou erroneamente pessoas com câncer de pâncreas a evitarem alimentos ricos em gordura — exatamente o oposto do recomendado, o que poderia aumentar o risco de morte desses pacientes.
Em outro exemplo classificado como “alarmante”, a ferramenta forneceu informações incorretas sobre exames de função hepática, levando pessoas com doenças graves no fígado a acreditarem, equivocadamente, que estavam saudáveis. Especialistas alertam que os parâmetros considerados “normais” pela IA variavam de forma significativa em relação aos padrões médicos aceitos, o que poderia levar pacientes a negligenciar consultas e tratamentos essenciais.
Análises automatizadas sobre exames de câncer em mulheres também apresentaram informações “completamente erradas”, segundo especialistas, podendo induzir pacientes a ignorarem sintomas reais.
Inicialmente, o Google tentou minimizar as conclusões do Guardian, afirmando que os resumos continham links para fontes confiáveis e incentivavam a busca por orientação médica especializada. “Investimos fortemente na qualidade das Visões Gerais de IA, especialmente em temas sensíveis como saúde, e a grande maioria fornece informações precisas”, declarou um porta-voz.
Poucos dias depois, contudo, a empresa removeu algumas Visões Gerais de IA relacionadas a consultas de saúde apontadas na investigação. “Não comentamos remoções individuais”, informou o Google, acrescentando que trabalha continuamente para aprimorar o sistema quando há falta de contexto ou inconsistências.
Apesar das remoções pontuais, especialistas seguem preocupados. Para Vanessa Hebditch, diretora de comunicação e políticas da British Liver Trust, o problema vai além de casos isolados. “O Google pode simplesmente desativar um resumo específico, mas isso não resolve a questão estrutural do uso de Visões Gerais de IA para informações de saúde”, afirma.
Sue Farrington, presidente do Patient Information Forum, reforça que ainda existem “muitos exemplos” de resumos fornecendo dados médicos imprecisos.
Um estudo recente ampliou as preocupações ao analisar mais de 50 mil buscas relacionadas à saúde na Alemanha. Os pesquisadores identificaram que a fonte mais citada nos resumos de IA era o YouTube. “Isso é relevante porque o YouTube não é uma editora médica, mas uma plataforma de vídeos de uso geral, onde qualquer pessoa pode publicar conteúdo, independentemente de formação”, destacaram.
Além da origem das informações, especialistas alertam para a forma como elas são apresentadas. Segundo Hannah van Kolfschooten, pesquisadora em IA, saúde e direito da Universidade de Basel, os usuários deixam de comparar diferentes fontes. “Eles recebem uma única resposta gerada por IA, apresentada com aparência de autoridade médica.”
Essa dinâmica cria, segundo ela, uma nova forma de autoridade médica não regulamentada no ambiente digital, especialmente quando baseada em fontes que não seguem padrões científicos rigorosos.
O Google sustenta que os AI Overviews exibem informações respaldadas pelos principais resultados da web e incluem links complementares para aprofundamento. No entanto, especialistas afirmam que, uma vez exibido o resumo, os usuários tendem a não buscar mais informações.
“Isso priva as pessoas da oportunidade de avaliar criticamente os dados ou mesmo de aplicar o bom senso em questões de saúde”, observa Nicole Gross, professora associada de negócios e sociedade no National College of Ireland.
Outras preocupações incluem a dificuldade da IA em diferenciar evidências robustas, como ensaios clínicos randomizados, de estudos observacionais mais frágeis, além da omissão de ressalvas importantes. A apresentação lado a lado dessas informações pode dar a falsa impressão de equivalência científica.
Além disso, os resumos podem mudar ao longo do tempo, mesmo quando a ciência permanece a mesma. “As pessoas recebem respostas diferentes dependendo do momento da busca, o que não é aceitável”, afirma Athena Lamnisos, diretora executiva da organização de combate ao câncer Eve Appeal.
A maior preocupação, segundo especialistas, é que informações médicas falsas ou perigosas acabem sendo incorporadas à rotina dos pacientes. “Na área da saúde, isso pode literalmente se tornar uma questão de vida ou morte”, conclui Nicole Gross.
Siga o Agenda Capital no Instagram>https://www.instagram.com/agendacapitaloficial/
Da Redação do Agenda Capital e The Guardian
