A maioria dos mecanismos de pesquisa agora apresenta visões gerais geradas por IA por padrão, levantando preocupações sobre a precisão e diminuindo o tráfego de cliques. Embora os testes indiquem que as visões gerais de IA do Google são amplamente confiáveis, o alto volume de consultas leva a milhões de imprecisões diariamente.
Aproximadamente uma em cada dez visões gerais de pesquisa de IA do Google contém informações falsas, de acordo com o The New York Times. O Google processa cerca de 5 trilhões de consultas anualmente, expondo teoricamente os usuários a mais de 57 milhões de respostas imprecisas a cada hora – perto de 1 milhão a cada minuto.
Essas estatísticas surgem de uma análise da startup de IA Oumi, que examinou 4.326 pesquisas para avaliar a precisão do assistente de IA do Google, Gemini. Oumi relatou que a versão 2 do Gemini forneceu visões gerais precisas 85% das vezes em outubro. Uma versão melhorada, Gemini 3, aumentou a precisão para 91% em fevereiro.
No entanto, a análise de Oumi depende de ferramentas de IA, que também podem introduzir erros. Além disso, o Google às vezes produz diferentes visões gerais de IA para a mesma consulta quando ela é repetida com segundos de intervalo.
Um porta-voz do Google criticou os testes do Oumi, rotulando-os de falhos e não representativos dos comportamentos reais de pesquisa. As avaliações internas do Google indicam que o Gemini 3 tem alucinações 28% das vezes quando funciona independentemente da Pesquisa Google.
Existem também problemas significativos com o fornecimento. O Google pretende apoiar suas visões gerais de IA com links relevantes; no entanto, muitos desses links não apoiam as afirmações da Gemini. As discrepâncias entre as visões gerais da IA e suas fontes citadas aumentaram de 37% para o Gemini 2 para 56% para a atualização pós-fevereiro do Gemini 3.
Os pesquisadores destacaram a vulnerabilidade das visões gerais da IA à manipulação; um caso envolveu um jornalista da BBC cujas falsas alegações foram repetidas pelo Google no dia seguinte. Tanto o Google como outras empresas de IA reconhecem a natureza pouco fiável da tecnologia nas suas isenções de responsabilidade.
