A Pesquisa Google é uma ferramenta que todos usamos de forma quase reflexiva, e mudanças em seu comportamento podem ter um grande impacto na forma como encontramos informações online.
Recentemente, o Google lançou um recurso, SGE do Google, onde alguns resultados de pesquisa agora incluem resumos gerados por IA. Em um recente implementação limitada afetando alguns usuários dos EUAo novo recurso do Google com resultados resumidos por IA levantou preocupações sobre moderação.
Embora o Google pretenda que isso seja útil, parece que esses resumos têm um lado negro não intencional. Há um aumento preocupante em sites fraudulentos e de malware em destaque nestes resumos de IA.
Qual é o problema dos resumos gerados por IA?
A ideia por trás desse recurso é bastante simples: o Google deseja fornecer respostas rápidas sem que você precise visitar vários sites. Para algumas dúvidas – como “quantas colheres de sopa tem uma xícara” – os resumos de IA podem ser muito úteis. No entanto, às vezes as respostas geradas pela IA são incompletas, enganosas ou simplesmente erradas.
O mais preocupante é que às vezes eles promover ativamente conteúdo perigoso.
Avistado por Lily Ray em Xa pesquisa baseada em IA do Google, SGE, recomenda sites de spam como parte de uma resposta:
Ah, que bom.
A SGE RECOMENDARÁ OS SITES DE SPAM COMO PARTE DA RESPOSTA. pic.twitter.com/wqgFFXqbMB
-Lily Ray (@lilyraynyc) 22 de março de 2024
Isto tem implicações importantes para a segurança online. Os mecanismos de pesquisa são nossa porta de entrada para a Internet e muitos usuários confiam implicitamente nos melhores resultados. Resumos gerados por IA que parecem respostas legítimas podem dar aos golpes uma camada extra de credibilidade.
Como a IA do Google está sendo enganada para obter resumos dignos de fraude?
Especialistas em SEO (Search Engine Optimization) e proprietários de sites menos escrupulosos há muito manipulam algoritmos de pesquisa para aumentar a classificação de seus sites. Agora, essas mesmas técnicas estão sendo usadas para fornecer informações enganosas à IA do Google com o objetivo de sequestrar esses resumos.
Aqui está um exemplo de como isso pode funcionar:
- Configuração de golpe: Um golpista cria um site que oferece um negócio bom demais para ser verdade, como um iPhone com grandes descontos
- Jogos de algoritmo: eles enchem seu site com palavras-chave e conteúdo projetado para fazê-lo parecer relevante, mesmo que esteja cheio de análises falsas e jargões técnicos
- Inteligência artificial: A IA do Google, examinando o site em busca de informações, não percebe os padrões enganosos e é levada a pensar que o site é um ótimo recurso
- Resumo perigoso: quando alguém pesquisa informações relacionadas a esse produto, a IA gera um resumo que apresenta o site fraudulento com destaque
Não confie na máquina (inteiramente)
Embora o Google melhore a capacidade de sua IA de detectar e filtrar conteúdo malicioso, é vital estar ciente dos riscos.
Veja como se manter seguro:
- Verifique novamente as fontes: Mesmo com resumos de IA, reserve um momento para examinar o site sugerido. Procure sinais de endereços da web duvidosos (como domínios de nível superior incomuns, como .online), design de site genérico ou uma superabundância de comentários elogiosos que parecem muito semelhantes
- A pesquisa tradicional ainda é sua amiga: não abandone completamente a rolagem pelos resultados de pesquisa padrão. Sites estabelecidos e respeitáveis muitas vezes ainda oferecem as informações mais precisas
- O ceticismo é um escudo: Se um acordo parece incrivelmente bom, é quase certo que é. Não se deixe levar por ofertas boas demais para serem verdade, mesmo que um resumo do Google pareça endossá-las
A conclusão? Os avanços da IA precisam de cautela
Embora a IA tenha o potencial de agilizar muitas tarefas on-line, é fundamental estar ciente de suas limitações e do potencial de uso indevido. Os resumos gerados por IA podem ser confusos.
Até que sua capacidade de detectar sites duvidosos melhore, aplique uma boa dose de pensamento crítico aos resultados de sua pesquisa.
Crédito da imagem em destaque: Google YouTube