As respostas da pesquisa de IA são rápidas e saborosas, mas não são informações nutritivas

Se você usou o Google recentemente e teve sorte – ou azar – o suficiente para encontrar uma resposta à sua consulta em vez de um monte de links, você foi submetido a algo chamado Visão Geral de IA.

Este é um novo recurso central que o Google está lançando, um movimento amplamente esperado desde os experimentos da empresa com seu modelo de linguagem grande LaMDA em 2021, e desde que o chatbot de inteligência artificial ChatGPT da OpenAI ganhou destaque em 2023.

Esse recurso é mais uma adição ao número crescente de complementos e ferramentas integrados a mecanismos de pesquisa como o Google.

Alguns dos exemplos notáveis ​​incluem painéis de conhecimento baseados em gráficos de conhecimento, que são usados ​​para preencher informações factuais relevantes em uma caixa de informações ao lado dos resultados da pesquisa, e snippets em destaque, que são sinopses extraídas de um resultado de pesquisa e fornecidas antes do link para essa página.

Mas o que há de diferente nas visões gerais de IA é que elas não são simplesmente extraídas de fontes relevantes, mas geradas nos bastidores pela tecnologia de IA generativa do Google.

O objetivo da empresa é fornecer uma resposta personalizada e sob demanda, em vez de um conjunto padrão de documentos ou mesmo uma caixa de resposta correspondente à sua consulta.

Isto parece quase mágico e potencialmente útil em muitas situações. Afinal, as pessoas usam motores de busca principalmente para encontrar respostas e não listas de documentos. Mas há mais na imagem.

Minha colega Emily Bender e eu escrevemos sobre o que os usuários de mecanismos de pesquisa precisam, desejam e têm. Mostrámos que eles querem não só informação, mas também a capacidade de descobrir, aprender e questionar o que encontram.

Em outras palavras, os usuários têm uma ampla gama de situações e objetivos, e comprimi-los em um conjunto de links ou, pior, em uma única resposta é problemático.

Conselho ruim

Esses recursos de IA coletam informações da Internet e de outras fontes disponíveis e fornecem uma resposta com base em como são treinados para associar palavras.

Um argumento central contra eles é que eles eliminam principalmente da equação o julgamento, a agência e a oportunidade de aprender do usuário.

Isso pode ser adequado para muitas pesquisas. Quer uma descrição de como a inflação afetou os preços dos alimentos nos últimos cinco anos ou um resumo do que a Lei de IA da União Europeia inclui?

As visões gerais de IA podem ser uma boa maneira de analisar muitos documentos e extrair essas respostas específicas.

Mas as necessidades de pesquisa das pessoas não terminam com informações factuais. Eles procuram ideias, opiniões e conselhos. Procurando sugestões sobre como evitar que o queijo escorregue da pizza?

O Google dirá que você deve adicionar um pouco de cola ao molho. Ou está se perguntando se correr com uma tesoura traz algum benefício à saúde? Claro, o Google dirá, “também pode melhorar os poros e dar força”.

Embora um usuário razoável possa entender que tais respostas ultrajantes provavelmente estarão erradas, é difícil detectar isso em questões factuais.

Por exemplo, ao pesquisar a fé dos presidentes dos EUA, as visões gerais de IA do Google deram a resposta incorreta de que Barack Obama é muçulmano.

Essa desinformação foi amplamente divulgada e desmascarada anos atrás, mas o Google a regurgitou sem uma boa maneira de os usuários saberem que se trata de desinformação.

Que tal um estudante que usa o Google para fazer o dever de casa e pergunta quais países da África começam com a letra K? Embora o Quênia atenda a esses critérios, as visões gerais de IA do Google responderam incorretamente que não existem tais países.

O Google reconheceu problemas com as visões gerais de IA e disse que os resolveu. Mas a preocupação permanece: você pode realmente confiar nas respostas que recebe por meio deste serviço?

Como evitar respostas de IA

Existem alternativas. Você sempre pode voltar à pesquisa tradicional do Google com seus 10 links azuis.

Clique em “Mais” no menu – Tudo, Notícias, Imagens, Mapas, Vídeos e Mais – diretamente abaixo do campo de pesquisa no topo da página de pesquisa do Google e selecione “Web”.

Você pode então fazer o que provavelmente já fez há décadas: examinar alguns dos principais resultados, visitar alguns desses sites e decidir por si mesmo.

Dá um pouco de trabalho, mas lhe devolve a capacidade de examinar vários sites e evidências para apoiar ou refutar algo. Mais importante ainda, você deixa abertas as possibilidades de aprendizagem, descoberta e acaso.

O AI Overviews é como um fast food entregue através de uma janela drive-through – é rápido, quente e conveniente, mas não é a escolha mais saudável.

Consultar os resultados de pesquisa tradicionais do Google é como examinar o cardápio de um restaurante com mesa e fazer um pedido que demorará um pouco para chegar à sua mesa.

Você pode fazer perguntas ao servidor sobre esses itens e até mesmo solicitar algumas alterações nas ofertas do restaurante. É preparado com mais cuidado, customização e controle, mas também leva mais tempo e pode custar mais caro.

No entanto, esses não são os únicos métodos de encontrar informações. Existem alternativas ao mecanismo de busca do Google, incluindo ferramentas de busca especializadas.

Para necessidades acadêmicas, Google Scholar, Semantic Scholar e CORE são locais úteis para procurar artigos de pesquisa e citações. Procurando informações médicas?

Experimente PubMed, ScienceDirect e OpenMD. Para necessidades jurídicas, alguns serviços incluem Fastcase, Caselaw Access Project e CourtListener.

Preocupado com a privacidade? Confira DuckDuckGo, Startpage e Swisscows.

Se você ainda deseja respostas geradas por IA, algumas das alternativas às visões gerais de IA do Google e ao Copilot do rival Bing são You.com e Komo, que fornecem mais transparência sobre os dados que coletam sobre você, fornecem maior privacidade e também oferecem maneiras de cancelar de ter seus dados coletados para treinar seus modelos de IA.

Uma dieta informativa equilibrada

Talvez você não possa se dar ao luxo de comer fora em um bom restaurante ou preparar todas as refeições do zero sempre, mas é importante evitar acabar passando por um drive-thru para obter toda a sua alimentação.

Afinal, você é o que você come e, da mesma forma, você é como você busca.

É fácil cair em manchetes sensacionais e notícias curtas sem contexto. Mas você não precisa deixar que isso defina você. Você pode expandir o escopo de como você pesquisa.

Não há problema em ir ao drive-thru de vez em quando e ir para as visões gerais da IA, mas é importante também encontrar outras maneiras mais saudáveis ​​de atender às suas necessidades – de comida e de informação.

Tem alguma opinião sobre isso? Deixe-nos uma linha abaixo nos comentários ou leve a discussão para nosso Twitter ou Facebook.

Recomendações dos Editores:

• Chatbots de IA se recusam a produzir resultados ‘controversos’
• A IA está resolvendo um problema difícil – dando aos computadores o sentido do olfato
• Desafios da IA ​​em 2024: insights de três pesquisadores líderes em IA
• Confiar nas escolhas da IA ​​pode enfraquecer as nossas capacidades de tomada de decisão

Nota do Editor: Este artigo foi escrito por Chirag Shah , Professor de Ciência da Informação na Universidade de Washington, e republicado pela The Conversation sob uma licença Creative Commons. Leia o artigo original.