Las respuestas de búsqueda de IA son rápidas y sabrosas, pero no son información nutritiva

Si ha utilizado Google últimamente y ha tenido la suerte (o la mala suerte) de encontrar una respuesta a su consulta en lugar de un montón de enlaces, ha sido sometido a algo llamado descripciones generales de IA.

Esta es una nueva característica central que Google ha estado implementando, un movimiento ampliamente anticipado desde los experimentos de la compañía con su modelo de lenguaje grande LaMDA en 2021, y desde que el chatbot de inteligencia artificial ChatGPT de OpenAI saltó a la fama en 2023.

Esta característica es otra adición al creciente número de complementos y herramientas que se integran en motores de búsqueda como Google.

Algunos de los ejemplos notables incluyen paneles de conocimiento basados ​​en gráficos, que se utilizan para completar información fáctica relevante en un cuadro de información junto a los resultados de búsqueda, y fragmentos destacados, que son anuncios extraídos de un resultado de búsqueda y proporcionados antes del enlace a esa página.

Pero lo diferente de las descripciones generales de IA es que no se extraen simplemente de fuentes relevantes, sino que se generan detrás de escena mediante la tecnología de IA generativa de Google.

El objetivo de la empresa es brindarle una respuesta personalizada a pedido en lugar de un conjunto estándar de documentos o incluso un cuadro de respuesta que coincida con su consulta.

Esto parece casi mágico y potencialmente útil en muchas situaciones. Después de todo, la gente utiliza los motores de búsqueda principalmente para encontrar respuestas y no listas de documentos. Pero hay más en la imagen.

Mi colega Emily Bender y yo hemos escrito sobre lo que los usuarios de motores de búsqueda necesitan, quieren y tienen. Hemos demostrado que no sólo quieren información sino también la capacidad de descubrir, aprender y cuestionar lo que encuentran.

En otras palabras, los usuarios tienen una amplia gama de situaciones y objetivos, y comprimirlos en un conjunto de enlaces o, peor aún, en una única respuesta es problemático.

Mal consejo

Estas funciones de IA absorben información de Internet y otras fuentes disponibles y dan una respuesta basada en cómo están entrenadas para asociar palabras.

Un argumento central en contra de ellos es que en su mayoría eliminan de la ecuación el juicio, la agencia y la oportunidad de aprender del usuario.

Esto puede estar bien para muchas búsquedas. ¿Quiere una descripción de cómo la inflación ha afectado los precios de los comestibles en los últimos cinco años o un resumen de lo que incluye la Ley de IA de la Unión Europea?

Las descripciones generales de IA pueden ser una buena manera de revisar una gran cantidad de documentos y extraer esas respuestas específicas.

Pero las necesidades de búsqueda de las personas no terminan con información factual. Buscan ideas, opiniones y consejos. ¿Busca sugerencias sobre cómo evitar que el queso se resbale de la pizza?

Google te dirá que debes agregar un poco de pegamento a la salsa. ¿O te preguntas si correr con tijeras tiene algún beneficio para la salud? Claro, dirá Google, “también puede mejorar tus poros y darte fuerza”.

Si bien un usuario razonable puede comprender que respuestas tan escandalosas probablemente sean incorrectas, es difícil detectarlo en el caso de preguntas objetivas.

Por ejemplo, mientras investigaba la fe de los presidentes de EE. UU., AI Overviews de Google dio la respuesta incorrecta de que Barack Obama es musulmán.

Esta información errónea circuló ampliamente y fue desacreditada hace años, pero Google la regurgitó sin una buena manera de que los usuarios se enteraran de que se trata de información errónea.

¿Qué pasa con un estudiante que usa Google para sus tareas y pregunta qué países de África comienzan con la letra K? Si bien Kenia cumple con este criterio, AI Overviews de Google respondió incorrectamente que no existen tales países.

Google reconoció problemas con las descripciones generales de IA y dijo que los ha solucionado. Pero la preocupación persiste: ¿puede realmente confiar en las respuestas que reciba a través de este servicio?

Cómo evitar las respuestas de la IA

Hay alternativas. Siempre podrás volver a la búsqueda tradicional de Google con sus 10 enlaces azules.

Haga clic en "Más" en el menú (Todo, Noticias, Imágenes, Mapas, Videos y más) directamente debajo del campo de búsqueda en la parte superior de la página de búsqueda de Google y seleccione "Web".

Luego podrá hacer lo que probablemente ha hecho durante décadas: examinar algunos de los mejores resultados, visitar algunos de esos sitios y decidir por sí mismo.

Requiere un poco de trabajo, pero le devuelve la capacidad de examinar múltiples sitios y evidencia para respaldar o refutar algo. Más importante aún, dejas abiertas las posibilidades de aprendizaje, descubrimiento y serendipia.

AI Overviews es como comida rápida que se entrega a través de una ventanilla de autoservicio: es rápida, caliente y conveniente, pero no es la opción más saludable.

Revisar los resultados de búsqueda tradicionales de Google es como examinar un menú en un restaurante y hacer un pedido que tardará un tiempo en llegar a su mesa.

Puede hacerle preguntas a su camarero sobre esos artículos e incluso solicitar algunos cambios en las ofertas del restaurante. Se prepara con más cuidado, personalización y control, pero también lleva más tiempo y puede costar más.

Sin embargo, estos no son los únicos métodos para encontrar información. Existen alternativas al motor de búsqueda de Google, incluidas herramientas de búsqueda especializadas.

Para necesidades académicas, Google Scholar, Semantic Scholar y CORE son lugares útiles para buscar artículos de investigación y citas. ¿Busca información médica?

Pruebe PubMed, ScienceDirect y OpenMD. Para necesidades legales, algunos servicios incluyen Fastcase, Caselaw Access Project y CourtListener.

¿Preocupado por la privacidad? Consulte DuckDuckGo, Startpage y Swisscows.

Si aún desea respuestas generadas por IA, algunas de las alternativas a AI Overviews de Google y Copilot de su rival Bing son You.com y Komo, que brindan más transparencia sobre los datos que recopilan sobre usted, brindan mayor privacidad y también ofrecen formas de excluirse. de que se recopilen sus datos para entrenar sus modelos de IA.

Una dieta informativa equilibrada

Quizás no pueda darse el lujo de salir a comer a un buen restaurante o preparar cada comida desde cero cada vez, pero es importante evitar terminar pasando por un servicio de autoservicio para obtener toda su comida.

Después de todo, eres lo que comes y, de la misma manera, eres lo que buscas.

Es fácil caer en titulares sensacionalistas y noticias breves que carecen de contexto. Pero no tienes que dejar que eso te defina. Puede ampliar el alcance de su búsqueda.

Está bien ir al autoservicio de vez en cuando y buscar descripciones generales de IA, pero también es importante encontrar otras formas más saludables de satisfacer sus necesidades: comida e información.

¿Tiene alguna idea sobre esto? Escríbanos a continuación en los comentarios o lleve la discusión a nuestro Twitter o Facebook.

Recomendaciones de los editores:

• Los chatbots de IA se niegan a producir resultados "controvertidos"
• La IA está resolviendo un problema difícil: dotar a las computadoras del sentido del olfato
• Desafíos de la IA en 2024: opiniones de tres investigadores líderes en IA
• Depender de las opciones de la IA puede debilitar nuestras habilidades para tomar decisiones

Nota del editor: este artículo fue escrito por Chirag Shah , profesor de ciencias de la información en la Universidad de Washington, y republicado desde The Conversation bajo una licencia Creative Commons. Lea el artículo original.