Analista de Google advierte que las respuestas de IA 'no son perfectas, no pueden reemplazar tu cerebro'

El analista de Google, Gary Illyes, advirtió que los modelos de lenguaje grandes (LLM) – la tecnología detrás de los chatbots de IA generativa como ChatGPT – aún tienen lagunas en la precisión y necesitan un ojo humano para verificar el contenido que producen. Estos comentarios llegan apenas días después de que OpenAI lanzara SearchGPT, un nuevo motor de búsqueda impulsado por IA que competirá directamente con Google. 

Illyes compartió los comentarios en LinkedIn en respuesta a una pregunta que recibió en su bandeja de entrada, pero no dijo cuál era la pregunta. Dijo que la gente no debería confiar en las respuestas de la IA sin verificar otras fuentes autorizadas. OpenAI busca que su herramienta de búsqueda desplace el dominio de Google en el mercado de los motores de búsqueda.

Las respuestas de IA no son 'necesariamente correctas desde el punto de vista factual'

Illyes, que lleva más de una década en Google, dijo que aunque las respuestas de IA pueden estar cerca de la verdad, no son

«Según sus datos de entrenamiento, los LLM encuentran las palabras, frases y oraciones más adecuadas que se alinean con el contexto y el significado de un prompt», escribió Illyes. «Esto les permite generar respuestas relevantes y coherentes. Pero no necesariamente correctas desde el punto de vista factual».

El analista de Google dijo que los usuarios aún necesitarán validar las respuestas de IA basándose en «lo que sabes sobre el tema que preguntaste al LLM o en lecturas adicionales de recursos que sean autorizados para tu consulta».

Una forma en que los desarrolladores han intentado garantizar la fiabilidad del contenido generado por IA es a través de una práctica llamada «fundamentación» (grounding). El proceso implica la infusión de información creada por máquinas con elementos humanos para protegerse contra errores. Según Illyes, la fundamentación puede no ser suficiente.

«La fundamentación puede ayudar a crear respuestas más correctas desde el punto de vista factual, pero no es perfecta; no reemplaza tu cerebro», dijo. «Internet está lleno de desinformación intencionada y no intencionada, y no creerías todo lo que lees en línea, así que ¿por qué creerías las respuestas de un LLM?»

Elon Musk acusa a Google de restringir el acceso a la información pública

Tradicionalmente, la confianza siempre ha sido un problema con los motores de búsqueda como Google y otras plataformas de inteligencia artificial, y cómo ejercen cierto control sobre la información que remiten a los usuarios.

Uno de estos incidentes involucra el reciente intento de asesinato del ex presidente de EE. UU., Donald Trump. Elon Musk sugirió que Google prohibió que el incidente de disparos apareciera en sus resultados de búsqueda, lo que provocó un gran debate en las redes sociales sobre el alcance de las grandes tecnológicas.

¡Guau, Google tiene una prohibición de búsqueda sobre el presidente Donald Trump!

¿Interferencia electoral? pic.twitter.com/dJzgVAAFZA

— Elon Musk (@elonmusk) julio 29, 2024

En la avalancha de respuestas, una cuenta suplantada que pretendía pertenecer a la vicepresidenta de Google, Ana Mostarac, añadió al debate, compartiendo una disculpa falsa de la empresa por supuestamente bloquear contenido sobre Trump.

«…Las necesidades de información de las personas continúan creciendo, por lo que seguiremos evolucionando y mejorando la Búsqueda. Sin embargo, parece que necesitamos recalibrar lo que significa ser preciso. Lo que es preciso es subjetivo, y la búsqueda de la precisión puede entorpecer la realización de tareas», publicó la cuenta falsa en X.

«Puede estar seguro de que nuestro equipo está trabajando arduamente para garantizar que nuestra reverencia por la precisión no sea una distracción que se interponga en nuestro camino hacia nuestra visión del futuro», añadió.

Las notas de la comunidad en X marcaron inmediatamente el tuit, diciendo que la persona se hacía pasar por el vicepresidente de Google. Este es un ejemplo de cómo la información puede distorsionarse fácilmente, y los modelos de IA pueden no ser capaces de discernir entre lo que es preciso o no sin revisión humana.