Varios miembros de la Cámara de Representantes de EE. UU., encabezados por el representante Adam Schiff, piden a Google que explique su función AI Overviews. Esta herramienta, integrada en el motor de búsqueda de Google, resume la información mediante IA.
Schiff y otros legisladores escribieron al director ejecutivo de Google, Sundar Pichai, sobre la inexactitud y el peligro de la función. La carta también afirma que la IA ha estado extrayendo información de sitios web satíricos y citando teorías conspirativas desmentidas hace tiempo, proporcionando información errónea a usuarios desprevenidos.
La carta plantea preocupaciones sobre desinformación
Schiff subrayó los riesgos de la información falsa, especialmente en el contexto de Google como fuente principal de noticias e información de salud para muchos estadounidenses. La carta, también firmada por los representantes Henry C. Johnson, Jr. (demócrata por Georgia), Donald S. Beyer Jr. (demócrata por Virginia), Pramila Jayapal (demócrata por Washington) y Lori Trahan (demócrata por Massachusetts), solicita aclaraciones sobre varios aspectos de la función "Resumen de IA".
Lea también: La narrativa de la IA se acelera y el sentimiento cambia a optimista sobre varios activos.
Los legisladores también quieren saber cómo se informa a los usuarios sobre los riesgos de la desinformación y el plazo para corregir o eliminar la información falsa.
La función Resumen de IA de Google emplea el modelo de IA de Gemini paratracinformación de las páginas mejor posicionadas y ofrecer un resumen con enlaces. Sin embargo, se ha acusado a la función de proporcionar información errónea y engañosa. Algunos ejemplos incluyen recomendar el consumo de rocas para obtener vitaminas y apoyar la religión de Barack Obama.
Controversias recientes resaltan problemas con el contenido generado por IA
En mayo de 2024, Google recibió críticas poco después del lanzamiento de AI Overviews en EE. UU. porque la función sugería añadir pegamento a la pizza para que el queso se pegara. Al cierre de esta edición, Google no había emitido una respuesta directa a la carta de los legisladores.
En una entrada de blog dent de Google , también explicó que la función "Resumen de IA" presentaba problemas. Reid señaló que uno de los problemas de la IA es su bajo rendimiento cuando las consultas no están respaldadas por datos de alta calidad. Señaló que, por ejemplo, cuando un usuario introduce un tema específico o poco común, o uno que contiene sátira, la IA selecciona respuestas de las limitadas fuentes disponibles, que a veces no son creíbles.
También se debaten las consecuencias financieras para los editores. Los motores de búsqueda basados en IA, como Google, pueden presentar un resumen del contenido de diferentes fuentes sin redirigir el tráfico a los creadores, lo que podría afectar sus ingresos. Esto ha dado lugar a medidas legislativas como las de California, donde los legisladores abogan por el pago a los editores cuando las empresas tecnológicas utilizan su contenido.
