Google entrena herramientas de búsqueda con IA con contenido de editores a pesar de las exclusiones

Google enfrenta nuevos escrutinios después de que un alto ejecutivo testificara que los productos de inteligencia artificial (IA) específicos de búsqueda de la empresa, como las Resúmenes de IA, se entrenan con contenido de editores, incluso cuando esos editores han optado explícitamente por no participar en el entrenamiento de IA.

Eli Collins, Vicepresidente de Google DeepMind, reconoció en tribunal federal el viernes que, aunque los editores pueden evitar que su contenido se utilice para entrenar modelos de IA desarrollados por DeepMind, dichas exclusiones no se aplican a la organización más amplia de búsqueda de Google.

«Una vez que tomas el modelo [de IA] Gemini y lo colocas dentro de la organización de búsqueda, la organización de búsqueda tiene la capacidad de entrenar con los datos de los que los editores habían optado por no participar, ¿correcto?», preguntó Diana Aguilar, abogada del Departamento de Justicia de EE. UU. (DOJ).

Collins confirmó que los datos aún podrían utilizarse «para su uso en la búsqueda».

Esta revelación ocurre en medio de un juicio antimonopolio crucial que determina cómo la empresa tecnológica debe reestructurar sus operaciones después de ser declarada culpable el año pasado de monopolizar ilegalmente el mercado de búsqueda en línea. El Departamento de Justicia ahora presiona por remedios estructurales, incluida la obligación de la empresa de vender su navegador Chrome y prohibir acuerdos que la conviertan en el motor de búsqueda predeterminado en todos los dispositivos, un movimiento que también impactaría el productos de IA, incluido Gemini.

Google potencia herramientas de IA con contenido que los editores dicen que no permitieron

La Función de Resúmenes de IA, que resume respuestas en la parte superior de los resultados de búsqueda utilizando texto generado por IA, ya ha alarmado a los editores de sitios web. Muchos argumentan que reduce los clics de los usuarios a los sitios web originales y perjudica sus ingresos, sin embargo, la empresa tecnológica continúa utilizando datos de estas fuentes.

En un documento presentado por el DOJ fechado el 26 de agosto de 2024, titulado «Search GenAI <> Gemini v3», los datos internos mostraron que Google había filtrado aproximadamente 80.000 millones de tokens —esencialmente fragmentos de texto— de su corpus de entrenamiento de 160.000 millones de tokens en respuesta a las exclusiones de los editores. Sin embargo, los 80.000 millones de tokens restantes aún podrían incluir contenido que impulsa las funciones de IA de Google Search.

El mismo documento también enumeró «datos de sesiones de búsqueda» y videos de YouTube como fuentes adicionales para mejorar el entrenamiento de IA, lo que genera preocupaciones sobre el alcance de los datos de los usuarios que se alimentan a los modelos de IA de la empresa tecnológica.

Cuando el juez Amit Mehta preguntó si la mitad del conjunto de datos había sido eliminada debido a las exclusiones de los editores, Collins confirmó: «Eso es correcto».

El DOJ destaca el interés interno en aprovechar los datos de búsqueda para IA

El DOJ destacó aún más las discusiones internas dentro de Google que sugieren ambiciones de entrenar modelos de IA utilizando sus vastas cantidades de datos de búsqueda, clasificaciones, consultas y comportamiento de los usuarios.

Uno de esos casos incluyó una presentación preparada para el CEO de DeepMind, Demis Hassabis, en la que reflexionaba sobre la idea de entrenar un modelo de IA de Google utilizando datos de búsqueda completos para evaluar las mejoras de rendimiento resultantes.

Aguilar preguntó a Collins si Google había construido un modelo utilizando datos de búsqueda. Collins respondió que no estaba al tanto de que se estuviera desarrollando tal modelo, aunque reconoció que Hassabis había mostrado interés en el concepto.

El equipo legal de Google intentó minimizar las preocupaciones sobre el dominio de la IA, argumentando que otras empresas de IA pueden prosperar sin aprovechar su índice de búsqueda. Por ejemplo, los chatbots deportivos pueden acceder a datos en tiempo real a través de asociaciones comerciales con proveedores de marcadores, no mediante contenido rastreado por la web.

Aún así, el DOJ mantiene que el dominio histórico de Google en la búsqueda le da una ventaja injusta en el espacio de la IA, especialmente a medida que integra Gemini en su infraestructura de búsqueda.

Google enfrenta más escrutinio sobre su negocio de publicidad

Alphabet’s Google también enfrentará un juicio en septiembre sobre las propuestas de los reguladores antimonopolio para forzar a la empresa a vender partes de su negocio de tecnología publicitaria. Los cambios propuestos tienen como objetivo abordar el dominio de la empresa sobre las herramientas utilizadas por los editores en línea para vender anuncios digitales.

El juez distrital de EE. UU. Leonie Brinkema en Alexandria, Virginia, fijó la fecha del juicio después de escuchar a Google y al DOJ sobre posibles remedios. Se espera que ambas partes presenten propuestas detalladas para el lunes.

El DOJ busca que la empresa tecnológica venda sus negocios de intercambio de anuncios y servidor de anuncios para editores, un proceso que se espera que tome varios años, según la abogada del DOJ Julia Tarver Wood.

La abogada de Google, Karen Dunn, contrargumentó que la empresa apoya los remedios conductuales, como permitir que las pujas en tiempo real estén disponibles para los competidores. Sin embargo, argumentó que el DOJ no puede forzar legalmente a la empresa a vender partes de su negocio. Dunn afirmó además que tal movimiento perjudicaría a los usuarios de Internet y enfrentaría desafíos debido a la falta de compradores interesados.