Salesforce entra en el fuego cruzado legal por los datos de entrenamiento de IA

Salesforce, un gigante del software, ha sido demandado por un grupo de autores en un tribunal federal de San Francisco por construir sus modelos de IA XGen sobre una biblioteca pirata de libros. Según la demanda, eliminaron las referencias a esas fuentes una vez que surgieron preguntas.

La demanda fue presentada el miércoles por los autores E. Molly Tanzer y Jennifer Gilmore bajo la Ley de Derechos de Autor. La afirma infracción continua, diciendo que Salesforce  “continúa haciéndolo al continuar almacenando, copiando, usando y procesando los conjuntos de datos que contienen copias de los libros con derechos de autor de los Demandantes […]”

La queja cita declaraciones de Salesforce el CEO Marc Benioff, quien dijo a un entrevistado de Bloomberg en enero de 2024 que las empresas de IA se apropiaron de los datos de entrenamiento y que todos los datos de entrenamiento han sido robados.

Los autores buscan la certificación de clase para todos los titulares de derechos de autor de EE. UU. cuyas obras han sido utilizadas desde octubre de 2022. Buscan daños estatutarios, la destrucción de copias infractoras, la devolución de ganancias, una declaración de infracción intencional y honorarios de abogados.

Salesface enfrenta un caso sólido; las empresas de IA escaparon de reclamos similares

Según la queja, Salesforce pirateó cientos de miles de libros con derechos de autor para desarrollar su serie de modelos de lenguaje grande XGen. Hicieron esto utilizando los “notorios conjuntos de datos RedPajama y The Pile”, que tienen un corpus de libros llamado Books3 que tiene más de 196.000 libros copiados del rastreador privado Bibliotik.

El documento establece que Salesforce mencionó por primera vez “RedPajama-Books” como una de sus fuentes de entrenamiento cuando lanzó XGen en junio de 2023. Un ingeniero de la empresa luego enlazó a los usuarios de GitHub directamente a ambos conjuntos de datos.

Sin embargo, para septiembre, esas menciones fueron eliminadas del sitio web de Salesforce y reemplazadas con descripciones vagas de “datos de lenguaje natural” de “fuentes públicamente disponibles”. Al mes siguiente, Hugging Face, el sitio que alojaba Books3, eliminó el conjunto de datos debido a preocupaciones de derechos de autor.

Además, la demanda reveló que en 2022, Salesforce entrenó sus modelos CodeGen en The Pile. La empresa luego introdujo la tecnología en el mercado a través de su plataforma de IA Agentforce, con el modelo XGen-Sales lanzado en octubre de 2024.

Sin embargo, según los expertos, los autores deben demostrar un daño financiero real, no solo que sus libros fueron utilizados para el entrenamiento. Recientemente, el juez Vince Chhabria desestimó reclamos similares contra Meta, dictaminando que “simplemente afirmar ‘nuestro trabajo fue utilizado’ no es suficiente”. En ese sentido, el juez encontró vicepresidente y consejero general adjunto de el uso de libros con derechos de autor para entrenar IA como uso justo.

Además, como informó por Cryptopolitan, las decisiones recientes han favorecido a OpenAI y Anthropic en casos similares, con jueces que encontraron que los autores no lograron probar el daño al mercado. Sin embargo, un juez criticó a Anthropic por mantener una biblioteca permanente de libros pirata.

Salesforce utiliza la IA Gemini de Google para impulsar Agentforce 360

En otras noticias, Salesforce ha extendido su asociación con Google para incluir una integración más profunda de Gemini AI modelos con su plataforma Agentforce 360.

La inteligencia multimodal de Gemini se integrará en el ecosistema de Salesforce como resultado de la asociación. Esto ayudará a apoyar tareas como el razonamiento híbrido y la automatización de procesos de múltiples pasos en ventas empresariales y servicios de TI.

La integración ampliada permite que el Motor de Razonamiento Atlas, central en Agentforce 360, aproveche los modelos Gemini. Esto brinda a los flujos de trabajo empresariales opciones adicionales de modelos.

Además, la capacidad de razonamiento híbrido permite a los usuarios configurar agentes de IA dentro de Salesforce que producen salidas consistentes y precisas. La colaboración también extiende el alcance de la integración de Salesforce con Gemini, anteriormente limitada a Gmail, a otras aplicaciones de Google Workspace, incluidas Sheets, Docs, Drive, Slides y Meet.

Agentforce 360 ahora admite interoperabilidad nativa con Google Workspace, permitiendo a los usuarios iniciar compromisos de ventas, calificar leads y programar reuniones desde dentro de aplicaciones como Gmail y Google Calendar. También proporciona acceso directo a las aplicaciones Salesforce Customer 360 dentro de las herramientas de Google, agilizando el acceso a datos y la continuidad del flujo de trabajo para los equipos de ventas y servicio.

El científico jefe de Salesforce, Silvio Savarese dijo, “En el entorno empresarial, es imperativo que los agentes de IA sean altamente capaces y altamente consistentes, especialmente para casos de uso críticos […] Juntos, estamos estableciendo un nuevo estándar para construir el futuro de lo posible en la Empresa Agente hasta el nivel del modelo.”