Google libera como código abierto una herramienta de marca de agua para que los usuarios identifiquen texto generado por IA

- “El detector de texto generado por IA de Google, SynthID, no comprometerá la calidad y precisión de los textos.”
- Esto se considera un paso correcto hacia la lucha contra los deepfakes.
- Otras empresas tecnológicas como OpenAI han trabajado en una herramienta de marca de agua para texto, pero retrasaron su lanzamiento.
Google ha liberado como código abierto la herramienta de marca de agua de texto SynthID, una tecnología que permite a los usuarios detectar fácilmente si un texto es original o generado por IA.
Según Google, el detector de texto generado por IA se puede descargar desde la plataforma de IA Hugging Face y el Kit de Herramientas de GenAI Responsable actualizado de Google. Las marcas de agua se han vuelto significativas con el auge de la IA generativa en los últimos dos años, ya que los LLM se manipulan para difundir desinformación y noticias falsas, así como contenido sexual no consensuado y con fines maliciosos.
Este desarrollo llega con urgencia para desarrollar tales herramientas, ya que la Agencia de Policía de la Unión Europea está preocupada porque el 90 % del texto en línea podría ser sintético para 2026, lo que haría que la propaganda, el fraude y el engaño fueran abundantes.
Los investigadores de Google explican su herramienta de marca de agua
En un post en la plataforma X, el gigante de los motores de búsqueda reveló que está liberando como código abierto su herramienta de marca de agua SynthID Text, diciendo que estará "disponible gratuitamente para empresas y desarrolladores, ya que les ayudará a identificar su contenido generado por IA".
Pushmeet Kohli, vicepresidente de investigación en Google DeepMind y coautor de un artículo de investigación de Google DeepMind, dijo: "El sistema no compromete las funciones de los modelos de IA, sino que simplemente los mejora".
Las imágenes y los videos han sido centrales en las discusiones sobre credenciales de contenido, y las marcas de agua han sido señaladas como la solución necesaria para combatir los deepfakes.
La Coalición para la Proveniencia y Autenticidad del Contenido (C2PA), una colaboración entre empresas tecnológicas y principales medios de comunicación para desarrollar un sistema que adjunte metadatos encriptados para indicar archivos de imagen y video generados por IA, también ha sido central en estas discusiones.
Según el artículo de investigación de Google DeepMind, SynthID Text interfiere durante la generación, ya que altera algunas palabras emitidas por un chatbot para que sean claras para un detector de SynthID pero casi invisibles para los humanos.
"Modificaciones como estas introducen una firma estadística en el texto generado por IA y, durante la fase de detección de la marca de agua, la firma se puede medir para ver si el texto proviene de un modelo de IA del LLM con marca de agua", escribieron los investigadores en el artículo.
Al generar oraciones palabra por palabra es como funcionan los LLM que impulsan los chatbots, ya que eligen la palabra siguiente más probable dependiendo del contexto de lo anterior. Al asignar aleatoriamente puntuaciones numéricas a las palabras candidatas, el LLM produce palabras con una puntuación más alta. Las marcas de agua se pondrán en un fragmento de texto que habría sido analizado por el detector, y se habrá encontrado que tiene una puntuación más alta.
Hoy, estamos liberando como código abierto nuestra herramienta de marca de agua de texto SynthID a través de un Kit de Herramientas de IA Generativa Responsable actualizado.
Disponible gratuitamente para desarrolladores y empresas, les ayudará a identificar su contenido generado por IA. 🔍
Más información → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
— Google DeepMind (@GoogleDeepMind) Octubre 23, 2024
Los expertos de la industria elogian el paso de Google en la dirección correcta
A pesar de que el sistema de DeepMind funciona mejor que otras herramientas para marcar con agua el texto, los investigadores reconocieron en su artículo que la herramienta aún tiene defectos. Por ejemplo, si alteras un texto generado por Gemini, el detector será engañado.
"Aunque SynthID no es una bala de plata para identificar contenido generado por IA, es un bloque de construcción importante para desarrollar herramientas de identificación de IA más confiables".
– Kohli.
Si los usuarios alteran los textos significativamente o usan otro chatbot para resumir el texto, el detector será desviado al marcar con agua el texto generado por IA.
Google afirma que SynthID Text no compromete la calidad, precisión ni la velocidad de la generación de texto, según lo probado por el sistema integrado en sus modelos Gemini. La empresa también añadió que funciona incluso en textos que han sido recortados, modificados o parafraseados.
"La detección es un problema particular cuando se comienza a tener en cuenta la implementación en situaciones reales, ya que hay problemas con la revisión de texto en la naturaleza, donde uno tendrá que saber qué modelo de marca de agua se ha aplicado para saber y dónde localizar la señal", explicó Bruce MacCormack, miembro del comité directivo de C2PA.
Además de Google, OpenAI también ha estado trabajando durante años en tecnología de marca de agua para texto de IA, pero ha retrasado su lanzamiento debido a la viabilidad técnica y comercial.
Pero los expertos de la industria han elogiado generalmente la iniciativa de Google como un paso en la dirección correcta.
"Tiene el potencial de mejorar el uso de credenciales de contenido duraderas de C2PA para documentos y texto sin formato", dijo Andrew Jenks, director de proveniencia de medios de Microsoft y presidente ejecutivo de C2PA.
MacCormack también añadió que, aunque los investigadores de Google aún tienen mucho trabajo por hacer para hacer esto un caso práctico, sigue siendo una gran iniciativa y "el primer paso en la maratona que viene".
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Enacy Mapakame
Enacy Mapakame es una periodista con más de 10 años de experiencia en noticias empresariales y financieras. Cubre los mercados de capitales y las tecnologías emergentes: el metaverso, la inteligencia artificial y las criptomonedas. Enacy posee un título de licenciatura con honores en Estudios de Medios y Sociedad.















