Los gigantes tecnológicos forjan una alianza contra el contenido generado por IA
- Big Tech implementa medidas para detectar contenido generado por IA, mejorando la transparencia.
- Persisten desafíos técnicos en el etiquetado y detección de medios generados por IA.
- Surgen marcos regulatorios junto con esfuerzos voluntarios para combatir el contenido generado por IA.
En respuesta a las crecientes preocupaciones sobre la proliferación de contenido generado por IA, las principales empresas tecnológicas han anunciado iniciativas destinadas a detectar y etiquetar dicho contenido.
Estos esfuerzos llegan a raíz de incidentes como el escándalo de pornografía deepfake de Taylor Swift y la propagación de deepfakes políticos.
Big Tech Bands colabora para etiquetar y detectar contenido generado por IA.
Meta, anteriormente Facebook, anunció planes para etiquetar imágenes generadas por IA en sus plataformas, incluyendo Facebook, Instagram y Threads. Estas etiquetas, marcadores visibles, marcas de agua invisibles y metadatos incrustados en los archivos de imagen, tienen como objetivo aumentar la transparencia y la responsabilidad en cuanto a los orígenes del contenido.
Google, por su parte, se ha unido al comité directivo de la C2PA (Iniciativa de Autenticidad de Contenido), respaldando un protocolo de Internet de código abierto diseñado para proporcionar «etiquetas nutricionales» de contenido. Este movimiento significa un esfuerzo colaborativo entre los gigantes tecnológicos para establecer estándares en toda la industria para detectar contenido generado por IA.
OpenAI implementa medidas de procedencia del contenido
OpenAI también ha introducido medidas para abordar el problema. Añadirá marcas de agua a los metadatos de las imágenes generadas con sus modelos de IA, ChatGPT y DALL-E 3, proporcionando una etiqueta visible que indica la participación de la IA en la creación de contenido.
Aunque estos métodos representan un paso adelante, no son infalibles, ya que persisten desafíos en el etiquetado y la detección de video, audio y texto generados por IA.
Desafíos y perspectivas futuras
A pesar de los avances en el etiquetado y la marca de agua del contenido, persisten limitaciones técnicas. Las marcas de agua en los metadatos pueden ser eludidas capturando capturas de pantalla, mientras que las etiquetas visuales son susceptibles de recorte o edición. Las marcas de agua invisibles como SynthID de Google ofrecen mayor resiliencia, pero no están exentas de desafíos.
Necesidad de marcos regulatorios
Además de las medidas voluntarias, los marcos regulatorios están ganando tracción. Iniciativas como la Ley de IA de la UE y la Ley de Servicios Digitales exigen la divulgación del contenido generado por IA y la eliminación acelerada del contenido dañino. Los legisladores de EE. UU. también están considerando reglas vinculantes sobre deepfakes, con la Comisión Federal de Comunicaciones prohibiendo recientemente el uso de IA en llamadas robóticas.
Si bien las directrices voluntarias son un paso en la dirección correcta, persisten las preocupaciones sobre la responsabilidad de la industria. El historial de autorregulación del sector tecnológico genera dudas sobre la efectividad de las medidas voluntarias. Sin embargo, los anuncios recientes señalan un progreso en comparación con la falta de acción anterior.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Emman Omwanda
La experiencia de Emmanuel Omwanda se centra en los mercados de criptomonedas, abarcando tanto el análisis fundamental como el técnico. Anteriormente trabajó en diversos medios especializados en criptomonedas antes de unirse a Cryptopolitan, incluyendo CoinEdition, The Crypto Basic, CryptoNews Flash y DroomDroom. Es licenciado en Ciencias (BSc.) en Matemáticas y Ciencias de la Computación por la Universidad Kenyatta de Kenia y actualmente cursa su último año de una Licenciatura en Artes en Comunicación y Estudios de Medios.
