La herramienta de detección de imágenes de OpenAI muestra resultados prometedores pero enfrenta desafíos
- OpenAI lanzó una herramienta capaz de identificar imágenes generadas por IA para abordar el desafío de las amenazas de deepfakes.
- El detector rastrea el 98 % de las imágenes del modelo DALL-E 3, pero no logra detectar aquellas que han sido modificadas.
- OpenAI planea mejorar la herramienta mediante la realización de experimentos y la coordinación con investigadores externos.
Las imágenes generadas por IA pueden engañarte haciéndote percibir contenido falso como original. Por eso, OpenAI, el desarrollador de ChatGPT, ha creado una herramienta que puede determinar si una imagen proviene de DALL-E 3, el único algoritmo de generación de imágenes que desarrollaron.
El martes, OpenAI dio a los usuarios la primera oportunidad de probar una herramienta de detección de imágenes que consta de modelos base y ajustados. El objetivo es involucrar a investigadores autoejecutantes para examinar la aprensión, la utilidad, las formas en que podría aplicarse y los factores que podrían causar contenido generado por IA.
Tasa de éxito y pruebas de la herramienta
OpenAI ha probado la herramienta internamente y, en algunos aspectos, ha sido alentadora, mientras que por otro lado ha sido muy decepcionante. Evaluar las imágenes producidas por DALL-E 3 permitió clasificar correctamente el 98% de ellas. Además, al analizar imágenes no creadas por DALL-E 3, el sistema las atribuía erróneamente a DALL-E 3 solo el 0,5% de las veces.
OpenAI no encontró que la modificación de una imagen con una diferencia ligeramente significativa afectara el resultado. El equipo interno probó la herramienta comprimiendo, recortando e introduciendo cambios de saturación en la imagen creada por DALL-E 3 y observó que la herramienta aún podía lograr un buen nivel de éxito.
Desafíos y limitaciones
Por desgracia, la herramienta no fue muy efectiva con las imágenes que habían sido procesadas extensamente. La redacción de este artículo por parte de OpenAI no está clara sobre cuántas modificaciones hicieron en los casos que describen, y dicen que “otras modificaciones pueden reducir el rendimiento”.
En una entrevista con The Wall Street Journal, Sandhini Agarwal, una investigadora, dijo que la herramienta fue menos efectiva en situaciones como cambiar el tono de la imagen y que se requiere una suscripción. Como mencionó Agarwal, para abordar este tipo de problemas, OpenAI traerá probadores externos al sistema.
Además, las pruebas internas también cuestionaron la capacidad de la herramienta para analizar las imágenes creadas con modelos de IA de otras empresas. En tales situaciones, la herramienta de OpenAI solo pudo reconocer el 5% o el 10% de las imágenes en relación con modelos distintos al suyo. Dichas modificaciones en dichas imágenes, como los cambios de tono, también disminuyeron significativamente la eficiencia, dijo Agarwal al Journal.
Las imágenes creadas por IA no solo son artificiales, sino que también plantean problemas en este año electoral. Los grupos agraviados, tanto dentro como fuera de un país, pueden emplear fácilmente estas fotos para manchar a un político aspirante o a un caso que se defiende. En la actualidad, cuando los generadores de imágenes por IA continúan desarrollándose, la línea entre la realidad y la fantasía es más difícil de distinguir que nunca.
Adopción por parte de la industria
Por otro lado, OpenAI busca agregar marcas de agua a los metadatos de las imágenes de IA a medida que las empresas se convierten en miembros de la User Value Organization (UVG). C2PA pertenece a una iniciativa de la industria tecnológica que viene con estándares técnicos para revelar el origen del contenido y su autenticidad en el proceso conocido como marca de agua. El gigante de Facebook Meta dijo a principios de este mes que su IA será etiquetada como tal por el estándar C2PA a partir de este mayo.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
