La controversia por la imagen generada por IA despierta preguntas éticas para las organizaciones de noticias

Las organizaciones de noticias se encuentran luchando con preguntas éticas después de un incidente en el que la imagen de un miembro del parlamento fue manipulada inapropiadamente utilizando tecnología de IA. La parlamentaria Georgie Purcell, del Partido de Justicia Animal de Victoria, se llevó una sorpresa cuando un informe de Nine News la mostró con características alteradas digitalmente, planteando preocupaciones sobre los límites del uso de la IA en el periodismo.

La sorpresa de Georgie Purcell llegó mientras veía un informe de Nine News sobre la decisión del estado de permitir la caza de patos. En el informe, su imagen fue sometida a cambios no autorizados, incluyendo pechos agrandados y un vestido convertido en un top corto. Nine News emitió más tarde una disculpa, atribuyendo la manipulación de la imagen a una función de automatización en el programa Photoshop de Adobe mientras se redimensionaba una foto obtenida en línea. Adobe aclaró que se requería intervención y aprobación humana para tales alteraciones, planteando preguntas sobre la precisión de la explicación. Aquí está la declaración oficial de Adobe enviada a Cryptopolitan:

Adobe está comprometida a asegurar que nuestra tecnología se desarrolle de acuerdo con nuestras principios de ética de la IA de responsabilidad, responsabilidad y transparencia y respeta a nuestros clientes y comunidades. Estamos trabajando con clientes y socios para habilitar credenciales de contenido, que son “etiquetas nutricionales” para el contenido digital, que permanecen asociadas con el contenido sin importar dónde se use, publique o almacene. Las ediciones de esta imagen específica habrían requerido intervención y aprobación humana.

Equipo de prensa de medios digitales de Adobe

Versión alemana:

Adobe se compromete a que nuestra tecnología se desarrolle en consonancia con nuestras principios éticos de inteligencia artificial (IA) en lo que respecta a la responsabilidad, la responsabilidad y la transparencia, y respeta a nuestros clientes y la sociedad. Trabajamos con clientes y socios para establecer llamadas “Credenciales de Contenido”. Se trata de una especie de “etiqueta nutricional” para el contenido digital, que permanece vinculada al contenido, independientemente de dónde se utilice, publique o almacene.

Adobe Presseteam

Los rápidos avances de la IA

La experiencia de Georgie Purcell ha encendido debates sobre las implicaciones éticas de la tecnología de IA en el periodismo. Expresó su preocupación de que la IA está avanzando a un ritmo que supera el desarrollo de las leyes relevantes. Sus sentimientos resuenan con muchos que ahora están considerando la necesidad de actualizar las regulaciones para abordar el uso de la IA en varias industrias, incluidos los medios.

El ministro de Industria y Ciencia, Ed Husic, reconoció la necesidad de actuar rápidamente, enfatizando que el gobierno federal está trabajando activamente para establecer estándares para el uso responsable y seguro de la IA. Calificó el incidente como una llamada de atención para las empresas, instándolas a mantener estándares éticos más altos al emplear tecnología de IA.

El incidente destacó los desafíos que enfrentan las organizaciones de noticias a medida que navegan por la integración de la tecnología de IA en el periodismo. El profesor senior de medios de la Universidad RMIT, TJ Thomson, señaló que el periodismo sin supervisión humana plantea preocupaciones éticas. Se refirió al código de ética de la Alianza de Medios, Entretenimiento y Artes, enfatizando la importancia de presentar imágenes precisas y revelar cualquier manipulación que pueda engañar a la audiencia.

Las organizaciones de noticias de todo el mundo están luchando por desarrollar políticas claras sobre la IA generativa y buscan activamente orientación sobre las mejores prácticas. Garantizar el uso responsable de la IA es particularmente crítico en 2024, ya que muchos países celebrarán elecciones, donde la credibilidad y la integridad del periodismo desempeñan un papel crucial.

Casos anteriores de imágenes generadas por IA

Este incidente no es la primera vez que las empresas de medios han utilizado imágenes generadas por IA. En septiembre, el Australian Financial Review encabezó las noticias por usar retratos generados por IA, lo que recibió críticas mixtas, con algunos señalando discrepancias en la calidad de las imágenes generadas. Además, ha habido una creciente preocupación por la proliferación de imágenes falsas y sexualmente explícitas de celebridades en línea, lo que destaca los desafíos planteados por la generación de contenido impulsada por IA.

Si bien la manipulación de imágenes no es un concepto nuevo, los avances en la tecnología de IA la han hecho más efectiva y realista. Geoffrey Webb, científico de datos de la Universidad de Monash, explicó que las tecnologías más antiguas, como el retoque aéreo, se utilizaban para alterar imágenes, pero la IA moderna puede lograr estas modificaciones con mayor precisión y exactitud.

El incidente relacionado con el uso inapropiado de imágenes de IA en la información periodística sirve como un recordatorio contundente de las preguntas éticas planteadas por el rápido avance de la tecnología. Las organizaciones de noticias están luchando por equilibrar el aprovechamiento de la IA para la eficiencia y garantizar un uso responsable y ético. A medida que continúan los debates, la transparencia, la responsabilidad y la adherencia a las pautas éticas siguen siendo fundamentales en el panorama en evolución del periodismo y la integración de la IA.