Kontroverse um KI-generiertes Bild löst ethische Fragen für Nachrichtenorganisationen aus

Nachrichtenorganisationen sehen sich mit ethischen Fragen konfrontiert nach einem Vorfall, bei dem das Bild eines Mitglieds des Parlaments mithilfe von KI-Technologie unangemessen manipuliert wurde. Die Abgeordnete Georgie Purcell von der Victorian Animal Justice Party war überrascht, als ein Nine News-Bericht sie mit digital veränderten Merkmalen zeigte, was Bedenken hinsichtlich der Grenzen des KI-Einsatzes im Journalismus aufwarf.

Georgie Purcells Schock trat ein, als sie einen Nine News-Bericht über die Entscheidung des Bundesstaates zur Erlaubnis der Entenjagd sah. In dem Bericht wurde ihr Bild unbefugten Änderungen unterzogen, darunter vergrößerte Brüste und ein Kleid, das in ein Crop-Top verwandelt wurde. Nine News entschuldigte sich später und führte die Bildmanipulation auf eine Automatisierungsfunktion in Adobe’s Photoshop-Programm zurück, während ein online bezogenes Foto skaliert wurde. Adobe klärte auf, dass menschliches Eingreifen und Genehmigung für solche Änderungen notwendig waren, was Fragen zur Genauigkeit der Erklärung aufwarf. Hier ist die offizielle Erklärung von Adobe an Cryptopolitan:

Adobe ist bestrebt, sicherzustellen, dass unsere Technologie im Einklang mit unseren Prinzipien der KI-Ethik hinsichtlich Haftung, Verantwortung und Transparenz entwickelt wird und unsere Kunden und Gemeinschaften respektiert. Wir arbeiten mit Kunden und Partnern zusammen, um Content Credentials zu ermöglichen – das sind „Nährwertangaben“ für digitale Inhalte, die mit den Inhalten verknüpft bleiben, unabhängig davon, wo sie eingesetzt, veröffentlicht oder gespeichert werden. Bearbeitungen dieses spezifischen Bildes hätten menschliches Eingreifen und Genehmigung erfordert.

Adobe Digital Media Press Team

Deutsche Version:

Adobe setzt sich dafür ein, dass unsere Technologie in Übereinstimmung mit unseren ethischen Grundsätzen für künstliche Intelligenz (KI) hinsichtlich Haftung, Verantwortung und Transparenz entwickelt wird sowie unsere Kund*innen und die Gesellschaft respektiert. Wir arbeiten mit Kund*innen und Partner*innen zusammen, um sogenannte „Content Credentials“ zu etablieren. Hierbei handelt es sich um eine Art „Nährwertangabe“ für digitale Inhalte, die mit den Inhalten verknüpft bleibt, unabhängig davon, wo diese eingesetzt, veröffentlicht oder gespeichert werden.

Adobe Presseteam

Rasante Fortschritte der KI

Georgie Purcells Erfahrung hat Diskussionen über die ethischen Implikationen von KI-Technologie im Journalismus entfacht. Sie äußerte Bedenken, dass sich die KI in einem Tempo entwickelt, das die Entwicklung relevanter Gesetze übertrifft. Ihre Gefühle resonieren mit vielen, die nun die Notwendigkeit aktualisierter Vorschriften zur Regulierung des KI-Einsatzes in verschiedenen Branchen, einschließlich der Medien, in Betracht ziehen.

Der Minister für Industrie und Wissenschaft, Ed Husic, erkannte die Notwendigkeit schnellen Handelns an und betonte, dass die Bundesregierung aktiv daran arbeitet, Standards für den verantwortungsvollen und sicheren Einsatz von KI festzulegen. Er bezeichnete den Vorfall als Weckruf für Unternehmen und forderte sie auf, höhere ethische Standards bei der Verwendung von KI-Technologie einzuhalten.

Der Vorfall unterstrich die Herausforderungen, vor denen Nachrichtenorganisationen stehen, wenn sie die Integration von KI-Technologie in den Journalismus navigieren. Der leitende Medienwissenschaftler TJ Thomson von der RMIT University wies darauf hin, dass Journalismus ohne menschliche Aufsicht ethische Bedenken aufwirft. Er verwies auf den Ethikkodex der Media Entertainment Arts Alliance und betonte die Bedeutung der Darstellung genauer Bilder und der Offenlegung jeglicher Manipulationen, die das Publikum irreführen könnten.

Nachrichtenorganisationen weltweit stehen vor der Notwendigkeit, klare Richtlinien für generative KI zu entwickeln und aktiv nach Best-Practice-Anleitungen zu suchen. Der verantwortungsvolle Einsatz von KI ist insbesondere im Jahr 2024 von kritischer Bedeutung, da viele Länder Wahlen abhalten werden, bei denen die Glaubwürdigkeit und Integrität der Nachrichtenberichterstattung eine entscheidende Rolle spielen.

Vorherige Fälle von KI-generierten Bildern

Dieser Vorfall ist nicht das erste Mal, dass Medienunternehmen KI-generierte Bilder verwendet haben. Im September machte der Australian Financial Review Schlagzeilen mit der Verwendung von KI-generierten Porträts, die gemischte Bewertungen erhielten, wobei einige Diskrepanzen in der Qualität der generierten Bilder hervorhoben. Darüber hinaus gibt es wachsende Bedenken über die Verbreitung gefälschter, sexuell expliziter Bilder von Prominenten im Internet, was die Herausforderungen durch KI-gesteuerte Inhaltsgenerierung verdeutlicht.

Während Bildmanipulation kein neues Konzept ist, haben Fortschritte in der KI-Technologie sie effektiver und realistischer gemacht. Der Datenwissenschaftler Geoffrey Webb von der Monash University erklärte, dass ältere Technologien wie Airbrushing zur Veränderung von Bildern verwendet wurden, moderne KI jedoch diese Modifikationen mit größerer Präzision und Genauigkeit erreichen kann.

Der Vorfall der unangemessenen Verwendung von KI-Bildern in der Nachrichtenberichterstattung dient als schlagendes Beispiel für die ethischen Fragen, die durch den raschen technologischen Fortschritt aufgeworfen werden. Nachrichtenorganisationen stehen vor der Notwendigkeit, den Einsatz von KI zur Steigerung der Effizienz mit einem verantwortungsvollen und ethischen Umgang in Einklang zu bringen. Während die Diskussionen andauern, bleiben Transparenz, Rechenschaftspflicht und die Einhaltung ethischer Richtlinien in der sich entwickelnden Landschaft des Journalismus und der KI-Integration von größter Bedeutung.