OpenAIs Bilderkennungstool zeigt vielversprechende Ergebnisse, steht jedoch vor Herausforderungen

KI-generierte Bilder können dich dazu verleiten, gefälschte Inhalte als original zu wahrnehmen. Deshalb hat OpenAI, der Entwickler von ChatGPT, ein Tool erstellt , das bestimmen kann, ob ein Bild aus DALL-E 3 stammt, dem einzigen Algorithmus zur Bildgenerierung, den sie entwickelt haben.

Am Dienstag gaben OpenAI-Nutzern die erste Chance, ein Bilderkennungstool zu testen, das aus Baseline- und abgestimmten Modellen besteht. Das Ziel ist es, selbstständig arbeitende Forscher zu engagieren , um die Bedenklichkeit, Nützlichkeit, Anwendungsmöglichkeiten und Faktoren zu untersuchen, die KI-generierte Inhalte verursachen könnten.

Erfolgsrate und Testung des Tools

OpenAI hat das Tool intern getestet, und in einigen Aspekten war es ermutigend, während es auf der anderen Seite sehr enttäuschend war. Die Bewertung der von DALL-E 3 erzeugten Bilder ergab, dass 98 % von ihnen korrekt erkannt wurden. Darüber hinaus ordnete das System bei der Analyse von Bildern, die nicht von DALL-E 3 erstellt wurden, sie nur 0,5 % der Zeit fälschlicherweise DALL-E 3 zu. 

OpenAI fand die Modifikation eines Bildes mit einem leicht signifikanten Unterschied nicht heraus. Das interne Team testete das Tool, indem es das von DALL-E 3 erstellte Bild komprimierte, zuschnitt und Sättigungsänderungen einführte, und beobachtete, dass das Tool immer noch ein gutes Maß an Erfolg erzielen konnte. 

Herausforderungen und Einschränkungen

Unglücklicherweise war das Tool bei Bildern, die stark verarbeitet wurden, nicht sehr effektiv. Die Formulierung dieses Artikels von OpenAI ist nicht klar darüber, wie viele Modifikationen sie in den von ihnen beschriebenen Fällen vorgenommen haben, und sie sagen, dass „andere Modifikationen die Leistung reduzieren können.“ 

In einem Interview mit der Wall Street Journal sagte die Forscherin Sandhini Agarwal, dass das Tool in Situationen wie der Änderung des Bildhues weniger effektiv sei und dass ein Abonnement erforderlich sei. Wie Agarwal erwähnte, wird OpenAI externe Tester in das System einbringen, um mit diesen Arten von Problemen umzugehen.

Darüber hinaus hinterfragte das interne Testen auch die Fähigkeit des Tools, Bilder zu analysieren, die mit KI-Modellen anderer Unternehmen erstellt wurden. In solchen Situationen konnte das Tool von OpenAI nur 5 % oder 10 % der Bilder im Hinblick auf Modelle außer dem eigenen erkennen. Solche Modifikationen an solchen Bildern, wie Farbtonwechsel, verringerten die Effizienz erheblich, sagte Agarwal dem Journal.

KI-generierte Bilder sind nicht nur künstlich, sondern stellen auch in diesem Wahljahr Probleme. Betroffene Gruppen, sowohl innerhalb als auch außerhalb eines Landes, können solche Fotos leicht einsetzen, um einen aufstrebenden Politiker oder einen Fall, der befürwortet wird, zu schädigen. In der heutigen Zeit, in der KI-Bildgeneratoren weiterentwickelt werden, ist die Grenze zwischen Realität und Fantasie schwieriger zu erkennen als je zuvor.

Branchenadoption

Andererseits versucht OpenAI, Wasserzeichen in KI-Bildmetadaten hinzuzufügen, während Unternehmen Mitglieder der User Value Organization (UVG) werden. Die C2PA gehört zu einer Tech-Industrie-Initiative, die technische Standards mit sich bringt, um die Quelle des Inhalts und seine Authentizität im als Wasserzeichen bekannten Prozess offenzulegen. Die Facebook-Riese Meta sagte Anfang dieses Monats, dass ihre KI ab Mai nach dem C2PA-Standard gekennzeichnet sein wird.