Die UNESCO äußerte Bedenken, dass generative KI die Geschichte des Holocaust verfälschen könnte, wenn KI-Entwickler keine ethischen Standards einhalten. In einem am Montag veröffentlichten Bericht warnte UNICEF vor dem möglichen Missbrauch generativer KI durch Akteure mit böswilligen Absichten.
Lesen Sie auch: Zentralbanken müssen ihre Anstrengungen im Bereich KI „verbessern“, warnt die BIZ.
Der UNESCO-Bericht warnt davor, dass böswillige Akteure die Technologie nutzen könnten, um Desinformation, Fehlinformationen und irreführende Inhalte über den Holocaust zu verbreiten.
Junge Menschen sind anfällig für Fehlinformationen
Der Berichtwarnt davor, dass junge Menschen aufgrund ihrer starken Exposition gegenüber neuen Technologien wie KI einem höheren Risiko ausgesetzt sind, verzerrte Informationen zu erhalten.
Dies geschieht vor dem Hintergrund, dass Berichten zufolge 80 % der jungen Menschen zwischen 10 und 24 Jahren KI für verschiedene Aufgaben wie Schulaufgaben nutzen, was die Wahrscheinlichkeit erhöht, dass sie auf verzerrte Informationen zugreifen.
„Wenn wir zulassen, dass die grauenhaften Fakten des Holocaust durch den unverantwortlichen Einsatz von KI verwässert, verzerrt oder verfälscht werden, riskieren wir eine explosionsartige Ausbreitung des Antisemitismus und eine allmähliche Verringerung unseres Verständnisses für die Ursachen und Folgen dieser Gräueltaten.“
UNESCO-Generaldirektorin Audrey Azoulay.
Der Bericht hebt außerdem hervor, dass KI einetronTendenz dazu hat, „komplexe Geschichte zu stark zu vereinfachen und dabei nur eine begrenzte Anzahl von Quellen und eine kleine Auswahl von Ereignissen zu bevorzugen“. Beispielsweise zeigen etwa 60 bis 80 % der ersten Bildersucheergebnisse von KI-gestützten Suchmaschinen nur eine Holocaust-Gedenkstätte, nämlich Auschwitz-Birkenau.
Die UNESCO fordert Maßnahmen zur Durchsetzung ethischer Standards
Der Bericht argumentiert, dass KI bestehende Vorurteile und dass auch der Holocaust von diesen KI-Verzerrungen nicht verschont bleibt. Laut UNESCO ist Desinformation über den Holocaust bereits weit verbreitet, und diese könnte sich durch den Einsatz generativer KI noch verschärfen.
Lesen Sie auch: Meta AI expandiert nach Indien inmitten des wachsenden KI-Wettbewerbs
Azoulay betonte, wie wichtig es sei, ethische Standards durchzusetzen, um junge Menschen vor verzerrten Informationen zu schützen.
„Die Umsetzung der UNESCO-Empfehlung zur Ethik der KI ist dringend erforderlich, damit jüngere Generationen mit Fakten und nicht mit Lügen aufwachsen.“
Azoulay.
Der Bericht hebt hervor, dass KI-Modelle wie OpenAIs ChatGPT und Googles Bard (jetzt Gemini) Halluzinationen über den Holocaust erzeugt und Ereignisse detailliert beschrieben haben, die nie stattgefunden haben. Laut UNESCO haben diese Modelle „das Konzept des Holocaust erfunden, indem sie Kampagnen simulierten, in denen die Nazis Juden in Flüssen und Seen ertränkten.“
KI-Modelle haben auch falsche Zitate generiert, um diese verzerrten Darstellungen zu stützen. Angesichts dieser Vorfälle forderte die UNESCO einen Multi-Stakeholder-Ansatz zur Bewältigung dieser Herausforderung. Eine Lösungsmöglichkeit ist die zügige Umsetzung der Empfehlung zur Ethik der KI, die 2021 von den Mitgliedstaaten verabschiedet wurde.
Die UNESCO rief Technologieunternehmen zudem dazu auf, die Grundsätze der Fairness, Transparenz, Menschenrechte und Sorgfaltspflicht zu achten. Acht Technologieunternehmen unterzeichneten im Februar eine Erklärung gegenüber dem UNESCO-Generaldirektor, in der sie sich verpflichteten, bei der Entwicklung ihrer KI-Modelle einen ethischen Ansatz zu verfolgen.
Cryptopolitan Berichterstattung von Enacy Mapakame
