Epic Games entfernt rassistische, von KI generierte Bilder auf Fortnite

Epic Games hat entschlossene Maßnahmen ergriffen, um auf den Unmut der Spieler zu reagieren, indem es rassistische, von KI generierte Bilder, die von Nutzern in Fortnite hochgeladen wurden, entfernte, laut einem Bericht von Kotaku. Die Popularität von Fortnite ist teilweise auf sein einzigartiges Feature zurückzuführen, das es Nutzern ermöglicht, ihre eigenen Karten zu erstellen und zu teilen, was ein Gefühl der Kreativität innerhalb der Gaming-Community fördert. Diese kreative Ausdrucksform hat jedoch zur Hochladung problematischer Inhalte geführt, was das Eingreifen erforderlich machte.

Epic Games unternimmt entschlossene Schritte gegen von KI generierte rassistische Bilder

Spieler entdeckten kürzlich Inselkarten in Fortnite, die grobe, von KI generierte Bilder enthielten, die rassistische Stereotype verstärkten. Beispiele umfassten Karten mit den Namen „Arab Zonewars“, „Nigerian Zonewars“ und „China Zonewars“, mit begleitenden Bildern, die offensive Stereotype verstärkten, wie z. B. Männer aus dem Nahen Osten, die Bomben halten, und schwarze Männer, die gebratenes Hühnchen essen.

Obwohl die meisten dieser Karten relativ kleine Serverpopulationen hatten, boasted eine Karte namens „Jamaica Zonewars“ Anfang dieses Monats über 35.000 aktive Spieler. Epic Games reagierte prompt, entfernte viele dieser anstößigen Inseln und ergriff Maßnahmen gegen die beteiligten Ersteller.

Das Unternehmen erklärte: „Wir haben bereits mehr als 100 Inseln mit Inhaltsverstößen behandelt, die dieses ähnliche Thumbnail-Format verwenden, und werden dies weiterhin tun.“ Epic Games betonte, dass diskriminierende Inhalte in Fortnite keinen Platz haben und gegen die Regeln der Inselersteller des Unternehmens verstoßen.

Nutzer, die gegen diese Richtlinien verstoßen, riskieren permanente Sperrungen ihrer Konten. Die menschliche Moderation ist ein entscheidender Aspekt der Inhaltskontrolle in Fortnite, wobei ein Team alle von Nutzern erstellten Inhalte überprüft, bevor sie veröffentlicht werden. Epic Games arbeitet aktiv daran, seine Regeln für Inselersteller und Schulungsprogramme für die Moderation zu aktualisieren, um das Auftreten von verletzenden Karten, die die Spieler erreichen, zu minimieren.

Engagement für Moderation und zukünftige Verbesserungen

Trotz der Überprüfung vor der Veröffentlichung nimmt das Moderationsteam einen maßvollen Ansatz an und ermutigt Moderatoren, gute Absichten seitens der Ersteller anzunehmen. Epic Games erklärte: „Wir bitten unser Moderationsteam, gute Absichten seitens des Erstellers anzunehmen, wenn sie sich bezüglich eines Inhaltsverstoßes unsicher sind, damit wir nicht überzensieren.“

Dieser Ansatz führt jedoch zu Fällen, in denen unangemessene Inhalte veröffentlicht werden. In solchen Fällen handelt das Unternehmen schnell, um das anstößige Material herunterzunehmen, und stellt zusätzliche Schulungsmaterialien für Moderatoren bereit. Ersteller, die gegen die Regeln verstoßen, sehen sich einer Reihe von Durchsetzungsmaßnahmen gegenüber, einschließlich permanenter Veröffentlichungs- und Monetarisierungsverbote.

Der Publisher geht das Problem aktiv an, indem er daran arbeitet, seine Regeln für Inselersteller und Schulungsprogramme für die Moderation zu aktualisieren. Bemerkenswerterweise hat der Epic Games Store im September den Trend zur generativen KI aufgenommen und Spiele und Einreichungen mit KI-Kunst und -Elementen zugelassen. Diese Verschiebung folgte einer Änderung der Haltung des rivalisierenden PC-Gaming-Marktplatzes Steam, der KI-Inhalten zunächst ablehnend gegenüberstand, seine Regeln jedoch im Zuge einer Zunahme solcher Einreichungen lockerte.

Epic-Games-Gründer und CEO Tim Sweeney betonte auf Twitter, dass das Unternehmen Spiele nicht wegen der Nutzung neuer Technologien sperrt. Diese Aussage fiel mit der Öffnung der vollständigen Selbstveröffentlichung zu Beginn desselben Jahres zusammen. Trotz anhaltender Bemühungen von KI-Entwicklern, beleidigende Bilder aus ihren Modellen zu entfernen, haben Nutzer Wege gefunden, die Modelle mit spezialisierten Prompts zu „jailbreaken“.

Bemerkenswerterweise erregten im Oktober von KI generierte Bilder, die Charaktere wie SpongeBob SquarePants und Nintendos Kirby bei unangemessenen Handlungen zeigten, virale Aufmerksamkeit. Epic Games geht proaktiv das Problem rassistischer KI-generierter Bilder in Fortnite an, indem es Schritte zur Entfernung anstößiger Inhalte unternimmt und Konsequenzen für Regelverstöße verhängt.