Epic Games hat nach Protesten von Spielern entschieden gehandelt und rassistische, KI-generierte Bilder, die von Nutzern in Fortnite hochgeladen wurden, entfernt, wie berichtet . Fortnites Popularität beruht unter anderem auf der einzigartigen Funktion, eigene Karten zu erstellen und zu teilen, was die Kreativität der Gaming-Community fördert. Diese kreative Möglichkeit hat jedoch auch zum Hochladen problematischer Inhalte geführt matic somit ein Eingreifen notwendig gemacht.
Epic Games ergreift entscheidende Maßnahmen gegen KI-generierte rassistische Bilder
Spieler entdeckten kürzlich in Fortnite Inselkarten mit groben, KI-generierten Bildern, die rassistische Stereotype verstärkten. Beispiele hierfür waren Karten mit Namen wie „Arab Zonewars“, „Nigerian Zonewars“ und „China Zonewars“ sowie dazugehörige Bilder, die beleidigende Stereotype verstärkten, etwa Männer aus dem Nahen Osten mit Bomben und Schwarze, die gebratenes Hähnchen aßen.
Obwohl die meisten dieser Karten relativ wenige Spieler auf ihren Servern hatten, verzeichnete die Karte „Jamaica Zonewars“ Anfang des Monats über 35.000 aktive Spieler. Epic Games reagierte umgehend, entfernte viele dieser anstößigen Inseln und ging gegen die beteiligten Entwickler vor.
Das Unternehmen erklärte: „Wir haben bereits über 100 Inseln mit Inhaltsverstößen, die dieses ähnliche Vorschaubildformat verwenden, bearbeitet und werden dies auch weiterhin tun.“ Epic Games betonte, dass diskriminierende Inhalte in Fortnite keinen Platz haben und gegen die Regeln des Unternehmens für Inselersteller verstoßen.
Nutzer, die gegen diese Richtlinien verstoßen, riskieren eine dauerhafte Sperrung ihres Kontos. Menschliche Moderation ist ein entscheidender Aspekt der Inhaltskontrolle in Fortnite. Ein Team prüft alle von Nutzern erstellten Inhalte, bevor sie veröffentlicht werden. Epic Games arbeitet aktiv an der Aktualisierung der Regeln für Inselersteller und der Schulungsprogramme für Moderatoren, um zu minimieren, dass Spieler keine gegen diese Richtlinien verstoßenden Karten mehr erhalten.
Verpflichtung zu Mäßigung und zukünftigen Verbesserungen
Trotz der Vorabprüfung verfolgt das Moderationsteam einen besonnenen Ansatz und ermutigt die Moderatoren, von guten Absichten der Urheber auszugehen. Epic Games erklärte: „Wir bitten unser Moderationsteam, im Zweifelsfall von guten Absichten der Urheber auszugehen, um übermäßige Zensur zu vermeiden.“
Dieser Ansatz führt jedoch gelegentlich zur Veröffentlichung unangemessener Inhalte. In solchen Fällen schreitet das Unternehmen umgehend ein, um die beanstandeten Inhalte zu entfernen, und stellt Moderatoren zusätzliche Schulungsmaterialien zur Verfügung. Urheber, die gegen die Regeln verstoßen, müssen mit verschiedenen Maßnahmen rechnen, darunter dauerhafte Sperren für Veröffentlichungen und Monetarisierung.
Der Publisher geht das Problem aktiv an, indem er seine Regeln für Inselersteller und seine Schulungsprogramme für Moderatoren aktualisiert. Der Epic Games Store hat den Trend zur generativen KI im September aufgegriffen und erlaubt seitdem Spiele und Einreichungen mit KI-Grafiken und -Elementen. Dieser Schritt folgte einer Kursänderung des Konkurrenten Steam, der KI-Inhalte zunächst ablehnte, seine Regeln angesichts der zunehmenden Anzahl solcher Einreichungen jedoch lockerte.
Epic Games-Gründer und CEO Tim Sweeney betonte auf Twitter, dass das Unternehmen Spiele nicht aufgrund der Verwendung neuer Technologien verbietet. Diese Aussage fiel zeitlich mit der Einführung des vollständigen Self-Publishing Anfang desselben Jahres zusammen. Trotz der laufenden Bemühungen von KI-Entwicklern, anstößige Bilder aus ihren Modellen zu entfernen, haben Nutzer Wege gefunden, diese Modelle mithilfe spezieller Eingabeaufforderungen zu umgehen.
Im Oktober sorgten KI-generierte Bilder, die Charaktere wie SpongeBob Schwammkopf und Nintendos Kirby bei unangemessenen Handlungen zeigten, für großes Aufsehen. Epic Games geht proaktiv gegen rassistische KI -generierte Bilder in Fortnite vor, entfernt anstößige Inhalte und ahndet Regelverstöße.
