Epic GamesがFortniteから人種差別的なAI生成画像を削除

エピック・ゲームズは、プレイヤーの抗議に応じた決定的な措置として、ユーザーがFortniteにアップロードした人種差別的なAI生成画像を削除した。これはKotakuの報告によるもの。Fortniteの人気は、ユーザーが独自のマップを作成・共有できるユニークな機能に一部起因しており、ゲームコミュニティ内に創造性の感覚を育んでいる。しかし、この創造的な出口は問題のあるコンテンツのアップロードにつながり、介入の必要性を促した。

エピック・ゲームズ、AI生成の人種差別的画像に対して決定的な措置を講じる

プレイヤーらは最近、人種差別的なステレオタイプを永続させる粗雑なAI生成画像を含むFortnite内のアイランドマップを発見した。例としては、「アラブ・ゾーンウォーズ」、「ナイジェリア・ゾーンウォーズ」、「中国・ゾーンウォーズ」といった名前のマップがあり、中東の男性が爆弾を持っている、黒人の男性がフライドチキンを食べているといった攻撃的なステレオタイプを強化する画像が添えられていた。

これらのマップの大半は比較的小さなサーバー人口を持っていたが、「ジャマイカ・ゾーンウォーズ」という1つのマップは、今月初めに35,000人以上のアクティブプレイヤーを誇っていた。エピック・ゲームズは迅速に対応し、これらの攻撃的なアイランドの多くを削除し、関係する作成者に対して措置を講じた。

同社は、「この類似のサムネイル形式を使用したコンテンツ違反のあるアイランドを100以上すでに処理しており、今後も継続する」と述べた。エピック・ゲームズは、差別的なコンテンツはFortniteには存在せず、同社のアイランド作成者ルールに違反すると強調した。

これらのガイドラインに違反したユーザーは、アカウントの永久BANの対象となる可能性がある。Fortniteにおけるコンテンツ管理において、人間によるモデレーションは重要な側面であり、すべてのユーザー作成コンテンツは公開前にチームによってレビューされる。エピック・ゲームズは、違反するマップがプレイヤーに到達する機会を最小限に抑えるため、アイランド作成者ルールとモデレーショントレーニングプログラムを更新する作業に積極的に取り組んでいる。

モデレーションと将来の改善へのコミットメント

公開前のレビューにもかかわらず、モデレーションチームは慎重なアプローチを採用し、作成者の善意を前提とするようモデレーターを奨励している。エピック・ゲームズは、「コンテンツ違反について確信が持てない場合、過度な検閲を行わないよう、モデレーションチームに作成者の善意を前提としてもらうよう求めている」と説明している。

しかし、このアプローチにより、不適切なコンテンツが公開されるケースも生じる。そのような場合、同社は迅速に対応して問題のある素材を削除し、モデレーター向けの追加トレーニング資料を提供する。ルール違反が確認された作成者には、永久公開および収益化の禁止など、さまざまな執行措置が科される。

出版社は、アイランド作成者ルールとモデレーショントレーニングプログラムを更新する作業に取り組むことで、この問題に積極的に取り組んでいる。特筆すべきは、エピック・ゲームズストアが9月に生成AIのトレンドを受け入れ、AIアートや要素を含むゲームや提出物を許可したことである。この変化は、当初AIコンテンツに反対していた競合のPCゲームマーケットプレイスSteamが、そのような提出物の増加に伴いルールを緩和したことに続くものだった。

エピック・ゲームズの創設者兼CEO、ティム・スウィーニーはTwitterで、同社が新技術の使用を理由にゲームを禁止しないと強調した。この声明は、同年の早い時期にフルセルフパブリッシングが解禁されたことと時を同じくしてなされた。AI開発者がモデルから攻撃的な画像を排除するための継続的な取り組みにもかかわらず、ユーザーは特殊なプロンプトを使用してモデルを「 jailbreak 」する方法を見つけている。

特筆すべきは、10月に、スポンジボブ・スクエアパンツや任天堂のカービィなどのキャラクターが登場し、不適切な行為を行うAI生成画像が注目を集めたことである。エピック・ゲームズは、Fortniteにおける人種差別的なAI生成画像の問題に積極的に取り組んでおり、問題のあるコンテンツの削除とルール違反に対する措置を講じている。