報道によると、Epic Gamesはプレイヤーの抗議を受けて断固たる措置を講じ、Fortnite内でユーザーがアップロードした人種差別的なAI生成画像を削除した。Fortniteの人気は、maticのアップロードを招き、介入の必要性が高まっている。
Epic Games、AI生成の人種差別画像に対して断固たる措置
最近、プレイヤーはフォートナイト内で、人種差別的なステレオタイプを助長する粗雑なAI生成画像を含む島のマップを発見しました。例えば、「アラブ・ゾーンウォーズ」「ナイジェリア・ゾーンウォーズ」「中国・ゾーンウォーズ」といったマップには、中東の男性が爆弾を持っている、黒人男性がフライドチキンを食べているといった、不快なステレオタイプを助長する画像が添えられていました。.
これらのマップのほとんどはサーバー人口が比較的少なかったものの、「Jamaica Zonewars」というマップは今月初めに3万5000人を超えるアクティブプレイヤーを誇りました。Epic Gamesは迅速に対応し、これらの不快な島の多くを削除し、関与したクリエイターに対して措置を講じました。.
同社は「同様のサムネイル形式を使用しているコンテンツ違反の島が100以上あるため、既に対処済みであり、今後も対応を継続していく」と述べた。Epic Gamesは、差別的なコンテンツはフォートナイトには存在すべきではなく、同社の島クリエイタールールに違反していると強調した。.
これらのガイドラインに違反したユーザーは、アカウントが永久停止される可能性があります。フォートナイトでは、人間によるモデレーションがコンテンツ管理の重要な要素であり、ユーザーが作成したすべてのコンテンツは公開前に審査チームによって審査されます。Epic Gamesは、違反マップがプレイヤーに届く可能性を最小限に抑えるため、アイランドクリエイタールールとモデレーショントレーニングプログラムのアップデートに積極的に取り組んでいます。.
モデレーションと将来の改善への取り組み
公開前の審査にもかかわらず、モデレーションチームは慎重なアプローチを採用し、クリエイター側の善意を前提とするようモデレーターに促しています。Epic Gamesは、「コンテンツ違反について確信が持てない場合は、過剰な検閲を避けるため、モデレーションチームにはクリエイター側の善意を前提とするよう指示しています」と説明しています。
しかし、このアプローチは不適切なコンテンツが公開される事例につながる可能性があります。そのような場合、YouTubeは問題のあるコンテンツを迅速に削除し、モデレーター向けの追加トレーニング資料を提供します。ルール違反が判明したクリエイターには、永久的な公開禁止や収益化禁止など、様々な強制措置が科せられます。.
Epic Gamesは、島の作成ルールとモデレーション研修プログラムのアップデートに取り組むことで、この問題に積極的に取り組んでいます。特に、Epic Gamesストアは9月に生成AIのトレンドを取り入れ、AIアートや要素をフィーチャーしたゲームや投稿を許可しました。この変化は、ライバルであるPCゲームマーケットプレイスSteamの姿勢の変化を受けてのものです。Steamは当初AIコンテンツに反対していましたが、その後、そのような投稿の増加を受けてルールを緩和しました。.
Epic Gamesの創設者兼CEOであるティム・スウィーニー氏は、Twitterで、同社は新技術を使用しているという理由でゲームを禁止することはない、と強調しました。この発言は、同年初頭に完全なセルフパブリッシングを解禁した時期と一致しています。AI開発者はモデルから不快な画像を排除するための継続的な努力を続けていますが、ユーザーは専用のプロンプトを使ってモデルを「脱獄」する方法を見つけています。.
特に10月には、スポンジ・ボブや任天堂のカービィといったキャラクターが不適切な行動をとるAI生成画像が話題を呼びました。Epic Gamesは、『フォートナイト』における人種差別的なAI生成画像の問題に積極的に取り組んでおり、問題のあるコンテンツを削除し、ルール違反には罰則を適用するなどの措置を講じています。
