専門家は、Xプラットフォーム上のGrok AIの人種差別的虐待画像について警告している。

専門家らは、12月にXのGrok AIが作成した人種差別的虐待画像がプラットフォームに溢れたことについて懸念を表明し、警告している。.

著名なスポーツ団体やクラブと連携し、オンライン上のヘイト行為を trac・報告する組織であるSignifyによると、特に近い将来、インターネットやプラットフォーム上の画像は増加するだろう。.

Grok がアップデートされた後、X に虐待画像が溢れる

によると ガーディアン紙、Grok AIのアップデート後に人種差別的な画像が作成されたとの報告が複数あるという。その中には、サッカー選手や監督のフォトリアリスティックな人種差別的な画像も含まれている。画像の中には、黒人選手が綿花を摘む様子や、選手がバナナを食べ、猿に囲まれている様子などが描かれている。

他の写真には、他の選手や監督たちがオサマ・ビン・ラディン、アドルフ・ヒトラー、サダム・フセインといった物議を醸した歴史上の人物と会い、会話している様子が写っている。.

Signifyは、Grok AIを使用して作成されたコンピューター生成画像がXプラットフォームに急増していることを懸念しています。同社はこの傾向についても懸念を示しており、フォトリアリスティックAIの導入により、このような画像の作成が容易になり、普及率も高まるため、ソーシャルメディア上でこのような画像がさらに多く見られるようになると考えています。.

「今は問題ですが、これはこれから起こる問題のほんの始まりに過ぎません。状況はさらに悪化するでしょう。まだ始まったばかりです。今後12ヶ月で、事態は信じられないほど深刻化するでしょう。」

意味する。.

Xの生成AIツールは、イーロン・マスク氏によって2023年に発表されました。最近、テキストから画像への変換機能「Aurora」が追加されました。この機能は、ユーザーからの簡単な指示に基づいて、写真のようにリアルなAI画像を生成します。.

以前、Fluxと呼ばれる比較的低機能なバージョンが今年初めに論争を巻き起こしました。ガーディアン紙によると、このソフトは他の多くの類似ソフトでは不可能な機能を持つことが判明したためです。具体的には、著作権 で保護されたキャラクターや著名人を 危険な状況に陥れたり、薬物を使用したり、暴力行為を行ったりする描写などです。

Xは憎悪のプラットフォームになった

デジタルヘイト対策センター（CCDH）の研究責任者であるカラム・フッド氏は、Xプラットフォームがヘイトのプラットフォームになっていると非難した。フッド氏は、Xは収益分配を通じてヘイトの拡散を奨励し、報奨するプラットフォームになっており、AI画像によってそれがかつてないほど容易になっていると述べた。.

「Xが行ったことは、他の主流プラットフォームでは行われていないほどの規模で、アカウントに cash インセンティブを提供することです。そのため、Xのアカウントは、可能な限り最も露骨な憎悪と偽情報を意図的に投稿しています。」

フード。.

専門家らは、ユーザーが生成AIに何を生成するよう要求できるかについての制限が比較的少なく、Grokが「脱獄」によってAIのガイドラインを回避できることに懸念を表明した。

CCDH の報告書 によると、様々な憎悪表現をAIモデルに提示したところ、90%の憎悪表現が生成され、そのうち30%は抵抗なく生成された。また、脱獄後にはさらに50%の憎悪表現が生成された。

プレミア リーグは、 サッカー選手の画像について認識していたことを認めた。彼らは、アスリートに対する人種差別的虐待を発見・報告するための専門チームを設置しており、法的措置につながる可能性があると述べた。

これは、フットボール協会が2024年に1,500件を超える虐待報告を受け、大量の虐待をブロックするために選手がソーシャルメディアアカウントで使用できるフィルターを導入したことを明らかにしたことを受けてのことだ。.

「サッカー界においても、そして社会全体においても、差別は許されません。私たちはソーシャルメディア企業と関係当局に対し、オンライン上での虐待行為に対処し、このような容認できない行為を行う者に対して措置を講じるよう、引き続き強く求めていきます」とFAの広報担当者は述べた。.