オーストラリア首相、XのGrok使用による攻撃的コンテンツ生成を非難

オーストラリアのアンソニー・アルバネーゼ首相は、ブログプラットフォームXがGrokを使用して不適切な画像を生成したことを非難しました。アルバネーゼは、搾取的な性的コンテンツを可能にするために人工知能チャットボットGrokが使用されたことへの懸念に怒りを示しました。

オーストラリアのeSafety Officeが受け取った報告の数はまだ少ないものの、チャットボットを使用して性的に描写された画像や搾取的な画像を作成する事件の報告が最近急増していることに注意しています。声明において、監視機関は、チャットボットで生成された資料がオーストラリアオンラインセーフティ法で定義された閾値に達した場合、削除通知などの権限を使用すると警告しました。

eSafety Officeによると、プラットフォーム、そのチャットボット、およびその他の広範なサービスは、オーストラリアの世界をリードする業界コードおよび基準の一部として、児童性的搾取資料やその他の違法な資料を検出し削除する安全上の義務の対象でもあります。オーストラリアの首相は土曜日にその不快感を示し、英国のKeir Starmer首相を含む他の世界指導者と共に、ソーシャルメディアプラットフォームを非難しました。

オーストラリア首相、Grokの誤用についてXを非難

「同意なく人々を搾取したり性的に描写したりするために生成AIを使用することは忌まわしい」と、彼はキャンベラで記者団に語った。「Grokを通じて人々がその画像作成機能を使用していたという事実は、私は完全に忌まわしいと思います」と、アルバネーゼは追加し、この事件はソーシャルメディアが社会的責任を示していない別の例であると指摘し、オーストラリア人と世界の人々はより良い扱いを受けるに値すると述べました。

彼らの批判はあり得ないものではなく、今週Grokチャットボットに対する世界的な反発の一部であり、これによりXは、有料サブスクリバーにのみツールを制限することで、AIを使用した画像の作成や編集の使用を制限するよう促されました。金曜日、Grokは、デジタルで改ざんされた画像を求めている非サブスクライバーの要求を拒否していました。「画像の生成と編集は現在、有料サブスクリバーに限定されています。これらの機能を使用するには購読してください」とチャットボットは言いました。

eSafety Officeのスポークスマンが発表した声明では、受け取られた苦情の大部分は、成人の画像が改ざんされたことへの懸念に関連しており、その小さな割合が潜在的な児童性的搾取資料に関わっていました。「画像ベースの虐待に関する報告は非常に最近受け取られ、まだ評価中です」と機関は言いました。「違法および制限されたコンテンツに関する報告については、資料はクラス1の児童性的搾取資料の分類閾値に達しませんでした。」

その結果、eSafety Officeは、これらの苦情に関する削除通知の発行または執行措置の取らないことを拒否しました。しかし、スポークスマンは、AIを使用した児童搾取の使用の増加に関する懸念が persists であると述べました。「これは、Safety by Designの重要性、特に生成AI製品が、これらの技術の誤用や兵器化を防ぐために、製品ライフサイクルのすべての段階に適切な安全対策とガードレールを備えている必要性を強調しています」と彼らは言いました。

インドネシア、ディープフェイクによりGrokを一時的に禁止

一方、インドネシアはGrokチャットボットに対して決定的な措置を取っています。通信情報省は土曜日に、AI生成の性的コンテンツから子供たちや女性を守るための緊急の必要性を理由に、この動きを発表しました。「政府は、同意のない性的ディープフェイクを、デジタル空間における人権、尊厳、市民の安全の重大な侵害と見なしています」と、Meutya Hafid大臣は公式声明で述べました。

彼女は、AIの誤用による偽ポルノの作成は、デジタルベースの暴力の一形態に相当すると主張しました。同時に、インドネシアは国内のデジタルプラットフォームが、禁止されたコンテンツの生成と配布を防ぐための安全対策が講じられていることを証明することを求めています。この執行の一環として、省はX（旧Twitter）を招集しました。同社は、この脅威の拡散を抑制するために講じられた措置を説明し、明確化を提供します。