オーストラリアのアンソニー・アルバネーゼ首相は、ブログプラットフォームXがGrokを利用して不適切な画像を作成しているとして、これを激しく非難した。アルバネーゼ首相は、人工知能チャットボットGrokが搾取的な性的コンテンツの作成に利用されているという懸念を背景に、激しい怒りを露わにした。.
オーストラリアのeSafety Officeに寄せられた報告件数は依然として少ないものの、チャットボットを用いて性的または搾取的な画像を作成するというdentの報告が最近急増していると指摘しています。同監視機関は声明の中で、チャットボットで生成されたコンテンツがオーストラリアオンライン安全法で定められ defi基準を満たしている場合、削除通知を含む権限を行使すると警告しました。.
eSafety Officeによると、このプラットフォーム、そのチャットボット、そしてその他幅広いサービスは、オーストラリアが世界をリードする業界規範・基準の一環として、児童性的搾取コンテンツやその他の違法コンテンツを検知・削除する安全義務の対象となっている。オーストラリア首相は土曜日に不快感を表明し、英国のキール・スターマー首相を含む他の世界の指導者、このソーシャルメディアプラットフォームを批判した。
オーストラリア首相、X氏によるGrokの不正使用を非難
「生成AIを、本人の同意なしに搾取したり性的対象化したりするために使うことは、忌まわしい」と、キャンベラで記者団に語った。「このツールが、Grokを通じて画像作成機能を使うために使われていたという事実は、全くもって忌まわしい」とアルバネーゼ氏は付け加え、今回の事件dentソーシャルメディアが社会的責任を果たしていないもう一つの例だとし、オーストラリア国民と世界中の人々はもっと良い対応を受けるに値すると指摘した。
彼らの批判は突飛なものではなく、今週Grokチャットボットに対して世界中で巻き起こった反発の一部です。これを受け、XはAIによる画像作成・編集を制限し、有料会員のみの利用に限定しました。金曜日には、Grokは非会員ユーザーによるデジタル加工された画像の提供要求を拒否していました。「画像の作成と編集は現在、有料会員限定です。有料会員になると、これらの機能を利用できるようになります」とチャットボットは説明していました。.
eSafety Officeの広報担当者が発表した声明によると、寄せられた苦情のほとんどは、成人の画像が改変されているという懸念に関するもので、児童性的搾取の可能性のあるコンテンツに関する苦情もごくわずかだったという。「画像ベースの虐待に関する報告はごく最近受理されたもので、現在も評価中です」と同局は述べた。「違法コンテンツおよび制限コンテンツに関する報告については、当該コンテンツはクラス1の児童性的搾取コンテンツの分類基準を満たしていませんでした。」
その結果、eSafety Officeは、これらの苦情に関して削除通知の発行や執行措置の実施を拒否したと述べた。しかし、広報担当者は、児童搾取のためのAI利用の増加に対する懸念は依然として残っていると述べた。「これは、安全性を設計段階から考慮することの重要性を浮き彫りにしています。これには、生成AI製品が製品ライフサイクルのあらゆる段階に適切な安全対策とガードレールを組み込むことが必要であり、危害が発生する前にこれらの技術の悪用や兵器化を防ぐ必要があることが含まれます」と広報担当者は述べた。.
インドネシア、ディープフェイク問題でGrokを一時禁止
一方、インドネシアは断固たる措置を講じた。通信・デジタル省は土曜日、AIが生成した露骨なコンテンツによる危害から子供や女性を守る緊急の必要性を理由に、この措置を発表した。「政府は、合意のない性的ディープフェイクを、デジタル空間における人権、尊厳、そして市民の安全に対する重大な侵害と見なしています」と、メウティア・ハフィド大臣は公式声明で述べた。
AIを悪用してフェイクポルノを作成することは、一種のデジタルベースの暴力に相当すると主張した。一方、インドネシアは、国内のデジタルプラットフォームに対し、禁止コンテンツの作成と配信を防止するための安全対策を講じていることを証明するよう求めている。この執行措置の一環として、省はX社（旧Twitter社）を召喚した。同社は、この脅威の拡散を抑制するために講じた措置について、説明を行う予定である。
