オーストラリア首相、Grokを使って不快なコンテンツを生み出したXを非難

オーストラリアのアンソニー・アルバネーゼ首相は、ブログプラットフォームXがGrokを利用して不適切な画像を作成しているとして、これを激しく非難した。アルバネーゼ首相は、人工知能チャットボットGrokが搾取的な性的コンテンツの作成に利用されているという懸念を背景に、激しい怒りを露わにした。.

オーストラリアのeSafety Officeに寄せられた報告件数は依然として少ないものの、チャットボットを用いて性的または搾取的な画像を作成するというdentの報告が最近急増していると指摘しています。同監視機関は声明の中で、チャットボットで生成されたコンテンツがオーストラリアオンライン安全法で定められ defi基準を満たしている場合、削除通知を含む権限を行使すると警告しました。.

eSafety Officeによると、このプラットフォーム、そのチャットボット、およびその他多くのサービスは、オーストラリアの世界をリードする業界規範と基準の一環として、児童性的搾取資料やその他の違法資料を検出して削除するという安全義務の対象となっている。オーストラリアの首相は土曜日、英国のキア・スターマー首相をはじめとする世界の 指導者とともに、このソーシャルメディアプラットフォームを批判し、不満を表明した。

オーストラリア首相、X氏によるGrokの不正使用を非難

「同意なしに人々を搾取したり性的に利用したりするために生成AIを使用することは忌まわしい」と、彼はキャンベラで記者団に語った。「このツールが、Grokを通じて人々がその画像作成機能を利用するために使用されたという事実は、全くもって忌まわしいと思う」とアルバネーゼ氏は 付け加え 今回のdent ソーシャルメディアが社会的責任を果たしていないもう一つの例であり、オーストラリア国民と世界中の人々はもっと良い扱いを受けるべきだと述べた。

彼らの批判は突飛なものではなく、今週Grokチャットボットに対して世界中で巻き起こった反発の一部です。これを受け、XはAIによる画像作成・編集を制限し、有料会員のみの利用に限定しました。金曜日には、Grokは非会員ユーザーによるデジタル加工された画像の提供要求を拒否していました。「画像の作成と編集は現在、有料会員限定です。有料会員になると、これらの機能を利用できるようになります」とチャットボットは説明していました。.

eSafety Officeの広報担当者が発表した声明によると、寄せられた苦情のほとんどは、成人の画像が改変されているという懸念に関するもので、児童性的搾取の可能性のあるコンテンツに関する苦情もごくわずかだったという。「画像ベースの虐待に関する報告はごく最近受理されたもので、現在も評価中です」と同局は述べた。「違法コンテンツおよび制限コンテンツに関する報告については、当該コンテンツはクラス1の児童性的搾取コンテンツの分類基準を満たしていませんでした。」

その結果、eSafety Officeは、これらの苦情に関して削除通知の発行や執行措置の実施を拒否したと述べた。しかし、広報担当者は、児童搾取のためのAI利用の増加に対する懸念は依然として残っていると述べた。「これは、安全性を設計段階から考慮することの重要性を浮き彫りにしています。これには、生成AI製品が製品ライフサイクルのあらゆる段階に適切な安全対策とガードレールを組み込むことが必要であり、危害が発生する前にこれらの技術の悪用や兵器化を防ぐ必要があることが含まれます」と広報担当者は述べた。.

インドネシア、ディープフェイク問題でGrokを一時禁止

一方、インドネシアは 断固たる 措置を講じた。通信デジタル省は土曜日、AIが生成する露骨なコンテンツによる被害から子どもや女性を守る必要性が喫緊の課題であると述べ、この措置を発表した。「政府は、同意のない性的ディープフェイクを、デジタル空間における人権、尊厳、市民の安全に対する重大な侵害とみなしている」と、ムティア・ハフィド大臣は公式声明で述べた。

彼女は、 AIを悪用してフェイクポルノを作成することは、一種のデジタルベースの暴力に相当すると主張した。一方、インドネシアは、国内のデジタルプラットフォームに対し、禁止コンテンツの作成と配信を防止するための安全対策を講じていることを証明するよう求めている。この執行措置の一環として、省はX社（旧Twitter社）を召喚した。同社は、この脅威の拡散を抑制するために講じた措置について、説明を行う予定である。