人工知能が死亡脅迫を非常に現実的なものしている、オーストラリアの活動家が明らかにする

オーストラリアの活動家ケイトリン・ローパー氏は、人工知能が現在、非常に現実的な脅迫や暴力的な虐待をオンラインで行うために使用されていると明らかにした。ローパー氏によると、インターネット上で活動家として長年働いてきたにもかかわらず、最近受け取ったAI駆動の脅迫の連続にトラウマを負ったという。

デジタル生成による脅威は過去数年間可能であったが、最近まで人工知能モデルは、オンラインで大きな存在感がない限り、現実の人物を再現できなかった。専門家のによると、モデルは今やユーザーの望む任何东西を作成するためにプロフィール写真1枚だけで十分である。

2023年、フロリダ州の裁判官に、ビデオゲーム『グランド・セフト・オート』のカスタマイズツールを使用して作成された動画が送られた。この動画には、裁判官にそっくりで、裁判官がハッキングされて殺される様子を描いたアバターが登場した。

オーストラリアの活動家、人工知能の使用に注意を呼びかける

ローパー氏によると、彼女が受け取った投稿の一部は、Xやその他のソーシャルメディアプラットフォーム上のオーストラリアの活動家グループ「Collective Shout」の彼女と彼女の同僚たちに向けられた敵意のキャンペーンの一部であった。彼女は指摘した、彼女に送られた写真の一つには、彼女が絞首台に吊るされている写真があり、別の動画では彼女が炎に包まれながら叫んでいる様子が映っていた。他のものはより生々しく、ユーザーはメッセージを伝えるためにあらゆる手段を講じた。

ローパー氏は、人工知能で捏造された写真や動画のほとんどで、彼女が実際に所有している青い花柄のドレスを着ていたと主張した。「それは、より現実味を感じさせ、何らかの形で異なる種類の侵害となる、これらの奇妙な小さなディテールです」と彼女は述べた。「これらのものは、空想から、空想以上のものへと変貌し得ます。」彼女は、成人シーンや虐待を賛美する暴力的なビデオゲームの閉鎖を訴えるキャンペーンのこの夏以降、オンラインでの虐待の洪水が始まったと指摘した。

彼女は、彼女に向けられたいくつかのアカウントや画像が削除されたと述べた。ローパー氏はまた、同社が彼女の暴力的な死を描いた他の投稿はプラットフォームの利用規約に違反していないと主張したと述べた。実際、彼女はXが、ある時点で彼女を嫌がらせしているアカウントの一つを、フォローすべき推奨人のリストに含めていたと主張した。ローパー氏は、彼女の嫌がらせ者の一部が、Grokを使用して家やカフェで女性を見つける方法を調査したと主張していると述べた。

ローパー氏、プラットフォームにこの脅威に対処するよう求める

ローパー氏は、彼女が我慢の限界に達した後、いくつかの例を投稿することを決意したと主張した。彼女が投稿した後、Xは彼女のアカウントが無駄なグロテスクな表現に対する安全ポリシーに違反しているとし、アカウントを一時的にロックした。

一方、詐欺を実行するために使用される人工知能に対して世界的なキャンペーンが行われている。犯罪者は現在、この技術を使用して現実の人物の声を模倣し、多数の違法活動に使用している。他の活動には、被写体の明示的な許可なしに人工知能で成人向けコンテンツを作成することが含まれる。

これらの種類のコンテンツに加えて、報告書によると、人工知能は他の脅迫もより説得力のあるものにしている。例えば、スワッティングは、警察や救急隊員の大規模な対応を促すことを目的として偽の緊急通報を行う行為である。夏、全米州司法長官協会は、この技術がそのような攻撃の「規模、精度、匿名性を大幅に強化した」と述べた。

小規模な規模では、人工知能を使用して作成された supposed な自宅侵入を示す動画の増加により、標的となった住民が全国の警察署に通報する事態となっている。報告書によると、スワッティングの実行犯は、声をクローン化し画像を操作することで、法執行機関に偽の報告を説得できる。ある常習犯は、模擬銃声を発生させ、ワシントン州の高校の駐車場に射撃手がいることを示唆した。警察と連邦捜査官が到着した後、キャンパスは20分間封鎖された。