オーストラリアの活動家が明らかにしたところによると、人工知能は殺害予告を非常に現実的なものにしている。

オーストラリアの活動家、ケイトリン・ローパー氏は、人工知能がオンライン上で非常にリアルな脅迫や暴力的な嫌がらせを行うために利用されていることを明らかにした。ローパー氏によると、長年インターネット上で活動家として活動してきたにもかかわらず、最近相次いで受けたAIによる脅迫によって、自身も精神的なトラウマを負ってしまったという。.

デジタル技術による脅威はここ数年で現実のものとなりつつあり、つい最近まで、人工知能 モデルは オンライン上で大きな存在感を持っていなければ、実在の人物を模倣することはできなかった。しかし、ある専門家によると、現在ではモデルはプロフィール写真さえあれば、ユーザーが望むあらゆるものを作り出すことができるという。

2023年、フロリダ州のある裁判官に、人気ビデオゲーム「グランド・セフト・オート」のカスタマイズツールを使って作成された動画が送られてきた。その動画には、裁判官そっくりのアバターが、斧で惨殺される様子が映っていた。.

オーストラリアの活動家が人工知能の利用について慎重な対応を呼びかけ

ローパー氏によると、彼女が受け取った投稿の中には、彼女と、Xなどのソーシャルメディアプラットフォームで活動するオーストラリアの活動家グループ「コレクティブ・シャウト」の同僚たちに向けられた、悪意に満ちたキャンペーンの一環だったという。送られてきた写真の中には、彼女が首吊り縄で吊るされている写真や、彼女が炎に包まれて叫んでいる動画もあったと彼女は 指摘した 。さらに生々しいものもあり、ユーザーたちはメッセージを伝えるためにあらゆる手段を講じていた。

ローパー氏は、人工知能で捏造された写真や動画のほとんどで、自分が実際に所有している青い花柄のドレスを着ていると主張した。「こうした奇妙な小さなディテールが、よりリアルに感じさせ、どういうわけか、これまでとは違う種類の侵害に感じさせるのです」と彼女は述べた。「こうしたことは、空想から空想以上のものへと発展する可能性があります」。彼女は、成人向けシーンや虐待を美化する暴力的なビデオゲームを閉鎖するよう彼女がキャンペーンを行った後、この夏にオンラインでの誹謗中傷の嵐が始まったと指摘した。.

彼女は、自分に向けられたアカウントや画像の一部が削除されたと述べた。ローパー氏はまた、同社が、彼女の暴力的な死を描いた他の投稿はプラットフォームの利用規約に違反していないと主張したとも述べた。実際、彼女は、Xがかつて、彼女を嫌がらせするアカウントの1つを、フォローすべき推奨人物リストに含めていたと主張した。ローパー氏は、彼女を嫌がらせする者の中には、自宅やカフェで女性を見つける方法を調べるためにGrokを使用していると主張する者もいると述べた。.

ローパー氏は、この脅威に対処するプラットフォームを求めている。

ローパー氏は、我慢の限界に達したため、いくつかの例を投稿することにしたと主張した。投稿後、X社は彼女の アカウント が不必要な残虐描写を禁止する安全ポリシーに違反していると告げ、一時的にアカウントをロックした。

一方、人工知能が詐欺行為に悪用されていることから、世界的に人工知能に対する反対運動が展開されている。犯罪者たちは現在、この技術を使って実在の人物の声を模倣し、数々の違法行為に利用している。その他にも、本人の明示的な許可なく人工知能を用いて成人向けコンテンツを作成するといった行為も行われている。.

こうしたコンテンツに加え、人工知能は他の脅威もより説得力のあるものにしているという報告もある。例えば、スワッティングとは、警察や救急隊員の大規模な出動を誘発する目的で、虚偽の緊急通報を行う行為である。全米州司法長官協会は夏に、この技術がこうした攻撃の「規模、精度、匿名性を著しく高めている」と指摘した。.

規模は小さいものの、人工知能を使って自宅侵入を装った動画が増加したことで、標的となった住民が全国各地の警察署に通報するdentが発生している。報告書によると、スワッティングの犯人は声をクローンしたり画像を操作したりすることで、警察に虚偽の通報をさせる可能性があるという。ある常習犯は、ワシントン州のある高校の駐車場に銃撃犯がいると示唆するために、模擬銃撃音を使用した。警察と連邦捜査官が現場に到着した後、キャンパスは20分間封鎖された。.