AIは誤情報の増幅器になり得る、アリゾナ州国務長官

アリゾナ州の国務長官、Adrian Fontes氏によると、人工知能（AI）は、今後の米国選挙において誤情報の「増幅器」になり得るとのことです。Fontes氏は、 日曜日にNBCの『Meet the Press』で懸念を表明しました。

Fontes氏の声明は、Biden大統領がX（旧Twitter）に投稿した「AIとこの技術に取り組む企業は世界を変革していくだろう、 bしかし、まず我々の信頼を得る必要がある。」という投稿の直後でした。” 大統領は、安全で責任ある革新を促進するために自分ができる限りのことをすることにコミットしていると述べました。彼は企業に対し、そのコミットメントに参加するよう促しました。

AIディストーションは増幅器

Fontes氏は、海兵隊での訓練セッションを思い出しました。彼は、ブートキャンプやその他の軍事訓練では、敵の兵器を評価する必要があったと述べました。敵の兵器に対して可能な限り多く訓練する必要があったと語りました。

関連記事: Microsoft、今後の選挙におけるAI駆動型ディストーションキャンペーンを警告

国務長官はAIを兵器に例え、AIは兵器ではなく、むしろ誤情報およびディストーションの増幅器であると述べました。 

「私がやりたかったのは、選挙担当者がそれについて熟知し、各郡内でそれに対処し、対応するプロセスを持っていることを確認することでした。なぜなら、私たちの選挙は郡レベルで運営されているからです。」

Adrian Fontes

「また、メディア向けの選挙担当者のためのテーブルトップ演習も行い、メディアパートナーがそれに対応し、認識する方法を知れるようにしました。」と付け加えました。

AIだけが話題だったわけではありません。国務長官は国内テロリズムに触れながら、「テロリズムは政治的な結果のための脅迫または暴力として定義されます。これがまさにそれです。」と述べました。

「フェイク」Joe Bidenの電話はAIディストーションを裏付ける

選挙に対する潜在的なAIの脅威は新しいものではありません。今年1月早些か、米国大統領Joe Bidenの声を使用したフェイクのロボコールは、テレビ番組やニュース記事でホットな議論の的となりました。フェイクの電話は慎重に仕立てられており、Bidenが以前使用した用語「What a bunch of malarkey」から始まりました。 

このキャラクターのタッチの後、電話は続きました。

「火曜日の投票は、ドナルド・トランプを再び当選させるという共和党の試みだけを可能にします。あなたの投票は11月に違いを生むのであって、この火曜日ではありません。」

それは、特定の日に投票所に行くことを有権者に躊躇させる明確な試みでした。このロボコールは、電話の背後にあった政治コンサルタントのSteven Kramer氏が合計600万ドルの罰金と24の刑事訴追を受けた2日前にも再び話題になりました。

連邦通信委員会（FCC）によると、クレイマー氏に科された罰金は生成AI関連の違反として初めてのものであった。同委員会はまた、ロボコール（自動音声電話）の送信で告発されたリンゴ・テレコムに対しても200万ドルの罰金提案を行った。

リンゴ・テレコムはこれらの通話の制作には関与していないと主張したが、同社の行動は業界基準および連邦規制に準拠していた。しかし、懸念すべき点は、これらの通話がケイシー・サリバン氏（元州民主党委員長）の個人番号から発信されていたことである。 

サリバン氏は木曜日の電子メールで、Associated Pressによると、「選挙を不正に行おうとすると、厳しい代償を払うことになります。」と書き記しました。

誤情報キャンペーンのコスト削減

AIは、詐欺を実行したい人々にとって、詐欺をより安価で手頃なものにした。投票率向上プロジェクトを専門とする企業を所有するクレイマー氏は、有権者の注意を「AIの問題」に集めるために通話送信に500ドルを支払ったと述べた。彼は以前、AP通信に対し、録音作成にマジシャンに150ドルを支払ったと語っていた。

関連記事: ウォーレン・バフェット氏、AI詐欺が成長産業になることを警告

Wired reported 昨年、AIディストーションキャンペーンを構築するにはわずか400ドルしかかからないと報告しました。同レポートは、一般的なAIツールを使用して反ロシアのツイートや記事を生成した開発者を報じましたが、プロジェクトの目的は、これがいかに安価かつ容易に行えるかを浮き彫りにすることでした。

ニュースメディアによると、ネア・ポーという名前の人物が、AIの危険性と誤情報について人々を教育するためのキャンペーンを設計した。ポー氏はメールで次のように述べている。

「これに対する万能薬はないと思います。フィッシング攻撃、スパム、ソーシャルエンジニアリングにも万能薬がないのと同じです。」

誤情報研究者らは、AIが誤情報を強化するための非常にパーソナライズされたキャンペーンや、ソーシャルメディアアカウントの運用に使用される可能性があるとしている。注目すべきは、FacebookとInstagramが最近、中国共産党の通信メカニズムに関連するネットワークと何らかの形でつながっていた数千のアカウントをブロックしたことである。

研究者らは、フェイクアカウントが今ではより洗練された手法を使用して誤情報キャンペーンを実行しており、オーガニックな手法を使用してリーチを拡大し、本物のように見せようとしていると指摘している。忘れてはならないのは、伝説的な投資家ウォーレン・バフェット氏の言葉であり、彼はAI詐欺が「史上最快速に成長する産業」になる可能性があると言った。 

詐欺と選挙に関する誤情報には、どちらも人々を誤導するために使用されるという共通点がある。バフェット氏は次のように述べている。「これには大きな善の可能性と大きな悪の可能性があるが、それがどのように展開するかは私にはわからない。」

CryptopolitanによるAamir Sheikhのレポート