AIモデルは悪意ある要素に放置されると危険

バイデン政権下の商務省は、オープンソースまたはクローズドソースの人工知能モデルの輸出をさらに制限する新しいコンプライアンスイニシアチブを目指しています。このイニシアチブは、ロシアと中国から米国の利益とAI技術を保護するための取り組みであり、過去2年間にわたって中国の最新鋭コンピュータチップへのアクセスをブロックするために取られた措置を補完するものです。

Reutersは、この問題に精通した3つの情報筋を引用し、ChatGPTなどのアプリを支える大規模言語モデルのコアソフトウェアの周りにより厳格な保護バリアを設けるための米国の取り組みを報じました。ニュースプロバイダーは、民間部門と政府の研究者が、米国の敵対国がその技術を攻撃的なサイバー攻撃や生物兵器の開発に使用する可能性を懸念していると主張していますが、中国大使館はこの動きに反対し、一方的ないじめと経済的強制であると述べています。

ディープフェイクは致命的な誤情報兵器

米国が恐れる脅威は多く、国家に支援された非国家アクターによって使用される可能性があります。ディープフェイクは、AIツールによって作成されたリアルだが偽の動画を含むため、プロパガンダとして効果的な兵器として使用できます。 

これらのタイプの動画はすでにソーシャルメディアで出現しています。そのようなメディアコンテンツは過去数年間存在していましたが、アニメーションやレンダリングソフトウェアで開発されていました。生成AIツールの登場により、誰でも簡単に作成できるようになり、悪意あるアクターは以前にも増して容易に利用し、特に選挙キャンペーン中に敏感な問題に関する世論を操作することができます。

YouTube、Facebook、Twitterなどのソーシャルメディアプラットフォームはすでにディープフェイクを抑制するための措置を講じていますが、技術の発展に伴い、それらを開発・公開する手法も変化しています。現在、MicrosoftやOpenAIなどの企業のツールを使用して、誤情報を拡散するためのコンテンツを作成することができます。

より大きな懸念は、AIモデルが生物兵器の開発のために情報を漏洩する可能性があることです。Rand CorporationとGryphon Scientificの研究者、および米国の情報機関、学術専門家、シンクタンクは、AIが悪意ある要素の手に渡る可能性を心配しています。

Gryphonの研究は、LLMsがパンデミック能力を持つウイルスの開発を支援する専門知識や博士レベルの知識を生成する方法を特定し、これが非国家アクターによって生物兵器として使用される可能性があることを示しました。

AIモデルによる増幅されたサイバー攻撃

国土安全保障省も、鉄道やパイプラインなどの重要インフラに対するサイバー攻撃が、より大規模で複雑なサイバー攻撃を可能にする新しいツールを開発することでAIによって実行される可能性について懸念を表明しています。

同省はまた、中国がマルウェア攻撃に使用できる人工知能ソフトウェアを開発中であり、国のサイバー防御を潜在的に妨害するAI技術も開発中であると述べています。

昨年2月、Microsoftは、LLMsを活用してハッキングキャンペーンを洗練させているハッキング活動に関与するサイバーグループを特定したと指摘するレポートを発行しました。これらのグループは、ロシアの軍事情報機関、北朝鮮および中国の政府、およびイランの革命防衛隊と関連性があります。

同社は、そのAI製品やサービスを利用している国家資金によるサイバーグループの禁止を発表しました。水曜日、議員団が、AIモデルの輸出に対する管理を強化し、潜在的な敵対国への露出を防ぐための法案を提案しました。

この件に関する専門家は、ワシントンがイノベーションを促進しつつ、AIに関連するリスクに対する可能な解決策を探っているため、イノベーションを抑制する可能性のある過度な規制を避けようとしていると述べています。また、AIの進歩を厳格に規制することで厳格な規制を施行することは、海外の競合他社にとっての隙間を作り、インフラ、国家安全保障、創薬の分野に悪影響を及ぼすと指摘しています。