AIモデルは不正要素に任せれば危険になる可能性がある

バイデン政権下の商務省は、オープンソースまたはクローズドソースの人工知能（AI）モデルの輸出をさらに制限するための新たなコンプライアンス・イニシアチブの導入を目指しています。このイニシアチブは、米国の国益とAI技術をロシアと中国から守るための取り組みであり、過去2年間に中国による最新の高度なコンピュータチップへのアクセスを阻止するために講じられた措置を補完するものです。.

ロイター通信は、事情に詳しい3人の情報筋を引用し、米国の取り組みは、ChatGPTのようなアプリを支える大規模言語モデルのコアソフトウェアに、より厳格な保護壁を設けることだと報じた。同通信は、民間部門と政府の研究者が、米国の敵対勢力がこの技術を攻撃的なサイバー攻撃や生物兵器開発に利用する可能性を懸念していると主張しているが、中国大使館はこの動きに反対し、一方的な脅迫と経済的圧力だと非難している。.

ディープフェイクは致命的な偽情報兵器である

米国が恐れる脅威は数多く、国家の支援を受けた非国家主体によって利用される可能性があります。ディープフェイクは、AIツールによって作成されたリアルでありながら偽りの動画であるため、効果的なプロパガンダの武器として利用される可能性があります。. 

こうしたタイプの動画は既にソーシャルメディア上に登場しています。こうしたメディアコンテンツは、アニメーションやレンダリングソフトウェアを用いて開発され、ここ数年で存在していましたが、生成AIツールの登場により、誰でも簡単に作成できるようになり、特に選挙運動において、デリケートな問題に関する世論を操作するために、悪意のある人物がこれまで以上に容易にそれらを利用できるようになっています。.

YouTube、Facebook、Twitterなどのソーシャルメディアプラットフォームは既にディープフェイクを抑制するための対策を講じていますが、ディープフェイクの作成と公開の手法も技術の発展に伴い変化しています。現在、MicrosoftやOpenAIなどの企業のツールは、偽情報を拡散するためのコンテンツの作成に利用される可能性があります。.

ランド研究所とグリフォン・サイエンティフィックの研究者らによると、さらに大きな懸念は、AIモデルが生物兵器の開発に必要な情報を漏らす可能性があることであり、米国の諜報機関、学術専門家、シンクタンクはAIが悪意ある勢力の手に渡る可能性を懸念している。.

グリフォンの研究では、法学修士課程が専門知識や博士レベルの知識をdent生み出し、パンデミックを引き起こす能力を持つウイルスの開発に役立てることができるか、またそれが非国家主体によって生物兵器として使用される可能性があることを明らかにした。.

AIモデルによる増幅されたサイバー攻撃

国土安全保障省も、より大規模で複雑なサイバー攻撃をより迅速に実行できる新たなツールの開発により、鉄道やパイプラインなどの重要なインフラに対するサイバー攻撃が AI によって実行される可能性があると懸念を表明している。.

同庁はまた、中国はマルウェア攻撃に使用可能な人工知能ソフトウェアを開発しており、国のサイバー防衛を妨害する可能性のあるAI技術にも取り組んでいると述べた。.

2月にマイクロソフトは、LLMを利用してハッキングキャンペーンを洗練させているハッキング活動に関与するサイバーグループをdentと指摘したレポートを発表し、これらのグループはロシアの軍事情報機関、北朝鮮と中国の政府、イランの革命防衛隊とつながりがあると述べた。.

同社は、自社のAI製品・サービスを利用している政府資金によるサイバー 犯罪集団 。水曜日には、議員グループが、バイデン政権がAIモデルの輸出規制を強化し、潜在的な敵対勢力への露出を防ぐための法案を提案した。

専門家ら は 、米国はAI関連リスクへの解決策を含め、イノベーションの促進に努めており、イノベーションを阻害する可能性のある過度な規制は避けようとしていると述べている。また、AIの発展を厳しく規制することで厳格な規制を施行すれば、海外の競合企業に空白が生じ、インフラ、国家安全保障、創薬などの分野に悪影響を与えると指摘している。