AI言語モデルの進歩がバイオテロリズムおよび生物兵器への懸念を高める

人工知能の急速な進歩は、科学および医療分野で数多くのブレイクスルーをもたらし、さまざまな分野に良い変化をもたらしてきました。しかし、それは特にバイオテロリズムおよび生物兵器の文脈において、悪用される可能性に関する深刻な懸念も生み出しています。ボツリヌス毒素を用いたバイオテロ攻撃を試みた日本のカルト集団・オウム真理教の有名な事例は、現代のAI言語モデルへのアクセスが、壊滅的なバイオテロリズム事件のリスクを潜在的に高める可能性のある方法を示しています。

ChatGPTやAI搭載の生物設計ツールのような大規模言語モデルは、脅威の増幅因子として機能し、悪意のある行為者が二重用途の科学知識にアクセスし、危険な生物製剤の開発を加速させることを可能にします。AIと生物学の交差点がよりアクセスしやすくなるにつれて、バイオセキュリティとAIガバナンスを強化するための緊急措置が必要です。

バイオテロリズムにおけるAI言語モデルの脅威

ChatGPTのような大規模言語モデルが、潜在的に危険な病原体や生物兵器に関する情報を容易に提供できることは、大きな懸念事項です。MITでの最近の演習では、ChatGPTがわずか1時間で、非科学者の学生に対して、4つの潜在的なパンデミック病原体と、検知されずに遺伝物質を取得する方法を指導しました。情報の拡散は、必要な専門知識を持たずに生物兵器を探求しようとする悪意のある行為者を力づける可能性があります。

暗黙の知識の障壁の低下

AI言語モデルは実践的な経験を直接提供することはできませんが、生物製剤の作成に必要な暗黙の知識の障壁を低下させることができます。AIシステムの進化に伴い、科学の自動化や生物兵器の秘密裏の開発を促進し、そのようなプロジェクトに必要な科学者の数を減らす可能性があります。

生物設計ツールの役割

AlphaFold2やRFdiffusionのような専門的なAIツールは、すでに生物設計能力の限界を押し広げています。これらは医学において重要な進歩をもたらす可能性がありますが、前例のない特性を持つ非常に危険な病原体の作成を可能にすることで、生物学的リスクを悪化させる可能性もあります。これらのツールは、従来のスクリーニング方法でカバーされていない危険な特性を持つ製剤を生成するため、危険な毒素や病原体へのアクセスを制御する既存の措置に挑戦する可能性があります。

必須の遺伝子合成ルール

AIと生物学の交差から生じるリスクを軽減するためには、普遍的な遺伝子合成スクリーニングが不可欠です。これには、制御された製剤の遺伝物質にアクセスできるのは正当な研究者のみであることを確保するために、注文と顧客をスクリーニングすることが含まれます。サプライチェーンセキュリティの弱点が悪用されないようにするため、遺伝子合成プロバイダーおよびその他の重要なサービスプロバイダーに対する必須のベースラインスクリーニングの実装が必要です。

AIガバナンスの必要性

大規模言語モデルおよび生物設計ツールのリスクを管理するためには、AI固有の介入が重要です。モデルのリリース前の評価により、危険な機能が公開リリース時に存在しないことを確保できます。オープンソースとして公開するのではなく、構造化されたアクセス方法を通じてモデルをリリースすることで、安全策の継続的な更新が可能になります。政策立案者は、誰が二重用途の科学的能力にアクセスすべきかを検討し、分野、人口統計、地理を超えた多様な声からの入力考慮する必要があります。

正当な科学研究を可能にし、危険な知識の拡散を防ぐ間のバランスを取ることが重要です。ChatGPTのような言語モデルの一般公開版は、危険な病原体の作成に関する詳細な指示を提供しないように選択する場合があります。同時に、適切な訓練と承認を受けた正当な科学者に対しては、専門的なアクセス方法を実装することができます。

AIと生物学の融合は、科学および医療にプラスの影響をもたらす大きな可能性を秘めています。しかし、同じ進歩は、特にバイオテロリズムおよび生物兵器の観点から、深刻なリスクをもたらします。AI言語モデルおよび生物設計ツールがますますアクセスしやすくなるにつれて、バイオセキュリティとガバナンスを強化するための緊急措置が必要です。必須の遺伝子合成スクリーニングの実装、モデル能力のリリース前評価の実施、正当な科学者に対する差別化されたアクセス方法の確保は、これらの新たな課題に対処するための重要なステップです。政策立案者の迅速な行動は、安全性を高めるだけでなく、人工知能の恩恵を責任を持って活用するための道を開くことができます。