米国国防総省、軍事医療におけるチャットボットのパイロットプログラムを完了

バイデン政権下で国防総省と連携した最後のプロジェクトの一つが、ついに成功裏に終了した。米国国防総省（DoD）の主席デジタル・人工知能（CDAO）室は、クラウドソーシングAIレッドチーム（CAIRT）アシュアランス・プログラムのパイロットを完了した。この取り組みは、AIチャットボットを軍の医療サービスに統合することを目的としている。. 

大規模言語モデル（LLM）チャットボットはCAIRTプログラムに実装されました。さらに、 CAIRTは 国防総省によるAIリスク軽減とAIアシュアランスのための分散型クラウドソーシング戦略の開発を支援しました。

200名を超える臨床提供者と医療アナリストが、軍事医療アプリケーションにおけるAIチャットボットの使用における潜在的な脆弱性のdentに貢献しました。特に、国防総省の報告によると、このパイロットプロジェクトでは数百の潜在的な問題がdentされました。.

そのため、国防総省は 「今回の演習では、ベンチマークデータセットの開発を通じて、再現性と拡張性のある成果が得られる。このデータセットは、将来のベンダーやツールが性能期待値に合致しているかどうかを評価するために使用できる」と述べた。 

CAIRTプログラムの舞台裏

国防総省によると、非営利の人道的情報機関がCAIRT LLMパイロットを実施した。同機関は国防保健局（DHA）および国防医療管理システムプログラム執行部（PEO DHMS）と提携してこのパイロットプロジェクトを達成した。.

さらに、ヒューメイン・インテリジェンスはレッドチーム演習の手法を用いて、特定のシステム問題をdent。これには、敵対的手法を用いたシステム回復力の内部テストが含まれます。. 

さらに、レッドチーム演習には、新興技術への関心が高く、将来の受益者となる可能性のある参加者が集まり、システムの改善に貢献する機会が与えられました。.

このプログラムでは、ヒューメイン・インテリジェンスがクラウドソーシングによるレッドチームワークを活用し、軍事医療における 2 つの潜在的な応用、すなわち臨床記録の要約と医療アドバイスチャットボットに取り組みました。.

脆弱性が特定されたもののdent国防総省は の責任ある利用に関する国防総省の方針とベストプラクティスを策定する上で重要な役割を果たし 、生成型AI（GenAI） AIに該当する場合 defi、必要なリスク管理慣行をすべて遵守することになる」と強調した。

それでも国防総省は、CAIRT保証プログラムがLLMとAIシステムのテストを継続すると述べています。これにより、CDAOのAI迅速能力開発セルのスピードが上がり、GenAIの目標がより効果的になり、国防総省のあらゆるユースケースにおける信頼の構築に役立ちます。.

CDAOでこの取り組みを主導するマシュー・ジョンソン博士は、 「国防総省内でこのような目的でGenAIを適用することは、まだ試験運用や実験の初期段階にあるため、このプログラムは、大量のテストデータを生成し、検討すべき領域を明らかにし、将来展開される可能性のあるGenAIシステムの研究開発および保証を形作る緩和策を検証するための重要な先駆者としての役割を果たします」と述べています。

次期政権もこれらのプロジェクトを継続すると予想されています。トランプ政権は、中国との競争を視野に入れながらも、AIに対してオープンな姿勢を示しています。.

医療分野における AI はどの程度安全でしょうか? 

AIは医学に多大な有益な影響を与えますが、いくつかの重大なリスクと危険も伴います。.

現状では、AIシステムは精度を高めるために膨大なデータセットを必要とする特定のアルゴリズムを使用しています。この方法は、患者の機密データをセキュリティ、プライバシー、そして機密dent。現在、製薬会社や保険会社がこのようなデータセットに関心を示しているため、 ハッキングは大幅に拡大しています。医療ファイルのハッキングは、政府によるサイバー攻撃の一環となる可能性もあります。

さらに、医療データに意図的に手を加え、医療における誤りやバイアスを誘発するデータポイズニングも、医療データの悪用における大きなリスクの一つです。これは、医療アドバイスの正確性と信頼性を損ないます。COVID-19パンデミックのように、異なる疫学データモデルを用いたAIは、多様な結果をもたらす可能性があります。.

もう一つの問題は、医療アルゴリズムの欠陥です。これは、アルゴリズムの妥当性を検証するための確立された基準がないため、アルゴリズムのテストが不十分であることが原因である可能性があります。例えば、二重盲検試験は、治療法の有効性を証明する最も効果的な方法です。. 

それでも，そのようなミスの責任を負うのは誰でしょうか。かかりつけ医でしょうか，病院でしょうか，機器の提供者でしょうか，それともアルゴリズムの開発者でしょうか。このように，機械の故障による医療ミスは，深刻な法的問題を引き起こします。.

AIチャットボットがお医者さんごっこ？🤖 まだちょっとね。.

ある研究により、彼らの診断能力はせいぜい不安定であることが明らかになった。.

医療AIは、あなたの健康を任せるには、まだ知能の向上が必要です。🩺 pic.twitter.com/W2ast8S7iO

— CAD Black Ops (@CADBlackOps) 2025年1月2日

また、AIは医師と患者の関係を損なう可能性もある。そのため、医師はAIの評価と性能を理解し、患者にAIの役割を説明し、患者の不安を軽減する必要がある。.

最後に、 「怠惰な医師」効果と呼ばれる現象があります。医師が診断や治療にAIアルゴリズムのみを用いるようになると、実践的なスキル、知的創造性、そして医療問題を解決する能力が徐々に、そして不可逆的に失われていく可能性があります。

慣れてきています チャットボットに日常生活で 適切な研究を行えば、AIチャットボットは医師が犯す小さなミスを排除し、医療現場をより安全なものにすることができます。