- DoD は、AI チャットボットを軍医療サービスに統合する CAIRT イニシアチブを完了しました。
- 200 名以上の臨床提供者とヘルスケアアナリストがプロジェクトを検討しました。
- この演習により、潜在的な脆弱性に関する 800 件以上の発見がありました。
米国国防総省（DoD）、軍用医療におけるチャットボット使用のパイロットプログラムを完了
バイデン政権下でDoDと関連する最後のプロジェクトの一つが、成功裏に終了しました。米国国防総省（DoD）のChief Digital and Artificial Intelligence Office（CDAO）は、Crowdsourced AI Red-Teaming（CAIRT）Assuranceプログラムのパイロットを完了しました。このイニシアチブは、AIチャットボットを軍用医療サービスに統合することに専念しています。 大規模言語モデル（LLM）チャットボットがCAIRTプログラムで実装されました。さらに、 CAIRT
は、DoDがAIリスク緩和およびAIアシュアランスのための分散型、クラウドソーシングされた戦略を開発するのを支援しました。
200人以上の臨床提供者と医療アナリストが、軍用医療アプリケーションにおけるAIチャットボット使用の潜在的な脆弱性の特定に貢献しました。特に、DoDの報告によると、パイロットは数百の潜在的な問題を特定しました。 その目的のために、DoDは次のように述べています。
「この演習は、ベンチマークデータセットの開発を通じて反復可能でスケーラブルな出力をもたらす結果となり、これは将来のベンダーやツールを、パフォーマンスの期待値との整合性で評価するために使用できます。」
CAIRTプログラムの裏側
DoDによると、非営利のヒューマンインテリジェンスがCAIRT LLMパイロットを実施しました。これは、Defense Health Agency（DHA）およびProgram Executive Office of Defense Healthcare Management Systems（PEO DHMS）とのパートナーシップによって達成されました。
さらに、ヒューマンインテリジェンスは、特定のシステム問題を特定するためにレッドチームング手法を使用しました。これには、敵対的な手法を用いたシステムレジリエンスの内部テストが含まれていました。
さらに、レッドチームングは、新興技術との相互作用に関心を持ち、潜在的な将来の受益者である参加者を惹きつけました。彼らはシステムの強化に貢献する機会を与えられました。
このプログラムでは、ヒューマンインテリジェンスはクラウドソーシングされたレッドチームングを使用して、軍用医療における2つの潜在的なアプリケーション、すなわち臨床ノート要約と医療アドバイザリチャットボットに対処しました。 脆弱性が特定されましたが、DoDは強調しました。 「これらの発見は、 生成AI（GenAI）
の責任ある使用に関するDoDの政策とベストプラクティスを形成する上で重要な役割を果たします。もし、配備時にこれらの prospective なユースケースがOMB M-24-10で定義される対象AIに含まれる場合、それらは必要なすべてのリスク管理慣行に従います。」
それでも、DoDはCAIRT Assurance ProgramがLLMおよびAIシステムのテストを継続すると述べています。これにより、CDAOのAI Rapid Capabilities Cellが加速され、GenAIの目標がより効果的になり、すべてのDoDユースケース全体で信頼が構築されるのに役立ちます。 このイニシアチブのCDAO責任者であるMatthew Johnson博士は、次のようにも述べています。
「DoD内でGenAIをそのような目的に適用することは、パイロットおよび実験の初期段階にあるため、このプログラムは、将来配備される可能性のあるGenAIシステムの将来の研究、開発、アシュアランスを形成するテストデータの大量生成、考慮すべき領域の浮上、緩和オプションの検証のための不可欠なパスマイナーとして機能します。」
次期政権はこれらのプロジェクトを継続することが期待されています。トランプのチームは中国との競争を見据えつつも、AIに対してオープンマインドです。
医療分野におけるAIの安全性は？
AIは医療科学に非常に有益な影響を与えていますが、いくつかの重大なリスクと危険が伴います。 現状では、AIシステムは精度を高めるために大量のデータセットを必要とする特定のアルゴリズムを使用します。この方法は、機密患者データのセキュリティ、プライバシー、機密性に対するリスクを高めます。現在、製薬会社や保険会社がそのようなデータセットに関心を持っているため、ハッキングが大幅に拡大しています
。医療ファイルのハッキングは、政府のサイバー攻撃の一部である可能性もあります。
さらに、データポイズニング、すなわち医療データ意図的に改ざんして医療にエラーやバイアスを誘発することは、医療データ misuse の別の主要なリスクです。これは医療アドバイス精度と信頼性を損ないます。COVID-19パンデミックのような異なる疫学データモデルを使用するAIは、多様な結果を生じさせる可能性があります。
別の問題は、欠陥のある医療アルゴリズムです。これは、その妥当性をテストするための確立された基準がないため、アルゴリズムテストが不十分である可能性があります。例えば、二重盲検試験は治療が有効であることを証明する最も効果的な方法です。
それでも、そのようなミスの責任は誰にあるのでしょうか？個人の医師、病院、機器提供者、それともアルゴリズム開発者でしょうか？したがって、機械の故障によって引き起こされる医療エラーは、深刻な法的問題を提起します。
AIチャットボットが医者をする？🤖 まだその段階ではありません。
医療AIはまだ信頼できるレベルに達しておらず、あなたの健康を任せるには脳の強化が必要です。🩺 pic.twitter.com/W2ast8S7iO
— CAD Black Ops (@CADBlackOps) 1月 2日、 2025
研究によると、その診断スキルはせいぜい不安定です。
さらに、AIは医師-患者関係を損なう可能性もあります。したがって、医師はAIの評価とパフォーマンスを理解し、その役割を患者に説明して患者の不安を軽減する必要があります。 最後に、
「怠け者の医師」効果として知られる現象があります。医師が診断と治療にAIアルゴリズムのみを独占的に使用する場合、これは実践的なスキル、知的創造性、および医療問題を解決する能力の漸進的で不可逆的な喪失をもたらす可能性があります。 しかし、人々は 日常生活におけるチャットボットに慣れてしまいました。
最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？ 彼らに加わりましょう。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
Florence Muchai
フローレンスは過去6年間、暗号資産、ゲーム、テクノロジー、AIに関するニュースを報道してきました。メルウ科学技術大学でのコンピュータ学およびMMUSTでの災害管理と国際外交の学習により、言語能力、観察力、技術スキルを十分に備えています。フローレンスはVAPグループで勤務し、複数の暗号資産メディアハウスで編集者として活躍しました。
