Grok AIの米政府における役割をめぐる倫理上の懸念が高まっている

イーロン・マスク氏による政府効率化省（DOGE）は、連邦機関向けに彼のGrok AIチャットボットの改変版を静かに導入しており、プライバシー侵害や利益相反の潜在的リスクを巡って警戒感が広がっている。

Reutersは、DOGE内の3人の情報筋を引用し、チームがGrokを使用して機密政府データを篩いにかけて分析し、従来の方法を超えた速度でレポートと洞察を生成していると言いました。

DOGEのGrok AI導入は倫理規定に違反している

関係者3名の情報によれば、DOGEのエンジニアらは、2023年末にマスク氏のxAIが発表したチャットボット「Grok」の上にカスタムパラメータを構築し、データレビューの加速とレポート作成の自動化を図った。

「政府のデータセットを入力し、複雑な質問を投げかけると、即座に要約が返ってくる。」

インサイダーによる情報。

別の内部関係者は、DOGEスタッフがGrokが正式な機関の承認を得ていないにもかかわらず、内部分析のために国土安全保障省の従業員にGrokの使用を奨励したと付け加えました。

Grokにどの程度機密情報や個人識別情報がアップロードされたか、また連邦記録をどの程度学習データとして使用したかは不明である。もし機密資料が含まれていた場合、この慣行は連邦のプライバシー法や利益相反規則に抵触する可能性がある。

5人の倫理およびテクノロジーの専門家は、このようなアクセスにより、マスク氏の企業が非公開の契約データに対して不均衡な洞察を得たり、Grok自体を私的な利益のために洗練させたりする恐れがあると警告している。

理論的には、機密政府データセットで学習したAIモデルは、厳格な法的保護措置を遵守しなければならない。データ共有のプロトコルには通常、不正な開示を防ぐための複数の承認手続きと監督が含まれる。

これらのチェックを回避することで、DOGEは数百万人の米国民の個人情報を暴露するリスクを負い、競合他社には入手不可能な実世界の情報をxAIに提供することになる。

DOGEは、無駄、詐欺、乱用の根絶がその使命であると主張しています。DHSのスポークスマンはReutersに対し、DOGEがスタッフに特定のツールの採用を圧迫したことはないと言いました。

「私たちは効率性に焦点を当てています」と spokesperson は語った。しかし、2人の情報筋は、最近の数週間でDOGE代表者が、データ漏洩の懸念から商業用AIプラットフォームのすべてを突然ブロックしたにもかかわらず、移民案件の分析から予算予測に至るまで、DHSの部門にGrokの pilots を推進してきたと反論している。

現在のDHSの方針では、従業員は機密性のない非機密作業にのみ商業用チャットボットを使用することができ、機密記録にはDHS独自のAIが対応している。しかし、5月にChatGPTなどが無効化された際、DOGEの進展は法的なグレーゾーンで行われた：内部DHSボットは稼働したままだったが、Grokは正式に導入されなかった。

マスク氏はDOGEを使って管理を集中化しようとしているのか？

DHSを超えて、DOGEの影響力は国防総省のネットワークにも及び、約12人のアナリストがサードパーティのAIツールが彼らの活動を監視していることを報告されたと伝えられています。DoDのスポークスマンはDOGEがAIの展開を指導したことを否定していますが、Reutersが入手した部門のメールやテキストメッセージの交換は、それとは異なることを示唆しています。

批判者は、これらの動きを、AIを活用して官僚機構への支配を集中化し、その結果生じるデータフローを収益化する、マスク氏のより広範な戦略の現れと見なしている。

「自己利益誘導の明確な外観がある。」

リチャード・ペインター（政府倫理の教授）。

もしMuskがGrokの展開を直接命令した場合、彼は自身の私的な利益をもたらす決定に影響を与えることが刑事法規で禁止されているため、刑事法規に違反する可能性があります。

議論の核心には、GrokがX上で一般公開されているチャットボットであることと、政府のファイアウォール内で実験的な分析エンジンとして機能していることの二重の役割がある。xAIのウェブサイトは、ユーザーのやり取りが「特定のビジネス目的」のために監視される可能性を示唆しており、すべての連邦クエリがGrokの学習ループに戻される可能性があることを示している。

DOGEスタッフのKyle SchuttとEdward Coristine（後者はオンラインで「Big Balls」として知られる）は、AIイニシアチブの多くを先導してきました。彼らはコメントを拒否しましたが、彼らの取り組みはパターンに適合しています。過去1年で、DOGEは数千人のキャリア公務員を解雇し、安全なデータベースの管理権を掌握し、官僚制の刷新のための究極のツールとしてAIを提唱してきました。

プライバシー擁護団体は、未検証のAIを国家安全保障の重要な環境に統合することは、データ漏洩、なりすまし、外国の敵対勢力による悪用の原因になると警告している。

「これはあなたが直面しうる最も深刻なプライバシー脅威の一つです」と、サーベイランス・テクノロジー・オーバーサイト・プロジェクトのアルバート・フォックス・カhnは述べている。

また、透明性がほとんどなくガードレールも少ない中で、DOGEのAI実験は、公衆がそれを知っているかどうかにかかわらず、連邦のデータガバナンスを再構築する可能性があるとの懸念もある。