Grok AIの米国政府における役割をめぐり倫理的な懸念が高まる

イーロン・マスク氏の政府効率化局（DOGE）は、連邦政府機関全体に彼のGrok AIチャットボットの改良版をひっそりと展開し、プライバシー侵害や利益相反の可能性について警鐘を鳴らしている。.

ロイター通信は DOGE内部の情報筋3人を引用し、同チームはGrokを使用して機密性の高い政府のデータを精査・分析し、従来の方法を上回るスピードでレポートや洞察を生成していると語った。

DOGEはGrok AIの動きで倫理に違反している

3人の関係者によると、DOGEのエンジニアは、データレビューの高速化とレポート作成の自動化を目的として、マスク氏のxAIが2023年後半に立ち上げたチャットボット「Grok」にカスタムパラメータをインストールしたという。.

「政府のデータセットを入力し、複雑な質問をすると、即座に概要が得られます。」

インサイダー。.

別の内部関係者は 、このツールが正式な機関承認を受けていないにもかかわらず、DOGEのスタッフが国土安全保障省職員に内部分析にGrokを使用するよう奨励していたと付け加えた。

Grokにアップロードされた機密情報や個人をdentできる情報が具体的に何なのか、また連邦政府の記録に基づいてどの程度訓練されているのかは不明です。もし機密情報が含まれていた場合、この手法は連邦プライバシー法や利益相反規則に抵触する可能性があります。.

倫理と技術の専門家5人は、このようなアクセスによってマスク氏の会社が非公開のtracデータに関する不相応な洞察を得る可能性があり、さらには私的利益のためにGrok自体を改良するのに役立つ可能性があると警告している。.

理論上、機密dent政府データセットで学習されたAIモデルは、厳格な法的保護措置を経る必要があります。データ共有プロトコルには通常、不正な開示を防ぐための複数の承認と監視が含まれます。.

こうしたチェックを回避することで、DOGE は何百万人ものアメリカ人の個人情報を公開するリスクを負い、競合他社が入手できない現実世界の情報の山を xAI に渡すことになります。.

DOGEは、その使命は無駄、詐欺、そして不正行為を根絶することだと主張している。国土安全保障省の広報担当者は ロイター通信 に対し、DOGEが職員に対し特定のツールの導入を強制したことは一度もないと述べた。

「効率性を重視しています」と広報担当者は述べた。しかし、2人の情報筋は、データ漏洩の懸念から国土安全保障省（DHS）がすべての商用AIプラットフォームを突然ブロックした後も、ここ数週間、DOGEの代表者がDHSの各部署に対し、移民案件分析から予算予測に至るまでの様々な業務でGrokの試験運用を強く求めてきたと反論している。.

現在のDHSの方針では、職員は非機密扱いの非dent業務にのみ商用チャットボットを使用でき、機密性の高い記録はDHS特製のAIが処理します。しかし、ChatGPTなどが5月に無効化された際、DOGEの進歩は法的にグレーゾーンで起こりました。DHS社内のボットは稼働し続けましたが、Grokは正式に導入されませんでした。.

マスク氏は管理を集中化するためにDOGEを使用しているのでしょうか?

DOGEの影響力は国土安全保障省（DHS）にとどまらず、国防総省のネットワークにも及んでおり、約12人のアナリストが第三者のAIツールによって活動が監視されていると知らされたと報じられている。国防総省の広報担当者はDOGEがAIの導入を指示したことを否定しているが、 ロイター 、そうではないことを示唆している。

批評家たちは、これらの動きはAIを活用して官僚機構を集中管理し、その結果生じるデータの流れを収益化するというマスク氏のより広範な戦略を示すものだと見ている。.

「明らかに私利私欲が働いているようだ」

政府倫理学の教授、リチャード・ペインター氏。.

ために意思決定に影響を与えることを禁じる刑法に違反している可能性がある 私的な利益の

議論の中心となっているのは、GrokがX上の一般向けチャットボットとして、そして政府のファイアウォール内部の実験的な分析エンジンとして、二重の役割を果たしている点だ。xAIのウェブサイトでは、ユーザーインタラクションが「特定のビジネス目的」で監視される可能性さえ示唆されており、連邦政府からのあらゆる問い合わせがGrokの学習ループにフィードバックされる可能性があることを示唆している。.

の2人が DOGEの職員で、AIイニシアチブの多くを主導してきた。彼らはコメントを拒否したが、彼らの取り組みは一定のパターンに合致している。過去1年間で、DOGEは何千人ものキャリア官僚を解雇し、機密データベースを掌握し、官僚機構改革のための究極のツールとしてAIを推進してきた。

プライバシー擁護者は、審査を受けていない AI を重要な国家安全保障環境に統合することは、データ漏洩、個人dentの盗難、外国の敵対者による搾取につながると警告しています。.

「これはプライバシーに対する最も深刻な脅威だ」と監視技術監視プロジェクトのアルバート・フォックス・カーン氏は言う。.

また、透明性がほとんどなく、ガードレールもほとんどないため、国民が認識するかどうかにかかわらず、DOGE の AI 実験によって連邦政府のデータ ガバナンスが再編される可能性があるという懸念もあります。.