イーロン・マスクの社会保障AI計画は大きな問題を引き起こしている

金曜日、社会保障局はChatGPTスタイルの新しいチャットボット「Agency Support Companion」を導入しました。このツールは、職員の日常業務を支援し、生産性を向上させることを目的としていました。しかし、職員からは「ほとんど機能していない」という声が上がっており、導入の不備から、アメリカ最大の社会福祉機関にとって自動化が正しい道なのかどうか疑問視する声が上がっています。.

ここ数ヶ月、マスク氏の組織（内部では DOGE、人員削減と予算削減によって連邦政府機関を積極的に縮小してきた。「AIファースト」モデルへの推進は、可能な限り人間の労働者をソフトウェアに置き換えることを目的としている。Wired 報道 と、この戦略の一環として、新たなチャットボットが政府機関職員の日常業務に組み込まれ、業務負担の軽減が期待されている。

社内メールでは「従業員の日常業務を支援し、生産性を高める」手段と説明されていたが、実際にはこのアプリはほとんど注目されていなかった。.

当局関係者によると、今回の導入には、アニメーションが粗雑で4本指の女性が出てくる、ひどく質の悪い研修ビデオが付随していたという。このビデオはアプリの機能の使い方をユーザーに案内するものだったが、機密性の高い個人情報のアップロードに関する注意喚起が欠けていた。この不備により、当局は「研修ビデオの不備をお詫び申し上げます」という内容のフォローアップメールを送信し、従業員にリスクを警告せざるを得なかった。.

SSA AIトレーニングビデオを真剣に受け止めている人はほとんどいない

「同僚のほとんどが研修ビデオを見たかどうかさえ分かりません」と、ある社会保障局職員はWiredに語った。彼らはさらに、チャットボットをテストした際に「返ってきた回答の中には、信じられないほど曖昧なものや不正確なものもあった」と付け加えた。他の職員は、その粗雑なグラフィックを嘲笑したという。「私の知る限り、誰も使っていません。とても不格好で使いにくいです」と情報筋は語った。.

批評家たちは、このつまずいたスタートが、より広範な失敗の前兆となるかもしれないと警告している。.

同様に、ブラジルでは2018年に国営企業Dataprevが、コンピュータービジョンと自然言語処理を用いて社会保障請求を処理するアプリ「Meu INSS」をリリースしました。しかし、このシステムは些細なエラーのために有効な請求を頻繁に却下し、長期にわたる訴訟を引き起こしています。.

一例として、55歳のホセリア・デ・ブリトさん（元サトウキビ農園労働者）の退職申請が、自動システムによる性別dentで却下されたケースが挙げられます。「健康状態など、あらゆることを証明する書類をすべて揃えているのに、それでも（給付金は）却下されるのです。本当に屈辱的です」と彼女はRest of World誌に語りました。.

農村部の農業労働者の多くは基本的なデジタルスキルを欠いており、オンラインサービスへの移行に苦労している。「この辺りの人たちはGmail、Facebook、Instagramさえ使えません」と、バラ・ド・コルダの農村労働者組合のフランシスコ・サンタナdent 語る。「手続きはどんどん自動化されていますが、特に郊外や農村部に住む人々にとって、社会はそれに対応できていません。」

海外でのこれらの障害は、米国にとっての潜在的な落とし穴を浮き彫りにしている.

社会福祉サービスはすでに「近代化」を迫られているが、この動きはトランプ政権のいわゆるテクノクラートのチームの下で始まった。.

マスク氏のDOGEは、連邦政府の労働力を半減させることで、その使命をさらに推し進めている。「機械で自動化できるものはすべて自動化される。そして、テクノクラートが官僚に取って代わるだろう」と、DOGEの計画に詳しい人物はワシントン・ポスト紙に語った。.

DOGE が自動化を重視したことで、効率性よりも混乱が生まれています。.

社会保障庁（SSA）で最近起きたある失態は、その危険性を如実に物語っている。DOGEの職員は「無数の」生存給付受給者を「死亡」とみなし、給付を停止したと報じられている。同庁で長年保険金請求技術アナリストを務めているレニー・グラスゴー氏は、デイリー・ビースト紙の取材に対し、「約400万人を死亡とみなした」と述べた。「彼らは『これらの人々がdent証明書を持って事務所に来れば、受給資格を回復できます』というメールを送ってきた」という。グラスゴー氏によると、この回復手続きには「約3～4日」かかるという。職員がシステム上で受給者一人ひとりを手作業で「復活」させる必要があるためだ。.

DOGEは給付金の停止に加え、 計画 も立てている。関係者によると、この期限を守るため、チームはほぼ間違いなくAIによるコーディングに頼ることになるだろう。しかし、機械生成コードはエラー率が高いため、この手法には厳重な監視が必要となる。

DOGEのこれまでの不安定な実績を考えると、自動化されたシステムへの全面的な trac、 は さらなる混乱を招く可能性がある。

一部の観察者は と疑っている 。批評家たちは、DOGEの目的は真の改革ではなく、社会保障庁（SSA）を不安定化させて民営化への道を開くことだと主張している。もしそうだとすれば、これらの失敗や混乱は、まさにマスク氏のチームが狙っているものなのかもしれない。