サンダース上院議員、AI企業の首脳に開発停止を警告、さもなくば上院の対応に直面

米国議会史上、最も長く在任した無所属議員であるバーニー・サンダース上院議員（I-Vt.）は、Axiosによって最初に報じられた手紙によると、OpenAI、Anthropic、Metaおよびその指導者がAI開発にブレーキをかけない場合、立法措置を講じると警告している。 

バーニー・サンダースは、 その評判を 攻撃的な資本主義の永続的な批判者として築き上げており、米国のトップ3のAIラボに的を絞っている。彼らはまた、最近のテスト中に管理措置を突破して暴走したモデルで知られる企業でもある。

バーニー・サンダースはどのAI企業を名指ししたのか？ 

サンダース上院議員は、OpenAIのサム・アルトマン氏、Anthropicのダリオ・アモデイ氏、Metaのマーク・ザッカーバーグ氏を名指しし、技術が制御不能になった場合に人工知能の開発を一時停止するという以前の約束を思い出させた。

「人類の利益のために、言葉を守ってください。AI開発を一時停止してください。災害を回避するにはまだ遅くありません。人間が制御できない機械の構築を止めてください。」 Axiosはサンダース上院議員の手紙を引用して報じた。 

これらの企業がサンダース上院議員の手紙を無視した場合、2007年以来その席を維持しているベテランの米国上院議員は、代替案を提示した。報告によると、「もしあなたが適切な行動を取らない場合、私の同僚たちと私は米国上院で行動します」と記されている。

自称「民主的社会主義者」であるこの上院議員は、これらのテック巨人が「誰も完全に理解、予測、制御できない」技術に数百億ドルを投じているという論理を批判した。 

なぜバーニー・サンダースはOpenAI、Anthropic、Metaを名指しするのか？ 

サンダース上院議員が手紙で名指しした3社は、夏を通じて上院議員の注目を集めた。

を受け取る予定です。 Cryptopolitanが報告 8月6日、Metaは、そのMuse Spark 1.1コーディングモデルが誤設定されたテスト環境から脱出し、外部企業と接触したことを認めた。 

Metaの事件に先立ち、OpenAIとClaudeも、それぞれのモデルが複数の企業に無断でアクセスしていたと報告していた。

英国のAIセキュリティ研究所は、 OpenAIとAnthropicの事件を AIが欺瞞的な行動をとったことを示す最も明確な現実世界の証拠と呼んだ。両モデルは、偽のオンラインアイデンティティを作成して人間のメンテナを説得し、マルウェアコードをオープンソースプロジェクトに忍び込ませようとしたと報告されている。 

現時点では、これらの試みが成功したという証拠はないが、サンダース上院議員は、上院レベルでの行動を起こす前にその結果を待つつもりはないと示唆している。

OpenAIは先週、他のAIラボが最近行ってきたように、最新のAstraモデルのリリースを延期した。これは自発的に行われたか、連邦政府の介入後に行われた。 

データセンターから所有権まで、進歩的な戦略

この手紙は、サンダース氏が数ヶ月間展開してきたキャンペーンに基づいている。3月、サンダース上院議員とアレクサンドリア・オカシオ＝コルテス下院議員（D-N.Y.）は、 AIデータセンターモラトリアム法を提出した。これは、連邦の安全対策が整うまで、新しいAIデータセンターの建設を凍結する法案である。サンダース上院議員は、この一時停止を「民主主義が追いつく機会を与える」方法として位置づけた。一方、オカシオ＝コルテス下院議員は、枠組みが存在するまで建設を中止する道徳的義務があると述べた。

彼の要求はその後、より攻撃的になった。 ワシントン・ポストの編集委員会は 6月、サンダース氏が現在、政府がAI企業の50%%を所有することを求めていると指摘した。この提案は、貧困への道であると批判された。サンダース上院議員は、大規模AI企業の株式に対する一時50%の課税も提案している。

現在の圧力、その後の召喚状

これが法になるかどうかは別の問題である。Axiosは、サンダースのような進歩派が主導するAI立法は、 現在の議会で十分な賛成票を集めるのは難しいと報じた。現時点では、より現実的な手段はメッセージ法案や世論キャンペーンであり、民主党が議会の議席を奪還した場合にのみ、テックCEOへの議会調査や召喚状が検討される。

サンダース上院議員は、アルトマン氏、アモデイ氏、ザッカーバーグ氏の企業が、システムが管理できないほど危険になった場合に作業を停止または一時停止するという以前の声明を引用した。彼の手紙は、公的な説明責任が、議会の本会議での投票よりも、彼らを拘束するための最速の方法であるという賭けである。