従業員が OpenAI と Google DeepMind が AI のリスクを隠していると主張 

OpenAIとGoogle DeepMindの現職および元従業員数名は、両社が人間の絶滅を招く可能性のあるAIのリスクを隠蔽していると非難しました。公開書簡の中で、労働者たちはAI企業が利益を優先し、「効果的な[政府的]監督」を回避していると主張しました。

関連記事: OpenAI、GPT-4の後継者を安全上の懸念を背景に準備

公開書簡は、OpenAIの元従業員11名、Google DeepMindの2名が署名し、かつてGoogleに所属していた「AIの父」と呼ばれるジェフリー・ヒントンが支持しました。書簡は、利益動機と規制の抜け穴により、企業が先進的な人工知能がもたらす脅威を隠蔽できると指摘しました。

AIは「人間の絶滅」をもたらす可能性がある

書簡によると、OpenAIやGeminiの作成者であるGoogle DeepMindなどのAI企業は、必要な要件がないため、システムの不十分な保護策とリスクレベルに関する情報を公に共有していません。

規制当局の監督がない場合、AIプログラムは人間に重大な害を与える可能性があります。従業員たちは警告しています：

「これらのリスクは、既存の不平等のさらなる固定化から、自律型AIシステムの制御喪失に至るまで多岐にわたり、その結果、人間の絶滅をもたらす可能性があります。」

書簡の署名者が指摘したように、AI企業自体がこれらのリスクを認めています。2023年5月、OpenAI、Anthropic、Google DeepMindのCEOは、Center for AI Safetyによる公開書簡に共同署名しました。書簡は単に、「AIによる人類の絶滅リスクの軽減は、パンデミックや核戦争などの社会的規模のリスクと並んで、世界的な優先事項であるべきです」と述べていました。

AI企業は、安全性とセキュリティよりも新規製品と利益を優先しているとして、注目を集めています。ChatGPTの開発元であるOpenAIは、書簡で提起された懸念に言及し、安全な人工知能の開発に取り組んでいると述べました。

「私たちは、最も能力が高く、最も安全なAIシステムを提供してきた実績を誇りに思い、リスクに対処するための科学的アプローチを信じています」と、OpenAIの spokespersonであるリンジー・ヘルドはニューヨーク・タイムズに語いました。

「この技術の重要性を考慮すれば、厳格な議論が不可欠であることに同意します。私たちは世界中の政府、市民社会、その他のコミュニティと引き続き対話していきます。」

内部告発者は報復を恐れる

元OpenAIおよびGoogleの従業員たちは、規制当局がAI開発者にプログラムに関するより多くの情報を公に開示することを義務付ける法律を策定している間、監督の役割を果たしたいと考えています。

しかし、秘密保持契約や雇用主による報復の可能性が、労働者が懸念を公に表明することを妨げています。書簡によると：

「業界全体でこのような事例の歴史を考慮すると、私たちは合理的にさまざまな形態の報復を恐れています。私たちは、これらの問題に直面したり、これらについて語ったりした最初の人間ではありません。」

内部告発者は米国では法律で保護されていますが、人工知能の危険性について発言する人々は、技術がまだ規制されていないため、保護の対象外です。

関連記事: EUデータ監視機関：ChatGPTは依然として誤情報を拡散

書簡は、AI企業に対し、検証可能な匿名のフィードバックを容易にし、オープンな批判の文化を支援し、内部告発者に対して報復を行わないよう呼びかけました。

AI研究者のランス・B・エリオットは、企業が批判に対して「アメとムチ」のアプローチを取ると述べています。リスクに対して声を上げない従業員は、昇進や昇給で報われます。

一方、内部告発者や批評家は株式オプションを失い、会社から追放され、AI指導者コミュニティから静かにブラックリストに載せられる可能性があります。

Cryptopolitan によるレポート：ジェフリー・ゴゴ