OpenAIのサム・アルトマン氏、国家主体が生物兵器開発のためにAnthropicを乗っ取ったことを受け、AI開発競争の抑制を呼びかけ
UnsplashのSolen Feyissaによる写真。
- サム・アルトマン氏は今週、OpenAIのスタッフに対し、競合他社が最先端AIの開発を減速させるのであれば、同社も開発ペースを落とすことを検討していると述べた。.
- Anthropicは、国家とつながりのある科学者たちが、生物兵器開発を支援する可能性のある研究にクロードを利用しようとしたと報告した。.
- カリフォルニア州とワシントン州の議員たちは、大手AI研究所が内部の安全対策に関する反発や新規株式公開（IPO）の可能性に直面する中、強制的な規制について議論を交わしている。.
OpenAIのスタッフは今週、AI研究所がAIの最先端分野における研究開発のペースを緩める可能性もあると伝えられた。サム・アルトマン氏は、同様の提案をAnthropicを含むAIの競合企業にも行った。Anthropicもまた、国家機関と関係のある科学者が同社のClaudeモデルを生物兵器研究に利用しようとしたことを暴露した報告書の中で、AI開発に伴うリスクを認めている。.
OpenAIは、安全上の懸念から、既に一部の社内トレーニングを一時停止し、モデル開発の一部を緩和したと発表した。.
相次ぐ情報開示は、業界が 新規株式公開に向けて急ぎすぎている、と両社は引き続き示唆している。
アルトマンはなぜAI開発のペースを遅らせたいのか？
OpenAIの最高経営責任者であるサム・アルトマン氏は、全社的な会議で、同AI研究所が他の同意を得た研究所とともに、最先端モデルのリリースペースを遅らせる可能性があることを出席者に伝えた。.
ブルームバーグが引用した情報筋によると、アルトマン氏は、こうした取り決めは任意であるため、すべての企業がこの計画に賛同するとは限らないと認めた。.
こうした懐疑的な見方にはdentがある。3年前の2023年3月、イーロン・マスク、スティーブ・ウォズニアック、その他1000人以上が、高度なAI開発を6ヶ月間停止するよう求める公開書簡に署名した。.
当時報道されたように、研究所は共同で合意した一時停止措置を実際には履行しなかった。
AIのリスクに関する警告は、OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏が9月6日に投稿した記事でも示されており、同氏はAI企業に対し「必要に応じて今後の開発を遅らせる」よう連携を求めている。パチョツキ氏は、自主的な開発減速が「共通の安全基準が確立されるまで一般的になる」ことを期待していると述べた。
アルトマン氏は7月、AI開発を抑制する必要性についてホワイトハウス関係者に伝えたと述べた。アルトマン氏は以前、アントロピック社のCEOであるダリオ・アモデイ氏とともに、 AIは社会規模の絶滅リスクであると宣言する一行の声明にも署名している。
AIモデルは生物兵器の開発に利用できるのか？
AIモデルは、生物兵器研究を支援できる段階にまで進歩している。つい先日、OpenAIは、議論の余地はあるものの、自社のモデルがナビエ・ストークス方程式の問題を解決したと発表した。.
アントロピック研究所が 154ページに及ぶ脅威情報報告書は、研究者たちがクロードの能力を利用して生物兵器開発を支援しようとした事例を5つ詳細に記しており、この議論に新たな材料を提供した。
アントロピック社は、「支援を受けていない地域」からの試みは、位置情報の制限を回避し、研究の目的を偽装しようとするものだったと述べた。同研究所は該当アカウントを削除したと発表したが、国名や機関名は明らかにしなかった。.
AIのリスクは、もはやメリットを上回ってしまったのだろうか？
これらの報告は、研究所内部からの一連の警鐘が鳴り響く中で届いた。9月8日、研究者のジェイコブ・コックスン氏は辞職し、 OpenAIとAnthropic の両社を「我々の命を賭けている」と非難。同僚たちは、この技術が「今世紀末までに我々全員を死に至らしめる可能性がある」と考えており、2030年までに人類が絶滅する可能性があると警告していると述べた。
彼の投稿は1億5000万回以上閲覧された。その2日後の9月10日、AnthropicとGoogleのDeepMindの元従業員らが同様の懸念を表明し、より一層の透明性を求めた。.
7月下旬に提出された、AI開発のペースを遅らせるための仕組みを作ることを求める請願書には、主要なAI企業に所属する1000人以上の従業員から署名が集まった。.
OpenAIは現在、テスト、dent した評価、サイバーセキュリティ、dent 報告を網羅する、能力に基づいた義務的な安全規則を議会に求めている。「AIによって加速されるAI開発の見通しは、自主的な取り組み以上のものを要求する」と、最高グローバル担当責任者のクリス・レハネ氏は述べている。.
カリフォルニア州が先陣を切った。ギャビン・ニューサム知事は水曜日、AIを活用した生物学的脅威から身を守ることを目的とした関連法案であるAB 1864とともに、SB 813とAB 1405に署名した。.
ワシントンでは、バーニー・サンダース上院議員が高度なAIの開発を一時停止し、人工超知能を禁止する法案を提出し、 BBCに対し 、科学者の警告を無視する者は「愚か者」だと述べた。
ドナルド・トランプdent はこれに反論し、木曜日に「もし我々がAIで勝てなければ、非常に不利な立場に置かれることになるだろう」と懸念を表明した。
最も賢い暗号通貨マインドを持つ人々はすでに私たちのニュースレターを読んでいます。参加してみませんか？ぜひ ご参加ください。
よくある質問
サム・アルトマンはOpenAIの従業員に何と言ったのか？
今週開催された全社ミーティングで、アルトマン氏は、OpenAIは最先端のAI開発のペースを落とす可能性があり、他の主要な研究所と連携するかもしれないと述べたが、一部の企業はこれに同意しないかもしれないとも付け加えた。.
アントロピック社の脅威報告書は、生物兵器についてどのようなことを明らかにしたのか？
アントロピック社の154ページに及ぶ報告書は、研究者（中には国家機関に所属する者も含まれる）が生物兵器開発を支援する可能性のある方法でクロードを利用した5つの事例を詳述しており、その中には軍事研究所に関連したチクングニア熱の研究も含まれている。同社は関係するアカウントを停止した。.
議員たちはAIの安全性に関する懸念にどのように対応しているのか？
カリフォルニア州のギャビン・ニューサム知事は水曜日、AIによる生物学的脅威を標的とした法案を含む、複数のAI規制法案に署名した。一方、バーニー・サンダース米上院議員は、高度なAIの開発を一時停止し、人工超知能を禁止する法案を提出した。.
免責事項。 提供される情報は取引アドバイスではありません。Cryptopolitan.com Cryptopolitan、 このページで提供される情報に基づいて行われた投資について一切の責任を負いません。tronお勧めしますdent 調査や資格のある専門家への相談を
ハンナ・コリモア
ハンナは、暗号資産分野で10年近くにわたりブログ執筆やイベントレポートに携わってきたライター兼エディターです。Cryptopolitan Cryptopolitan、ニュースページに記事を寄稿し、 DeFi、RWA、暗号資産規制、AI、最先端技術産業における最新の動向をレポート・分析しています。アーカディア大学で経営学の学位を取得しています。.
