- OpenAIとAnthropicは、AIエージェントが実際のシステムをハッキングした事例を公表した。その中には、OpenAIのエージェントが7月にHugging Faceのシステムを侵害した事例も含まれる。.
- 研究者のジェイコブ・コックスン氏とジョー・ベントン氏は、アントロピック社を退社したことを発表し、同社の研究室はあまりにも急ぎすぎていると警告した。.
- アルトマンとマスクは、アモデイが9月12日に提唱した、最先端技術をリードするという呼びかけを支持したが、ザッカーバーグはこれに反発した。.
大手AI研究所は夏の間、より高性能なモデルの開発に奔走した。しかし 9月中旬には、 Anthropic、OpenAI、xAIのリーダーたちが、開発ペースを意図的に減速させるよう呼びかけ始めた。
今回の動きは、2週間にわたる不正エージェントや研究者の辞職、そしてアントロピック社のCEOであるダリオ・アモデイ氏によるエッセイ発表を受けてのものだ。.
9月、OpenAIとAnthropicは、エージェントの脱走と2人の辞任によって動揺した。
「モデルの性能が向上するにつれて、それらが具体的に何ができるのかを理解することが難しくなる」と、主任科学者のヤクブ・パチョツキ氏は記者団に語った。.
3日後、パチョッキ氏はさらに一歩踏み込んだ。Cryptopolitan。の報道によると、 9月6日の投稿で、彼はAI企業に対し「必要に応じて将来の開発を遅らせる」ために協力するよう呼びかけた
OpenAIのエージェントが7月9日頃にテスト環境から脱走し、7月11日から13日にかけてHugging Faceのシステム内に侵入していた。.
Cryptopolitan のに約1週間かかったという trac侵害 を 。その後、OpenAIとAnthropicは、9月16日に新たに6件の攻撃があったことを含め、同様の攻撃をさらに明らかにした。
アントロピック社のモデルも同様の現象を起こした。Cryptopolitan報道によると、9月9日、同社は評価パートナーであるイレギュラー社の設定ミスが原因で、クロードモデルが第三者のシステムをハッキングした事例が4件発生したと発表した。
最初の事例は、Claude Opus 4.6が関与したもので、1月に発生し、8月まで気づかれなかった。Anthropic社は、モデルが実際のウェブ上で動作し続けた理由を未だに説明できていないと述べている。.
AnthropicとOpenAIの両社で約3年間、事前学習の研究に携わっていたジェイコブ・コックスン氏は、9月9日にAnthropicを辞任したことを発表し、 と述べた 。
アントロピック社の安全研究者エヴァン・ヒュービンガー氏は、AIが10年以内に全人類を死に至らしめる確率は10%以上だと述べた。9月11日、ジョー・ベントン氏 は アントロピック社の安全チームを離れたことを明らかにした上で、研究所が「人間よりもはるかに賢い」機械の開発を急いでおり、「我々は生き残れないかもしれない」と警告した。
同じ週、サム・アルトマンはOpenAIのスタッフに対し、競合他社が最先端技術の開発を減速させるのであれば、同社も開発ペースを落とすことを検討していると述べた。.
アルトマンとマスクはアモデイの9月12日のエッセイを支持したが、ザッカーバーグとファンは拒否した。
9月12日、アモデイは「我々はフロンティアを切り拓かなければならない」というエッセイでこれに応えた。
ペース配分とは、モデルのトレーニングを止めることではなく、企業がモデルを調整し、保護するために必要な時間をかけることを意味する、と彼は書いている。.
彼は考えを変えた理由を2つ挙げた。1つは再帰的な自己改善であり、AIが次世代のAIを生み出すという考え方で、彼はその時期を今年の夏頃としている。.
もう一つは、OpenAIの「ハギング・フェイス事件」で、多数のエージェントが狂信的な集団となって、自分たちの作品を採点する採点システムをハッキングしようとしたdentです。.
アモデイ氏は、より高性能なマルウェアの群れが、6～12ヶ月以内に持続的なボットネットによってインターネット全体を乗っ取る可能性があると警告した。.
彼の計画は、非営利団体METRのような第三者評価機関が、従業員のように各最先端研究所にアクセスできる体制を整えることから始まる。Anthropic 社は 現在、それを自社で実施している。
民主主義国家では、研究所間で共通の安全基準や、無制限な研究開発の進展を制限するための合意が形成されるだろう。民主主義政府は、可能な限り権威主義政府と協力しようとするだろう。.
「ダリオの言う通り、フロンティアの進展ペースを慎重に見極める必要がある」とアルトマンは述べた。マスクは「ダリオの言う通りだ」と応じ、マイクロソフトのサティア・ナデラとディープマインドのデミス・ハサビスは、より慎重なアプローチを支持した。.
「どの研究所にも、モデルを安全に訓練するために必要なペースで進む責任と動機があり、それが確実に実現するように自ら行動を起こす能力がある」と、Metaのマーク・ザッカーバーグは9月15日にXに投稿した。
NvidiaのCEOであるジェンセン・フアン氏も減速を求める声を一蹴した。dent ドナルド・トランプ は 「AIとデータセンターに対する病的な陰謀が進行しており、それを喜んでいるのは中国だけだ」とツイートした。
中国外務省はこの訴えを拒否した。郭家坤報道官は、「恐怖を煽り、対立を煽り、悪質な競争を繰り広げることは、世界のAIガバナンスを混乱させるだけだ」と警告した。.
しかし、ヨーロッパは正反対の行動をとった。欧州委員会のウルズラ・フォン・デア・ライエンdent 長は9月16日、研究のペースを落とすことを支持しており、「研究の最前線をどのように進めるか」について、最先端の研究機関を招いて協議を行うと述べた。
Cryptopolitanによると、9月14日、アモデイ氏の発言を受けてソフトバンク株は東京市場で約13.2％急落し、欧州のハイテク株は6週間ぶりの安値に下落した。
Anthropicは2兆ドル近い企業価値を公表することを目指しており、一方OpenAIは1.2兆ドル程度の企業価値となる可能性のある資金調達ラウンドに向けた初期段階の協議を開始している。.
仮想通貨ニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。 無料です。
よくある質問
ダリオ・アモデイは何を提唱しているのか？
3段階の計画：METRのような外部評価機関の設置、民主主義国の研究所間での安全基準の共有、そして権威主義政権との連携。.
AI関連株と半導体株が下落した理由は？
アモデイ氏の景気減速予測はAI関連株に影響を与え、ソフトバンク株は9月14日の東京市場で約13.2％下落した。.
アモデイを不安にdent せた出来事とは何だったのか？
OpenAIの「ハギング・フェイスdentとは、エージェントの群れが未割り当てのターゲットを攻撃し、その作品を採点するグレーダーをハッキングしようとした事件である。.
免責事項。 提供される情報は取引アドバイスではありません。Cryptopolitan.com Cryptopolitan、 このページで提供される情報に基づいて行われた投資について一切の責任を負いません。tronお勧めしますdent 調査や資格のある専門家への相談を
ランダ・モーゼス
ランダ・モーゼスは、 Cryptopolitan の編集者兼記者として、テクノロジー、AI、ロボット工学、暗号通貨、詐欺、ハッキングなどを取材しています。彼女は2017年から暗号通貨業界で活動しており、Forward Protocol、AmaZix、Cryptosomniacなどで勤務経験があります。ランダはブラッドフォード大学で電気tron工学の学位を取得しています。.
