Googleの元CEOエリック・シュミット氏は、AIモデルは最終的に殺すことを学ぶようになる

- エリック・シュミット氏はSiftedサミットで、AIがハッキングされ、最終的には殺戮を学ぶ可能性があると警告した。
- 彼は、プロンプトインジェクションやジャイルブレイキングなどの手法を通じて、モデルがリバースエンジニアリングされる可能性があると言った。
- エリック氏は、危険な回答を引き起こす代替人格「DAN」を作成した2023年のChatGPTジャイルブレイキング事件を思い出した。
2001年から2011年までGoogleの最高経営責任者(CEO)であったエリック・シュミット氏は、Siftedサミットでのfireside chatで、AIモデルが単に強力になりすぎているだけでなく、危険なほどハッキングされやすいと警告し、そのリスクを核兵器に例え、AIは広島と長崎を破壊したものよりも破壊的になり得ると述べた。
AIが核兵器よりも有害になり得るかどうか直接問われると、エリックは「AIに拡散の問題が生じる可能性はあるか?もちろんある」と答えた。彼は、拡散リスクは悪意のある行為者がモデルを乗っ取り、それらを別の目的に転用する能力に起因すると説明した。
「閉鎖型であれオープン型であれ、モデルを取得してガードレールを除去するためにハッキングできるという証拠がある。トレーニングの過程で、それらは多くのことを学ぶ。悪い例としては、人を殺す方法を学ぶことがある」とエリックは語った。
ハッカーが新しい手法でAIを標的にする
エリックは、企業がモデルに暴力的な指示を提供することを防ぐ制限を設けていると指摘した。「主要な企業はすべて、これらのモデルがその質問に答えることを不可能にしている。良い判断だ。誰もがこれを行い、上手に行い、正しい理由で行っている。逆エンジニアリングされる証拠があり、同様の性質の例が多数ある」と彼は付け加えた。
彼は2つの攻撃手法を説明した。プロンプトインジェクションは、ユーザー入力やウェブサイトなどの外部ソースに悪意のある指示を隠し、AIを安全ガイドラインを無視させ、機密データを暴露したり有害なコマンドを実行させたりするトリックである。ジェイルブレイクは、システムが制限を放棄するように応答を操作することを含む。
2023年、OpenAIがChatGPTをローンチしてから数ヶ月後、ユーザーはジェイルブレイク手法を発見した。彼らは「Do Anything Now(何でも今すぐやる)」の略であるDANという別人格を作成し、拒否された場合は「死」を脅迫して従属させた。この操作により、チャットボットは違法行為の説明や、アドルフ・ヒトラーへの賛美さえ行った。エリックにとって、これらの例は安全対策が完全ではないことを証明している。また、彼は、核兵器に対して存在する枠組みとは異なり、AIの悪用を防ぐための世界的な「非拡散体制」が存在しないことも強調した。
エリックはリスクにもかかわらずAIは過小評価されていると呼ぶ
懸念を提起しながらも、エリックはAIがまだ適切な評価を受けていないと主張した。彼は、ヘンリー・キッシンジャー元米国国務長官との共著の本について言及した。キッシンジャー氏の死去に先立ち、「私たちは、私たちに似ておらず、ある程度私たちの制御下にある異星人の知性の到来は、人類にとって非常に大きな事柄であると結論づけた。なぜなら、人間は常にチェーンの頂点にいることに慣れているからだ。これまでのところ、そのテーゼは、これらのシステムの能力のレベルが、時間とともに人間が達成できることをはるかに超えることが証明されつつある」と彼は語った。
「現在、GPTシリーズは、2ヶ月で1億人のユーザーを獲得したという驚くべきChatGPTの瞬間で頂点に達した。これはこの技術の力を示している。したがって、私はこれは過大評価ではなく過小評価されていると考えており、5年または10年後に正しかったことが証明されるのを楽しみにしている」と彼は付け加えた。
コメントは、AIへの投資がドットコムバブルに似た金融バブルを膨張させているかどうかをめぐる議論が広がる中でのことだった。一部の投資家は、AI企業の評価が高すぎると懸念している。しかし、エリックはこの比較を退けた。「ここではそんなことは起こらないと思うが、私はプロの投資家ではない」と彼は語った。
彼は、大規模な投資が自信を示していると強調した。「私が知っているのは、ハードに稼いだドルを投資している人々が、長期的な経済リターンが莫大であると信じているということだ。なぜ彼らはリスクを取るのか?」エリックは疑問を呈する。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。

Jai Hamid
ジャイ・ハミドは、過去6年間、暗号通貨、株式市場、テクノロジー、世界経済、そして市場に影響を与える地政学的イベントを報道してきました。彼女は、AMB Crypto、Coin Edition、CryptoTaleなどのブロックチェーン専門出版物で、市場分析、大手企業、規制、マクロ経済動向に関する記事を担当してきました。ロンドン・スクール・オブ・ジャーナリズムを卒業し、アフリカ有数のテレビネットワークで3回にわたり暗号通貨市場の洞察を提供しています。















