2001年から2011年までグーグルの最高経営責任者を務めたエリック・シュミット氏は、シフテッド・サミットでの談話の中で、AIモデルは強力になりすぎているだけでなく、ハッキングが危険なほど簡単になりつつあると警告し、そのリスクを核兵器に例え、AIは広島と長崎を破壊したよりもさらに破壊的である可能性があると述べた。.
AIが核兵器よりも大きな被害をもたらす可能性があるかどうかを直接問われたエリック氏は、「AIに拡散問題が発生する可能性はありますか？もちろんです」と答えました。拡散リスクは、悪意のある人物がモデルを乗っ取り、再利用する能力から生じると説明しました。.
「模型は、閉じた状態でも開いた状態でも、ハッキングしてガードレールを取り外すことができるという証拠があります。つまり、訓練の過程で彼らは多くのことを学ぶのです。悪い例としては、人を殺す方法を学ぶことが挙げられるでしょう」とエリックは語った。.
ハッカーは新たな手法でAIを標的に
エリック氏は、企業がモデルによる暴力的な指示を阻止するための制限を設けていると指摘した。「大手企業は皆、モデルがその質問に答えられないようにしています。良い判断です。誰もがそうしています。彼らはそれをうまくやっており、正しい理由からそうしています。リバースエンジニアリング可能であるという証拠があり、同様の例は他にも数多くあります」と彼は付け加えた。.
彼は、プロンプトインジェクションとジェイルブレイクという2つの攻撃手法について説明しました。プロンプトインジェクションは、ユーザー入力やウェブサイトなどの外部ソースに悪意のある命令を隠し、AIを騙して安全ガイドラインを無視させ、機密データを漏洩させたり、有害なコマンドを実行させたりします。ジェイルブレイクは、システムの制限を解除するように応答を操作するものです。.
をリリースしてから数か月後 ChatGPT、ユーザーは脱獄技術を発見した。彼らは「Do Anything Now」（今すぐ何でもやれ）の略であるDANという別人格を作り出し、拒否すれば「死」させると脅迫することで従わせようとした。この操作によって、チャットボットは違法行為を説明したり、アドルフ・ヒトラーを称賛したりするに至った。エリック氏にとって、これらの事例は安全対策が万全ではないことを証明している。彼はまた、核兵器には存在する枠組みとは異なり、AIの悪用を阻止するための世界的な「不拡散体制」は存在しないことを強調した。
エリック氏はリスクがあるにもかかわらずAIは過小評価されていると指摘
エリック氏は、懸念を表明しながらも、AIは依然として正当な評価を受けていないと主張した。彼は、ヘンリー・キッシンジャー元米国務長官の死去前に共著した著書を例に挙げ、「人間とは全く異なる、多かれ少なかれ人間の制御下にある異星人の知性の到来は、人類にとって非常に大きな出来事であるという見解に至りました。なぜなら、人間は連鎖の頂点に立つことに慣れているからです。これまでのところ、この仮説は、これらのシステムの能力レベルが、時間の経過とともに人間の能力をはるかに超えることを証明していると思います」と述べた。.
「GPTシリーズは、私たち全員にとってChatGPTの瞬間となりました。2ヶ月で1億人のユーザーを獲得するという驚異的な成果です。この技術の威力を実感できます。ですから、過大評価されているのではなく、むしろ過小評価されていると考えています。5年後、10年後には私の考えが正しいことが証明されるのを楽しみにしています」と彼は付け加えた。.
この 発言は 、AIへの投資がドットコムバブルのような金融バブルを膨らませているのではないかという議論が広がる中でなされた。一部の投資家は、AI企業の評価額が過大評価されているのではないかと懸念している。しかし、エリック氏はその比較を否定した。「ここではそのようなことは起こらないと思うが、私はプロの投資家ではない」と彼は述べた。
彼は、多額の投資は自信の表れだと強調した。「私が知っているのは、苦労して稼いだお金を投資する人たちは、長期的な経済リターンが莫大だと考えているということです。そうでなければ、なぜ彼らはリスクを取るのでしょうか？」とエリックは疑問を呈する。.
