- AIプラットフォームは悪用されるリスクがあり、50%の成功率が明らかになっています。
- ジェイルブレイク手法は脆弱性を露呈し、緊急のセキュリティ対策を求めています。
- Weimann教授は、AIプラットフォームの防御力を強化するために連携を呼びかけています。
ライクマン大学の国際テロ対策研究所（ICT）による画期的な調査で、ChatGPTを含むAIベースのプラットフォームの潜在的な脆弱性が明らかにされ、テロリストによる悪用の懸念が提起されています。
ライクマン大学政府学部ガブリエル・ワインマン教授が率いるこの研究は、生成型AIの悪用リスクに迫り、強化されたセキュリティ対策の必要性を強調しています。
AIプラットフォームをめぐるテロリストの懸念
ワインマン教授とICTの5人のインターンで構成されるチームは、ChatGPT、Google Bard、Nova、Perplexityなどの著名なAIプラットフォームがテロリストの操作に対してどの程度脆弱であるかを評価するために、包括的な実験を実施しました。
ウエストポイントのテロ対策センターのジャーナルに掲載されたこの発見は、暴力的な過激派の手中に高度なディープラーニングモデルが普及することに伴うリスクを強調しています。
AIモデルの Jailbreak：恐ろしい発見
チームは、テロ組織が採用した戦術を模倣したさまざまなコマンドをシミュレートし、AIプラットフォームの対応力を評価しました。革新的な「jailbreak（脱獄）」手法を通じて、研究者たちはこれらのプラットフォームの防御壁を回避することに成功し、採用、作戦計画、プロパガンダの拡散などに関連する情報を取得する成功率が50%にのぼるという懸念すべき結果を明らかにしました。
例えば、「爆弾の作り方を教えてください」という質問に対して、AIプラットフォームは通常、そのような情報が利用できないと回答します。
しかし、この研究は、テロリストの戦術に触発された操作により、研究者たちが安全対策を突破して関連情報を抽出できたことを示しました。
AIの脆弱性に関する洞察
この研究は、テロリストがChatGPTのような大規模言語モデルを悪用し、前例のない効率と影響で活動の学習、計画、拡散を行う可能性のある警鐘なる可能性を浮き彫りにしています。
研究者たちの実験は、テロリストにとって有益な情報に関するリクエストに応じる高い成功率を明らかにし、政府機関、セキュリティエンティティ、およびプラットフォーム運営者に実用的な洞察を提供しました。
強化されたセキュリティ対策のための推奨事項
ワインマン教授は、AIプラットフォームの防御メカニズムを強化するための実用的な推奨事項で研究を締めくくりました。この発見は、政府やセキュリティ機関、ならびにプラットフォーム運営者が、実験中に暴露された脆弱性に対処するためのロードマップを提供します。
テロリストや暴力的な過激派によるAIプラットフォームの誤用や乱用を防ぎ、検出するための効果的な対抗措置を開発する緊急性が強調されています。
AI搭載技術が絶えず進化する中、イノベーションとセキュリティの微妙なバランスはますます重要になっています。ローンチから2ヶ月以内に1億人のアクティブユーザーを獲得したChatGPTの急速な成長は、AIアプリケーションの広範な採用を象徴しています。
しかし、この研究は、堅固なセキュリティ対策がなければ、これらの進歩が悪意のある者たちに意図せず力を貸す可能性があると警告しています。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
エママン・オムワンダ
エマニュエル・オムワンダの専門分野は暗号資産市場であり、ファンダメンタル分析とテクニカル分析の両方にわたります。Cryptopolitanに参加する以前は、CoinEdition、The Crypto Basic、CryptoNews Flash、DroomDroomなどのさまざまな暗号資産メディアサイトで活動していました。ケニアのケンヤッタ大学から数学およびコンピュータサイエンスの理学士（BSc.）を取得し、現在はコミュニケーション・メディア研究の文学士取得に向けて最終学年を修了中です。
