新たな波の闇市場チャットボットが台頭し、繁栄している

闇市場のチャットボットは、AIセクターで台頭している最新のトレンドの一つとなり、悪意のある大規模言語モデル（LLM）が作成者に利益をもたらすことで繁栄している。

米国の研究によると、登録されていないLLM（大規模言語モデル）が地下でサービスを販売して莫大な利益を上げている活発なAIの闇市場が存在することが明らかになった。OpenAI、Perplexity、および同じサービスを提供する他の大企業のような登録済みかつ公開 facing の企業は、従うべき規制の処方箋を持っている。

地下のLLMはアンチウイルスを回避できる

この研究は主に、合法的なLLMやAIプラットフォームを歪曲して利益を得ることで繁栄している生態系であるMallaに焦点を当て、2023年4月から10月にかけての地下マーケットプレイスにリストされた212の闇市場LLMを精査し、その属性を評価した。

著者の一人、インディアナ大学のジルロング・リンは次のように語った：

「私たちは、地下フォーラムにあるmalware（悪意のある）サービスの大部分が、主に利益を得るために存在していることを発見しました。」

研究ではまた、一部のプラットフォームが、規制されたAIの制約から逃れたい人々からの購読および購入により、2ヶ月間で最大2万8,000ドルを稼いでいることも明らかになった。

DarkGPTやEscapeGPTのような一部のサービスは、合法的に使用されている正式にライセンスされたLLMの jailbreak（脱獄）派生物にすぎない。

別の研究では、これらの違法なLLMがフィッシングメールの作成など、多くのタスクに使用できることも示されている。例えば、DarkGPTおよびEscapeGPTは、約75%の確率で正しいコードを作成できたが、アンチウイルスソフトはこれらのコードを検出できなかった。

別のモデルであるWolfGPTは、フィッシングメールの作成やスパム検出器の回避において「強力な存在」と見なされていた。

カーネギーメロン大学の計算イノベーションの専門家であるアンドリュー・ハントによれば、急成長するAIの地下市場は懸念すべき事項である。

彼は、LLMを開発する企業に対し、悪意のある人物による複製を防ぐための堅牢なシステムを備えることを義務付ける法的要件を呼びかけた。

「また、これらのモデルを作成し、サービスを提供する企業が、悪意のある行為者がもたらすリスクを軽減する方法で、より責任を持ってそうするように確保する法的枠組みも必要です」とハントは語った。

闇市場チャットボットの機能的理解が鍵となる

研究の一部であったインディアナ大学のシャオフォン・ワン教授は、これらの闇市場LLMがどのように機能しているかを理解することが重要であり、それによって解決策が特定された問題に特化したものになるべきだと述べた。

ワン教授は、これらのLLMの操作を回避することはできないが、それによって、あらゆる形態のサイバー攻撃を通じて実行される潜在的な害を最小限に抑えるために、セクターが強固なガードレールを策定する余地が生まれると付け加えた。

「私たちは、大きな害がすでに起きてから待つのではなく、今が研究を開始するのに良い段階だと信じています。」

ワン教授。

教授によれば、LLMを含むすべての技術には、善の側と悪の側の2つの側面がある。

サイバーセキュリティの専門家はすでに、AI業界にその競争を一時停止し、匿名のインターネットコミュニティによって技術が改ざんされる growing な危険性について振り返るよう呼びかけている。

フォーブス誌は昨年暮れに、LLMを中心に、新しいアイデアの責任ある導入が必要であると指摘した。また、規制が開発を阻害するという誤解とは対照的に、責任あるAIイノベーションを促進するための規制の役割を強調した。

「LLMの開発者および提供者は、ますます複雑なモデルを生み出すことを目的とした狂乱の軍拡競争に一時停止を課し、代わりに規制当局と協力して、生成AIアプリケーションの倫理的な設計および使用のための枠組みを採用するべきです」とレポートの一部に記されている。

現在、規制の抜け穴により、AIの闇市場も急速に数百万ドル規模の産業へと成長しており、Fast Companyによれば、封じ込めるには広範なリソースが必要となる可能性がある。