ブラックマーケットチャットボットの新たな波が出現し、繁栄している

ブラックマーケットのチャットボットは、AI 分野で出現した最新のトレンドの 1 つになっており、悪意のある大規模言語モデル (LLM) が作成者に利益をもたらすことで盛んになっています。.

アメリカ の調査 によると、AIの闇市場が活発に存在し、未登録の法学修士（LLM）が闇市場でサービスを販売して大儲けしていることが明らかになりました。OpenAI、Perplexityといった登録済みの上場企業や、同様のサービスを提供する大企業は、それぞれが従うべき規制を定めています。

アンダーグラウンドのLLMはアンチウイルスを回避できる

この調査は、合法的なLLMやAIプラットフォームを悪用して利益を上げるエコシステムであるMallaに主に焦点を当て、2023年4月から10月の間に地下市場に上場された212のブラックマーケットLLMを精査し、その特性を評価した。.

著者の一人、インディアナ大学のZilong Lin氏は次のように述べた。

「地下フォーラム上のマーラサービスのほとんどは、主に利益を得るために存在していることがわかりました。」

この調査では、規制されたAIの制限から逃れたい人々からのサブスクリプションや購入で、一部のプラットフォームが2か月で最大2万8000ドルを稼いでいることも判明した。.

DarkGPT や EscapeGPT などの一部は、合法的に使用されている正式にライセンスされた LLM の脱獄派生物にすぎません。.

別の研究 では、これらの違法LLMがフィッシングメールの作成など、様々な用途に利用できることが示されています。例えば、DarkGPTとEscapeGPTは75%近くの確率で正しいコードを作成できますが、アンチウイルスソフトはこれらのコードを検出できませんでした。

別のモデルは 、フィッシングメールを作成し、スパム検出システムを回避するための「強力なツール」と見なされていた。

カーネギーメロ大学のコンピューティングイノベーションの専門家、アンドリュー・ハント氏によると、急成長しているAIの地下市場は懸念すべきことだという。.

彼は、LLM を開発する企業に、悪意のある人々による複製を防ぐ強力なシステムを備えることを義務付ける法的要件を求めた。.

「こうしたモデルを作成し、サービスを提供する企業が、悪意のある行為者によってもたらされるリスクを軽減する形で、より責任ある行動をとることを保証する法的枠組みも必要だ」とハント氏は述べた。.

ブラックマーケットのチャットボットがどのように機能するかを理解することが重要

この研究に参加したインディアナ大学のシャオフェン・ワン教授は、dentされた問題に特化した解決策を講じるためには、こうしたブラックマーケットの法学修士課程がどのように機能しているかを理解することが重要だと述べた。.

王教授は、これらの法学修士号の操作は避けられないと付け加え、あらゆる形態のサイバー攻撃による潜在的な被害を最小限に抑えるために、業界がtronガードレールを策定する余地が生まれると述べた。.

「大きな被害が出るまで待つつもりはないので、今がこれらの研究を始めるのに良い段階だと考えています。」

王教授。.

教授によれば、LLM を含むすべての技術には、良い面と悪い面の 2 つの側面があるそうです。.

サイバーセキュリティの専門家たちはすでに、AI業界に対し、競争を緩め、匿名のインターネットコミュニティによってAI技術が改ざんされる危険性の高まりについて考えるよう呼びかけている。.

フォーブスの記事で は、特に法学修士課程（LLM）において、新しいアイデアは責任ある形で導入されるべきだと述べられていました。また、規制がAIの発展を阻害するという誤解とは異なり、責任あるAIイノベーションを促進する上で規制が果たす役割についても強調されていました。

「LLMの開発者と提供者は、これまで以上に複雑なモデルを大量生産することを目指す狂った軍拡競争を一時停止し、代わりに規制当局と協力して、生成AIアプリケーションの倫理的な設計と使用のためのフレームワークを採用する必要がある」と報告書には記されている。.

Fast Companyによると、現在、規制の抜け穴により、AIのブラックマーケットも数百万ドル規模の産業に急速に成長しており、抑制するには多大なリソースが必要になる可能性があるという。.