BadGPTとは何ですか？聞いたことありますか？

意図が間違っていれば、人工知能は誤った人物の手に渡れば、致命的なツールとなり得ます。夜勤中に自宅から電話がかかってきて、銃を持った男が玄関に立っていると告げられたと想像してみてください。しかも、家族全員が家の中にいます。あなたはどう感じるでしょうか？そして、その男が犯罪者だったらどう思いますか？それとも警察官だったらどう思いますか？ 

AIについても同じことが言えます。AIはすでに私たちのドアをノックし、むしろ私たちの家庭に入り込んでいます。ChatGPTとは何かご存知ですか？しかし、ChatGPTに使用されているAIにも、私たちが想像する以上に邪悪な闇の側面があります。ダークウェブへようこそ。ChatGPTに似た人工知能ツールは数多く存在しますが、それらは市場の悪質な側面を満たすように作られています。BadGPTやFraudGPTなど、その例を挙げると、専門家によると、サイバー犯罪、特にメールフィッシングは今後数年間増加し続けると予想されています。.

BadGPT と同種のものとは実際何でしょうか?

これらは基本的に チャットボット が、日常業務で日常的に使用するものとは異なります。これらは検閲を受けず、制御のための安全対策も一切施されていないモードで、お客様がご自身のニーズに合わせて自由にご利用いただけます。通常、フィッシングメールやサイバー攻撃用マルウェアの開発に利用され、ハッカーの犯罪活動を支援します。これらのサービスの登場により、企業はこれまで以上に警戒を強め、リスクにさらされています。

最近、インディアナ大学の研究者たちは、大規模言語モデル（AI）を活用した200以上のハッキングサービスを発見しました。これらのサービスは既に市場に出回っており、最初のサービスは2023年の初頭頃に登場しましたが、その後は野草のように次々と出現し、後戻りすることはありませんでした。.

ダークマーケット向けのこれらのツールのほとんどは、オープンソースのAIモデル、またはAnthropicなどのクラック版を使用しています。プロンプトインジェクションと呼ばれる手法を用いてこれらのモデルを乗っ取り、安全フィルターを回避し、ハッカーが安全チェックなしで利用できるようにしています。.

OpenAIの広報担当者は、同社は自社製品を悪意のある目的で使用されないように最善を尽くしており、 

「この種の不正行為に対してシステムをより強固にする方法を常に模索しています。」

出典： WSJ

BadGPTの悪影響とその予防方法

これらの戦術は本当に効果的で、本当に人を説得できるのだろうかと疑問に思うかもしれません。しかし現実は、これらのツールで作成された詐欺メールは見分けるのが難しく、ハッカーはサイバーセキュリティソフトウェアから得た検出技術を使ってモデルを訓練しているのです。. 

最近、govttechとのインタビューで、コネチカット州のCISO（最高情報セキュリティ責任者）であるジェフ・ブラウン氏は、サイバー犯罪にBadGPTとFraudGptが使用されることに対する懸念を表明し、電子メールベースの詐欺が大幅に増加していると述べました。. 

個人は、個人情報を誰かと共有する際に細心の注意を払うことで、こうした攻撃を回避できます。本当に必要な場合を除き、個人間でもウェブサイト上でも、情報をオープンに共有しないでください。共有する際は、必ず慎重に行ってください。悪意のあるサイトは、悪意を感じさせないほどプロフェッショナルな印象を与えることが多いため、情報を公開する前に必ずウェブサイトをよく調べてください。.