SEC 委員アトキンス氏、AI を悪用する不正行為者に対抗するため AI を活用

この SEC 統合する計画を発表しました AI その運用に そのため 異常の検出をより容易かつ迅速に行い、リスク評価を実施するため。 

SECは、AI技術を不正な目的で悪用する行為者や、投資家を欺くためにAIウォッシングを行う企業に対して積極的に取り締まりを行っています。

SECは投資家を守り詐欺師を捕らえるためにAIをどのように使用しているのか？

議長Paul S. Atkinsの下、証券取引委員会（SEC）は、「AIでAIと戦う」という戦略を実装しています。このイニシアチブは、機関全体が技術的進歩にアクセスし、プライベートな金融セクターの急速な進化に遅れを取らないことを確保するために設立されたSECのAIタスクフォースを中心に据えられています。

委員会は、詐欺や操縦的な取引スキームを含む市場不正行為を検出するためにアルゴリズムを使用しています。これらのツールは、従来の方法よりもはるかに高速かつ高精度で、取引量や価格変動の異常を検出できます。

AIはまた、数千の公開企業が提出する書類における重要な省略や誤解を招く声明を、スタッフが一層効率的に特定することを支援し、SECが公衆からの入力や市場の変化にリアルタイムで対応できるようにしています。

Atkins議長は、SECの目的は使用するツールに関わらず投資家を守ることであると指摘しています。今回は、機関が「AIウォッシング」の兆候を特に監視しています。この用語は、株式価格を高めたり投資家を惹きつけたりするために、人工知能の使用について虚偽、過大、または誤解を招く主張を行う企業を説明するために使用されます。

政府規制におけるAI使用のリスクは何ですか？

政府におけるAIに関する主な懸念の一つは、ブラックボックス意思決定の可能性です。これは、アルゴリズムが明確で人間が理解できる理由なしに選択を行うことを意味します。Atkins議長は、SECのリスク評価プログラムのすべての段階で人間の関与が必要であると明確にしました。

「適正手続きがそれを要求します」とAtkinsは最近の金融安定性監視評議会（FSOC）のラウンドテーブルで指摘しました。アルゴリズムは不審なパターンや異常を特定できるかもしれませんが、証人の信頼性を判断したり、市場参加者の意図を評価したりする能力はありません。したがって、最終的な判断は委員と専門スタッフに残されます。

Google（Gemini）、OpenAI、Anthropicなどの主要なAI開発者は、以前、悪意のあるエンティティが自らのプラットフォームを悪用していることを詳述したレポートを発表しました。例えば、OpenAIは最近、AIを使用して脆弱性を調査し、フィッシングコンテンツを生成する国家支援のスレッドアクターを妨害したことを報告しました。同様に、Googleの脅威分析グループは、金融資格情報を盗むことを目的としたソーシャルエンジニアリング攻撃における大規模言語モデル（LLM）の使用を追跡しています。

SECは、合理的な株主が投資判断にとって重要であると見なす可能性が substantial にある場合、企業がAI関連情報を開示することを強制します。

2024年初頭、委員会は、AIの使用について虚偽かつ誤解を招く声明を行った2つの投資顧問に対する訴訟を和解させました。これらのケースでは、企業はAIを使用して数百万のデータポイントを分析して市場の動きを予測すると主張しましたが、SECはこれらの主張が虚偽であると発見しました。