SEC主席Atkins将利用AI打击滥用AI的恶意行为者

The 美国证券交易委员会 已宣布计划整合 AI 技术到其运营中 以便 使检测和识别异常更加容易和快速，并进行风险评估。 

美国证券交易委员会（SEC）积极打击利用AI技术进行欺诈的恶意行为者，以及从事AI洗白以欺骗投资者的公司。

SEC如何利用AI保护投资者并抓获欺诈者？

在主席Paul S. Atkins 的领导下，美国证券交易委员会（SEC）正在实施一项“用AI对抗AI”的战略。该倡议围绕SEC的AI特别工作组展开，该工作组成立旨在让整个机构都能接触到技术进步，并确保委员会跟上私营金融部门的快速演变。

委员会使用算法来检测市场不当行为，包括欺诈和操纵性交易计划。这些工具能够比传统方法更快、更精确地发现交易量或价格变动中的异常。

AI还帮助机构工作人员更高效地识别数千份上市公司提交文件中的重大遗漏或误导性陈述，使SEC能够实时响应公众意见和市场变化。

Atkins主席指出，SEC的目标始终是保护投资者，无论其使用何种工具。这次，该机构特别关注“AI洗白”的迹象。这一术语用于描述那些就其人工智能的使用做出虚假、夸大或误导性声明，以推高股价或吸引投资者的公司。

在政府监管中使用AI有哪些风险？

关于政府中AI使用的主要担忧之一是黑箱决策的潜在风险，即算法在没有清晰、人类可理解原因的情况下做出选择。Atkins主席澄清说，在SEC风险评估计划的每个阶段都需要人类参与。

“正当程序要求这样做，”Atkins在最近一次金融稳定监督委员会（FSOC）圆桌会议上指出。算法可能会识别出可疑模式或异常，但它无法判断证人的可信度或评估市场参与者的意图。因此，最终判断仍由委员和专业工作人员做出。

领先的AI开发商，包括Google（Gemini）、OpenAI和Anthropic，此前已发布报告，详细说明了恶意实体如何滥用其平台。例如，OpenAI最近报告了破坏国家支持的黑客组织的情况，这些组织利用AI研究漏洞并生成钓鱼内容。同样，Google的威胁分析小组追踪了大型语言模型（LLM）在旨在窃取财务凭证的社会工程学攻击中的使用情况。

如果有重大可能性表明合理股东会认为AI相关信息对投资决策重要，SEC将强制公司披露AI相关信息。

2024年初，委员会与两名投资顾问达成和解，指控其就AI的使用做出虚假和误导性陈述。在这些案件中，公司声称使用AI分析数百万个数据点以预测市场走势，但SEC发现这些声明是虚假的。