SEC Atkins 위원장, AI를 악용하는 악의적 행위자들과 싸우기 위해 AI 활용

The SEC 통합 계획을 발표했습니다 AI 기술을 자체 운영에 그리고 이상 징후 탐지를 더 쉽고 빠르게 수행하며 리스크 평가를 수행하기 위해. 

SEC는 AI 기술을 사기 목적으로 악용하는 악의적 행위자들과 투자자를 기만하기 위해 AI 워싱을 수행하는 기업들을 적극적으로 추적하고 있습니다.

SEC는 투자자를 보호하고 사기꾼을 잡기 위해 AI를 어떻게 사용하고 있습니까?

Paul S. Atkins 위원장 리더십 하의 미국 증권거래위원회(SEC)는 “AI로 AI를 싸운다”는 전략을 시행 중입니다. 이 이니셔티브는 전 기관이 기술적 진보에 접근할 수 있도록 하고, 사적 금융 부문의 빠른 진화에 맞춰 위원회가 뒤처지지 않도록 보장하기 위해 설립된 SEC의 AI 태스크 포스을 중심으로 진행됩니다.

위원회는 사기 및 조작적 거래_scheme_를 포함한 시장 비위 행위를 탐지하기 위해 알고리즘을 사용하고 있습니다. 이러한 도구는 전통적인 방법보다 더 빠른 속도와 정밀도로 거래량 또는 가격 변동의 이상 징후를 찾을 수 있습니다.

AI는 또한 수천 개의 공개 기업이 제출한 문서에서 중요한 누락이나 오해의 소지가 있는 진술을 직원들이 더 효율적으로 식별할 수 있도록 도와주며, 이를 통해 SEC는 대중의 의견과 시장 변화에 실시간으로 대응할 수 있습니다.

Atkins 위원장은 언급했듯이, SEC의 목표는 사용하는 도구에 관계없이 투자자를 보호하는 것입니다. 이번에는 기관이 “AI 워싱” 징후를 특별히 주시하고 있습니다. 이 용어는 주가 상승 또는 투자자 유치를 위해 인공지능 사용에 대해 거짓, 과장 또는 오해의 소지가 있는 주장을 하는 기업들을 설명하는 데 사용됩니다.

정부 규제에서 AI 사용의 위험은 무엇입니까?

정부에서 AI 사용과 관련된 주요 우려 중 하나는 명확하고 인간이 이해할 수 있는 이유 없이 알고리즘이 결정을 내리는 ‘블랙박스 의사결정’의 가능성입니다. Atkins 위원장은 SEC의 리스크 평가 프로그램 모든 단계에서 인간의 상호작용이 필요하다고 명확히 했습니다.

“적법 절차가 그것을 요구합니다.”라고 Atkins는 최근 금융안정감독위원회(FSOC) 라운드테이블에서 언급했습니다. 알고리즘은 의심스러운 패턴이나 이상 징후를 식별할 수는 있지만, 증인의 신뢰도를 판단하거나 시장 참여자의 의도를 평가할 능력은 부족합니다. 따라서 최종 판단은 위원들과 전문 직원에게 남아 있습니다.

Google(Gemini), OpenAI, Anthropic 등 주요 AI 개발사들은 이전에 악의적 주체들이 자신의 플랫폼을 악용하는 방법을 상세히 다룬 보고서를 발표한 바 있습니다. 예를 들어, OpenAI는 최근 AI를 사용하여 취약점을 연구하고 피싱 콘텐츠를 생성하는 국가 후원 위협 행위자들을 차단하는 내용을 보고했습니다. 마찬가지로 Google의 Threat Analysis Group은 금융 자격 증명을 훔치기 위해 설계된 소셜 엔지니어링 공격에서 대규모 언어 모델(LLM)의 사용을 추적해 왔습니다.

SEC는 합리적인 주주가 투자 결정에 중요하다고 판단할 가능성이 상당할 경우, 기업들이 AI 관련 정보를 공개하도록 강제할 것입니다.

2024년 초, 위원회는 AI 사용에 대해 거짓 및 오해의 소지가 있는 진술을 한 두 투자 자문사에 대한 혐의를 해결했습니다. 해당 사건에서 기업들은 AI를 사용하여 수백만 개의 데이터 포인트를 분석하여 시장 움직임을 예측한다고 주장했지만, SEC는 이러한 주장이 거짓임을 발견했습니다.