SEC, 금융 기관의 AI 검토 강화

SEC 의장 겐슬러는 2023년 12월 5일 워싱턴 D.C.에서 열린 더 메신저의 “AI: 혁신과 규제의 균형” 정상 회의에서 “AI 워싱” 관행에 경고하며 증권 산업 내 AI 기술에 대한 검열을 강화했습니다. 회사의 AI 기술 사용과 그 잠재력에 대한 허위 표시와 관련하여, 겐슬러는 이러한 유형의 운영이 “완전하고 공정하며 진실한” 공시를 요구하는 동일한 증권 규제 하에 떨어진다고 강조합니다.

SEC, 금융 기관의 AI 구현 심사

SEC가 AI에 대한 집중을 강화함에 따라, 심사 부서는 투자 자문사의 AI 기술 활용 및 거버넌스에 대한 광범위한 검사를 시작합니다. 이 검사는 마케팅 자료, 제3자 제공업체, 이해상충, 그리고 시스템 실패에 대한 비상 계획 등 다양한 측면을 포함합니다. 이 검사에서 수집된 정보는 증권 산업 내 AI 사용 규제에 관한 SEC의 규칙 제정 의제를 형성하는 데 중요한 역할을 할 예정입니다.

SEC가 AI의 존재를 오랫동안 인정하고 자체적으로 해당 기술을 활용했음에도 불구하고, 겐슬러 의장은 AI와 관련된 미시적 및 거시적 문제에 대한 경고를 계속하고 있습니다. SEC의 지속적인 감시와 겐슬러의 미시적 수준의 잠재적 편향과 이해상충에 대한 우려, 그리고 거시적 수준의 모노컬처 형성으로 인한 시장 불안정성에 대한 우려는 금융 영역에서 AI가 제기하는 도전에 대응하기 위한 선제적 입장을 의미합니다.

규제 대상 기관을 위한 지침

브로커-딜러, 자문사 및 기타 규제 대상 기관은 운영에 AI 기술을 통합하는 것과 관련된 복잡성을 신중하게 탐색할 것을 권장받습니다. 겐슬러는 AI 모델과 데이터 세트를 이해하고, 데이터 프라이버시 및 지적 재산권 보호를 우선시하며, 기만적 활동에 대비하고, 정확성을 보장하기 위해 공시 및 마케팅 자료를 수정할 것을 강조합니다.

AI 아키텍처와 데이터셋 역학 이해하기 – 규제 대상 기관은 AI 모델과 underlying 데이터 세트의 미묘한 차이에 대해 깊이 탐구하도록 권장됩니다. 알고리즘과 데이터가 초래하는 다양한 위험을 인식하여, 기관은 견고한 통제를 구현하고, 정확한 공시를 작성하며, 관련 주의 의무를 준수하여 고객과의 투명성을 유지해야 합니다.

데이터 프라이버시 보호 및 지적 자산 보존 – 데이터 프라이버시와 지적 재산권의 보호는 최우선입니다. 생성형 AI 시나리오를 특히 포함하여 데이터 세트와 수집 과정에 대한 주의가 필수적입니다. 완화 조치에는 데이터 기원 이해, 데이터 제한 원칙 준수, 불필요한 데이터 삭제, 하위 집합 평가, 데이터 토큰화 또는 익명화, 그리고 AI 출력의 인간 검사가 포함됩니다.

비공개 중요 정보 대응 및 시장 왜곡 억제 – 공시 및 이해상충 고려 사항을 넘어, SEC는 내부자 거래 및 시장 조작과 같은 기만적 활동에 대한 AI 사용을 면밀히 모니터링할 것입니다. 기관은 중요 비공개 정보가 포함된 데이터 세트를 검토하고, 거래 알고리즘과 생성형 AI가 증권 가격을 인위적으로 영향을 미치지 않도록 통제를 구현하며, 기밀 정보의 사용 또는 공개에 대한 제한을 준수해야 합니다.

공시를 정기적으로 검토하고 필요시 업데이트 – 업계 참여자들은 공시 및 마케팅 자료를 지속적으로 검토하고 업데이트할 것을 촉구받습니다. AI 기술의 사용과 그 능력에 대한 표현의 정확성은 신뢰와 규제 준수를 유지하는 데 중요합니다.

SEC와 AI – 책임 있는 통합의 항해

SEC가 증권 산업의 AI에 대한 포괄적인 검열을 계속함에 따라, 규제 대상 기관은 AI 통합의 진화하는 환경을 책임감 있게 탐색할 의무가 있습니다. 겐슬러 의장이 강조한 과제는 혁신과 규제 준수를 균형 있게 맞추는 미묘한 접근 방식의 필요성을 강조합니다. 업계 참여자들은 이러한 지침에 어떻게 대응할 것이며, 끊임없이 진화하는 금융 환경에서 AI의 책임 있는 사용을 보장하기 위해 어떤 추가 조치를 취할 수 있을까요?