Председатель SEC Аткинс будет использовать ИИ для борьбы с плохими акторами, эксплуатирующими ИИ

Корпоративные SEC объявил о планах по интеграции ИИ технологии в свою деятельность для того чтобы упростить и ускорить выявление аномалий, а также проводить оценку рисков. 

SEC активно преследует плохих акторов, которые используют технологию ИИ для мошеннических целей и компании, которые занимаются «промыванием ИИ», чтобы обмануть инвесторов.

Как Комиссия по ценным бумагам и биржам (SEC) использует искусственный интеллект для защиты инвесторов и выявления мошенников?

Комиссия по ценным бумагам и биржам (SEC) под руководством председателя Пола С. Аткинса реализует стратегию «борьбы с ИИ с помощью ИИ». Инициатива сосредоточена вокруг Группы задач SEC по ИИ, которая была создана, чтобы предоставить всей агентству доступ к технологическим достижениям и обеспечить, чтобы комиссия успевала за быстрой эволюцией частного финансового сектора.

Комиссия применяет алгоритмы для выявления недобросовестных действий на рынке, включая мошенничество и манипулятивные схемы торговли. Эти инструменты позволяют обнаруживать аномалии в объемах торгов или движениях цен с большей скоростью и точностью, чем традиционные методы.

ИИ также помогает сотрудникам агентства более эффективно выявлять существенные упущения или вводящие в заблуждение заявления в документах, подаваемых тысячами публичных компаний, что позволяет SEC реагировать на общественный запрос и изменения на рынке в режиме реального времени.

Председатель Аткинс отметил, что цель SEC остается защищать инвесторов независимо от используемых инструментов. На этот раз агентство специально обращает внимание на признаки «промывания ИИ». Этот термин используется для описания компаний, которые делают ложные, преувеличенные или вводящие в заблуждение заявления о своем использовании искусственного интеллекта для повышения цены акций или привлечения инвесторов.

Каковы риски использования ИИ в государственном регулировании?

Одной из основных проблем, связанных с применением ИИ в государственном секторе, является потенциальное принятие решений в «черном ящике», когда алгоритм делает выбор без четкого, понятного человеку обоснования. Председатель Аткинс уточнил, что человеческое взаимодействие необходимо на каждом этапе программы оценки рисков SEC.

«Процессуальные гарантии требуют этого», — отметил Аткинс во время недавнего круглого стола Совета по надзору за финансовой стабильностью (FSOC). Алгоритм может выявить подозрительную закономерность или аномалию, но он не способен определить достоверность показаний свидетеля или оценить намерения участника рынка. Следовательно, окончательное решение остается за членами Комиссии и профессиональным персоналом.

Ведущие разработчики ИИ, включая Google (Gemini), OpenAI и Anthropic, ранее публиковали отчеты, в которых подробно описывалось, как злонамеренные субъекты используют их платформы. Например, OpenAI недавно сообщил о пресечении деятельности спонсируемых государством злоумышленников, которые использовали ИИ для исследования уязвимостей и создания фишингового контента. Аналогично, Группа анализа угроз Google отслеживала использование больших языковых моделей (LLM) в атаках социальной инженерии, направленных на кражу финансовых учетных данных.

SEC обязует компании раскрывать информацию, связанную с ИИ, если существует существенная вероятность того, что разумный акционер сочтет ее важной для инвестиционного решения.

В начале 2024 года Комиссия урегулировала обвинения против двух инвестиционных консультантов за предоставление ложной и вводящей в заблуждение информации об использовании ими ИИ. В этих случаях компании заявляли, что используют ИИ для анализа миллионов точек данных с целью прогнозирования рыночных движений, однако SEC установила, что эти заявления не соответствуют действительности.