A presidente da SEC, Atkins, usará IA para combater agentes mal-intencionados que exploram a IA

A SEC anunciou planos para integrar de IA em suas operações , a fim de tornar a detecção de anomalias mais fácil e rápida, bem como a realização de avaliações de risco. 

A SEC está ativamente perseguindo os maus atores que exploram a tecnologia de IA para fins fraudulentos e as empresas que praticam a lavagem de imagem com IA para enganar os investidores.

Como a SEC está usando IA para proteger investidores e capturar fraudadores?

A Comissão de Valores Mobiliários dos Estados Unidos (SEC, na sigla em inglês), sob a liderança do presidente Paul S. Atkins, está implementando uma estratégia para "combater a IA com IA". A iniciativa centra-se na Força-Tarefa de IA da SEC, criada para dar a toda a agência acesso aos avanços tecnológicos e garantir que a comissão acompanhe a rápida evolução do setor financeiro privado.

A Comissão está utilizando algoritmos para detectar condutas ilícitas no mercado, incluindo fraudes e esquemas de negociação manipulativa. Essas ferramentas conseguem encontrar anomalias no volume de negociação ou nas movimentações de preços com maior rapidez e precisão do que os métodos tradicionais.

A IA também ajuda a equipe da agência adentomissões relevantes ou declarações enganosas em documentos apresentados por milhares de empresas de capital aberto com mais eficiência, permitindo que a SEC reaja às contribuições do público e às mudanças do mercado em tempo real.

O presidente Atkins observou que o objetivo da SEC continua sendo proteger os investidores, independentemente das ferramentas utilizadas. Desta vez, a agência está especificamente atenta a sinais de "lavagem de imagem por IA". Esse termo é usado para descrever empresas que fazem alegações falsas, exageradas ou enganosas sobre o uso de inteligência artificial para impulsionar o preço de suas ações ou atrairtrac.

Quais são os riscos de usar IA na regulamentação governamental?

Uma das principais preocupações em relação à IA no governo é o potencial para tomada de decisões "caixa preta", onde um algoritmo faz uma escolha sem uma razão clara e compreensível para humanos. O presidente Atkins esclareceu que a interação humana é necessária em todas as etapas do programa de avaliação de risco da SEC.

“O devido processo legal exige isso”, observou Atkins durante uma recente mesa-redonda do Conselho de Supervisão da Estabilidade Financeira (FSOC). Um algoritmo podedentum padrão suspeito ou uma anomalia, mas não tem a capacidade de determinar a credibilidade de uma testemunha ou avaliar a intenção de um participante do mercado. Consequentemente, o julgamento final permanece com os Comissários e a equipe técnica.

Os principais desenvolvedores de IA, incluindo Google (Gemini), OpenAI e Anthropic, já publicaram relatórios detalhando como entidades maliciosas estão explorando suas plataformas. Por exemplo, a OpenAI relatou recentemente a interrupção de ações de agentes de ameaças patrocinados por estados que usavam IA para pesquisar vulnerabilidades e gerar conteúdo de phishing. Da mesma forma, o Grupo de Análise de Ameaças do Google rastreou tracuso de Modelos de Linguagem de Grande Porte (LLMs) em ataques de engenharia social projetados para roubar credenciaisdent.

A SEC obrigará as empresas a divulgar informações relacionadas à IA se houver uma probabilidade substancial de que um acionista razoável as considere importantes para uma decisão de investimento.

No início de 2024, a Comissão de Valores Mobiliários (SEC) resolveu as acusações contra duas empresas de consultoria de investimentos por fazerem declarações falsas e enganosas sobre o uso de inteligência artificial (IA). Nesses casos, as empresas alegavam usar IA para analisar milhões de pontos de dados e prever movimentos de mercado, mas a SEC considerou essas alegações falsas.