El presidente de la SEC, Atkins, utilizará la IA para combatir a los malos actores que explotan la IA

El SEC ha anunciado planes para integrar IA la tecnología en sus operaciones con el fin de hacer más fácil y rápido detectar anomalías y realizar evaluaciones de riesgo. 

La SEC está persiguiendo activamente a los malos actores que explotan la tecnología de IA para fines fraudulentos y a las empresas que realizan lavado de IA para engañar a los inversores.

¿Cómo utiliza la SEC la IA para proteger a los inversores y capturar a los estafadores?

La Comisión de Bolsa y Valores (SEC), bajo el liderazgo del presidente Paul S. Atkins , está implementando una estrategia para "combatir la IA con IA". La iniciativa se centra en el Grupo de Trabajo de IA de la SEC, creado para dotar a toda la agencia de acceso a los avances tecnológicos y garantizar que la comisión mantenga el ritmo de la rápida evolución del sector financiero privado.

La Comisión emplea algoritmos para detectar malas prácticas de mercado, incluido el fraude y esquemas de manipulación del trading. Estas herramientas pueden identificar anomalías en el volumen de operaciones o movimientos de precios con mayor rapidez y precisión que los métodos tradicionales.

La IA también ayuda al personal de la agencia a identificar omisiones materiales o declaraciones engañosas en documentos presentados por miles de empresas públicas de manera más eficiente, permitiendo a la SEC reaccionar ante la opinión pública y los cambios del mercado en tiempo real.

El presidente Atkins ha señalado que el objetivo de la SEC sigue siendo proteger a los inversores, independientemente de las herramientas que utilice. Esta vez, la agencia está vigilando específicamente señales de "lavado de IA". Este término describe a las empresas que hacen afirmaciones falsas, exageradas o engañosas sobre su uso de la inteligencia artificial para aumentar el precio de sus acciones o atraer inversores.

¿Cuáles son los riesgos de utilizar la IA en la regulación gubernamental?

Una de las principales preocupaciones sobre la IA en el gobierno es el potencial de toma de decisiones mediante 'cajas negras', donde un algoritmo realiza una elección sin una razón clara y comprensible para los humanos. El presidente Atkins aclaró que la interacción humana es necesaria en cada etapa del programa de evaluación de riesgos de la SEC.

“El debido proceso lo exige”, señaló Atkins durante una mesa redonda reciente del Consejo de Supervisión de la Estabilidad Financiera (FSOC). Un algoritmo podría identificar un patrón sospechoso o una anomalía, pero carece de la capacidad de determinar la credibilidad de un testigo o evaluar la intención de un participante del mercado. En consecuencia, el juicio final recae en los Comisionados y el personal profesional.

Los principales desarrolladores de IA, incluidos Google (Gemini), OpenAI y Anthropic, han publicado informes que detallan cómo entidades maliciosas están explotando sus plataformas. Por ejemplo, OpenAI informó recientemente sobre la interrupción de actores de amenazas patrocinados por estados que utilizaron IA para investigar vulnerabilidades y generar contenido de phishing. De manera similar, el Grupo de Análisis de Amenazas de Google ha rastreado el uso de Modelos de Lenguaje Grandes (LLM) en ataques de ingeniería social diseñados para robar credenciales financieras.

La SEC obligará a las empresas a divulgar información relacionada con la IA si existe una probabilidad sustancial de que un accionista razonable la considere importante para una decisión de inversión.

A principios de 2024, la Comisión llegó a un acuerdo para imponer sanciones a dos asesores de inversión por realizar declaraciones falsas y engañosas sobre su uso de la IA. En esos casos, las empresas afirmaban utilizar la IA para analizar millones de puntos de datos y predecir movimientos del mercado, pero la SEC determinó que esas afirmaciones eran falsas.