La SEC intensifica el examen de la IA en las instituciones financieras

El presidente de la SEC, Gensler, ha intensificado su escrutinio de las tecnologías de IA dentro de la industria de valores, advirtiendo contra la práctica de "lavado de IA" durante la cumbre "IA: equilibrio entre innovación y regulación" de The Messenger en Washington, DC, el 5 de diciembre de 2023. Con respecto a las tergiversaciones sobre el uso de la tecnología de IA por parte de una empresa y su potencial, Gensler destaca que este tipo de operaciones caen bajo las mismas regulaciones de valores que requieren divulgaciones "completas, justas y veraces".

La SEC examina la implementación de IA en instituciones financieras

A medida que la SEC intensifica su enfoque en la IA, la División de Exámenes emprende un examen exhaustivo del uso y la gobernanza de las tecnologías de IA por parte de los asesores de inversión. El examen abarca diversos aspectos, como materiales de marketing, proveedores externos, conflictos de intereses y planes de contingencia ante fallos del sistema. La información obtenida en este examen desempeñará un papel fundamental en la definición de la agenda normativa de la SEC sobre la regulación del uso de la IA en el sector de valores.

A pesar de que la SEC ha reconocido la presencia de la IA durante muchos años y su propio uso de esta tecnología, el presidente Gensler persiste en sus advertencias sobre los problemas micro y macro asociados con la IA. El escrutinio continuo de la SEC, sumado a la preocupación de Gensler sobre posibles sesgos y conflictos a nivel micro y la aparición de monoculturas que conducen a la inestabilidad del mercado a nivel macro, demuestra una postura proactiva para abordar los desafíos que plantea la IA en el ámbito financiero.

Directrices para entidades reguladas

Se recomienda a los agentes de bolsa, asesores y otras entidades reguladas que gestionen con cuidado las complejidades asociadas con la integración de tecnologías de IA en sus operaciones. Gensler enfatiza varias consideraciones clave, instando a las entidades a comprender los modelos y conjuntos de datos de IA, priorizar la privacidad de los datos y la protección de la propiedad intelectual, evitar actividades engañosas y revisar la información y los materiales de marketing para garantizar su precisión.

Comprender las arquitecturas de IA y la dinámica de los conjuntos de datos: se recomienda a las entidades reguladas que profundicen en las complejidades de los modelos de IA y los conjuntos de datos subyacentes. Reconociendo los diversos riesgos que plantean los algoritmos y los datos, las entidades deben implementar controles sólidos, elaborar divulgaciones precisas y cumplir con los estándares de diligencia debida para mantener la transparencia con los clientes.

Garantizar la privacidad de los datos y la preservación de la propiedad intelectual: La protección de la privacidad de los datos y la propiedad intelectual es primordial. Es fundamental actuar con diligencia en relación con los conjuntos de datos y los procesos de recopilación, especialmente en escenarios de IA generativa. Las medidas de mitigación incluyen comprender la procedencia de los datos, respetar los principios de limitación de datos, eliminar los datos innecesarios, evaluar subconjuntos, tokenizar o anonimizar los datos y verificar manualmente los resultados de la IA.

Abordar la información no pública y frenar las distorsiones del mercado: más allá de la divulgación y las consideraciones sobre conflictos de interés, la SEC supervisará de cerca el uso de la IA para detectar actividades engañosas como el uso de información privilegiada y la manipulación del mercado. Las entidades deben examinar minuciosamente los conjuntos de datos en busca de información no pública relevante, implementar controles para evitar que los algoritmos de negociación y la IA generativa influyan artificialmente en los precios de los valores y cumplir con las restricciones sobre el uso o la divulgación dedent.

Revise periódicamente la información divulgada y actualícela según sea necesario. Se insta a los participantes del sector a revisar y actualizar continuamente su información divulgada y sus materiales de marketing. La precisión en las declaraciones sobre el uso de las tecnologías de IA y sus capacidades es fundamental para mantener la confianza y el cumplimiento normativo.

SEC e IA: Navegando hacia una integración responsable

Mientras la SEC continúa su exhaustivo análisis de la IA en el sector de valores, las entidades reguladas tienen la responsabilidad de gestionar responsablemente el cambiante panorama de la integración de la IA. Los desafíos señalados por el presidente Gensler subrayan la necesidad de un enfoque matizado que equilibre la innovación con el cumplimiento normativo. ¿Cómo responderán los actores del sector a estas directrices y qué medidas adicionales se pueden adoptar para garantizar el uso responsable de la IA en el cambiante panorama financiero?