Por qué el director ejecutivo de la FCA advierte sobre la disrupción de la IA en el sector de los servicios financieros

El director ejecutivo de la Autoridad de Conducta Financiera (FCA), Nikhil Rathi, ha plantado preocupaciones sobre el creciente riesgo de la inteligencia artificial (IA) en el sector de los servicios financieros. Al dirigirse a líderes de la industria, Rathi destacó el potencial de la IA para alterar la industria de maneras sin precedentes, particularmente en lo que respecta al riesgo cibernético y al fraude en línea. Advirtió que la FCA tomaría medidas contra las actividades fraudulentas basadas en IA. Estas advertencias llegan en el contexto del objetivo del Reino Unido de liderar los esfuerzos internacionales para regular la IA, con una próxima cumbre sobre los riesgos y la regulación de la IA.

La creciente amenaza de la IA

Según Rathi, a medida que la IA se vuelve más generalizada, existe un riesgo significativo de que el fraude cibernético, los ciberataques y el fraude de identidad aumenten en escala, sofisticación y efectividad. La reunión del primer ministro Rishi Sunak con directivos de empresas líderes de IA en mayo enfatizó el deseo del Reino Unido de estar a la vanguardia de la regulación global de la IA. Sin embargo, Rathi advirtió que la tecnología de IA aumentará los riesgos para las empresas financieras, haciendo que los altos directivos sean finalmente responsables de las decisiones tomadas por la IA. Destacó la necesidad de acelerar la inversión en prevención de fraudes, resiliencia operativa y medidas de ciberseguridad para mantener el ritmo con la adopción de la IA.

El desafío de los deepfakes

Rathi citó el ejemplo de un reciente video deepfake que mostraba al defensor de las finanzas personales Martin Lewis promocionando inversiones especulativas. Lewis describió el video como "aterrador" y pidió medidas regulatorias para prevenir estafas similares. En respuesta a esta creciente preocupación, varias plataformas tecnológicas han comenzado a etiquetar claramente el contenido generado por herramientas de IA. Los gobiernos de todo el mundo también están trabajando en marcos regulatorios para la IA. Microsoft, por ejemplo, introdujo una herramienta de detección en septiembre de 2020 para identificar fotos y videos deepfake y combatir la desinformación.

Navegando el panorama regulatorio

Con el creciente protagonismo de la IA, la FCA enfrenta un campo minado regulatorio. Suid Adeyanju, director ejecutivo de la especialista en ciberseguridad RiverSafe, enfatizó la importancia de mantener una comunicación abierta con las empresas para abordar los desafíos y oportunidades que se avecinan. Adeyanju destacó la complejidad aportada por los ciberataques y las estafas en línea habilitadas por la IA, instando a las empresas de servicios financieros a fortalecer sus capacidades de ciberseguridad y neutralizar estas amenazas de manera efectiva.

Fortalecer la detección de fraudes

Chris Downie, director ejecutivo de la plataforma de detección de fraudes Pasabi, destacó la necesidad de que los servicios financieros mejoren su capacidad para detectar fraudes y estafas impulsados por la IA. Downie elogió el reconocimiento de la urgencia por parte de la FCA de reforzar las medidas de prevención de fraudes y enfatizó la importancia de la colaboración entre la FCA, las empresas y los proveedores de software de detección de fraudes. Dicha colaboración permitiría la adopción de tecnologías avanzadas de detección de fraudes y ayudaría a restaurar la confianza en el mercado de servicios financieros.

El director ejecutivo de la FCA, Nikhil Rathi, ha destacado la creciente amenaza que representa la IA en el sector de los servicios financieros. A medida que la tecnología de IA avanza, los riesgos de fraude cibernético y estafas en línea aumentan en escala y sofisticación. La FCA tiene la intención de adoptar una postura firme frente a las actividades fraudulentas basadas en IA, al tiempo que promueve la innovación beneficiosa y las protecciones proporcionales. El desafío reside en mantener una comunicación efectiva con las empresas y mantenerse a la vanguardia de las amenazas impulsadas por la IA mediante una inversión acelerada en ciberseguridad y medidas de prevención de fraudes. Al colaborar con expertos de la industria, los organismos reguladores pueden aprovechar las últimas tecnologías para detectar y neutralizar el fraude impulsado por la IA, restaurando la confianza en el mercado de servicios financieros.