Deutsche Bank utiliza inteligencia artificial para detectar la mala conducta de operadores fraudulentos

Deutsche Bank, el mayor banco de Alemania, está incursionando en el mundo de la inteligencia artificial (IA) para mejorar sus capacidades de vigilancia. El banco está explorando el uso de las herramientas de aprendizaje automático de Google Cloud para detectar posibles indicios de mala conducta mediante el análisis del tono de las conversaciones telefónicas de los operadores. Esta medida se produce en un momento en que las instituciones financieras de todo el mundo buscan sistemas de monitoreo más efectivos ante un mayor escrutinio y medidas gubernamentales enérgicas contra las irregularidades, que resultan en multas significativas. La vigilancia impulsada por IA de Deutsche Bank busca ir más allá del análisis de palabras y detectar cambios en el tono o indicios de cinismo, mejorando así la supervisión y la gobernanza.

Vigilancia con IA para una mejor supervisión

Deutsche Bank se embarca en una iniciativa más amplia de IA, donde la vigilancia de las conversaciones con operadores es solo una faceta de su exploración. Las herramientas de vigilancia actuales del banco analizan principalmente el contenido de las conversaciones, pero no descifran cambios de tono ni indicios sutiles que puedan indicar mala conducta. El nuevo sistema de IA en desarrollo busca diferenciar entre declaraciones inocentes como "que no se sepa" durante conversaciones sobre una fiesta sorpresa e intenciones más siniestras. Se espera que esta capacidad de comprender el tono proporcione un mayor nivel de supervisión y potencialmente revolucione la gobernanza dentro de la institución.

Capacitación y cumplimiento de la IA

Para entrenar eficazmente el sistema de IA, Deutsche Bank utiliza grabaciones de llamadas de operadores para familiarizarlo con el lenguaje utilizado y las normas conversacionales. El software de IA dirigirá a los analistas a las áreas de interés, pero los humanos tomarán la decisión final sobre cómo proceder. El banco se esfuerza por garantizar que el sistema de vigilancia cumpla con la normativa, evite problemas de privacidad y minimice los falsos positivos. Según Bernd Leukert, director de Tecnología, Datos e Innovación de Deutsche Bank, es crucial mantener la imparcialidad, la no discriminación, la exactitud fáctica y la explicabilidad en los algoritmos de IA.

El papel cada vez más importante de la IA en la banca

El compromiso de Deutsche Bank con la IA forma parte de un impulso más amplio hacia la tecnología y la innovación. El banco cuenta con aproximadamente 16.000 empleados dedicados a tecnología, datos e innovación, de los cuales aproximadamente la mitad son ingenieros que trabajan en código. La institución también está reclutando activamente talento relacionado con la IA, situándose entre los cinco bancos líderes en reclutamiento de IA. Sin embargo, el uso de la IA para detectar conductas indebidas no está exento de desafíos y riesgos, como advierten algunos expertos. Existe la preocupación de que la IA se centre en indicadores superficiales, como la risa o las operaciones inusualmente rentables, mientras que podría pasar por alto problemas más significativos. Además, existe el riesgo de que los operadores cuestionen las pruebas en su contra, alegando que eran defectuosas debido a errores de software.

La creciente influencia de la IA en la industria

Deutsche Bank no está solo en sus iniciativas de IA. Otras instituciones financieras también están aprovechando la IA para mejorar la vigilancia y obtener información más detallada sobre las comunicaciones de los operadores. La tecnología de Google Cloud se utiliza para convertir datos no estructurados, como mensajes de texto y transcripciones de llamadas, en formatos más fáciles de buscar. Société Générale emplea IA para analizar las comunicaciones a través de múltiples canales, abarcando una amplia gama de idiomas y países. En este contexto, los sistemas de IA se consideran posibles detectores de mentiras que ayudan adentcomportamientos sospechosos, aunque pueden no proporcionar pruebas defi.

La incursión de Deutsche Bank en el uso de IA para detectar conductas indebidas en las conversaciones con operadores representa un paso significativo para reforzar la vigilancia y la supervisión en el sector financiero. A medida que las tecnologías de IA siguen evolucionando, ofrecen el potencial de mejorar el cumplimiento normativo y la gobernanza, a la vez que plantean dudas sobre su precisión y posibles sesgos. La adopción de la vigilancia basada en IA forma parte de una tendencia más amplia en el sector bancario, lo que indica la creciente importancia de la inteligencia artificial para garantizar el cumplimiento normativo y prevenir conductas indebidas. Sin embargo, el sector debe afrontar los retos y riesgos asociados a la implementación de la IA en áreas sensibles como la monitorización y la vigilancia.