O Deutsche Bank utiliza inteligência artificial para detectar má conduta de operadores desonestos.

O Deutsche Bank, o maior banco da Alemanha, está explorando o mundo da inteligência artificial (IA) para aprimorar suas capacidades de vigilância. O banco está investigando o uso das ferramentas de aprendizado de máquina do Google Cloud para detectar possíveis sinais de má conduta, analisando o tom das conversas telefônicas de seus operadores. Essa iniciativa surge em um momento em que instituições financeiras em todo o mundo buscam sistemas de monitoramento mais eficazes em meio ao aumento da fiscalização e às medidas governamentais contra irregularidades, que resultam em multas significativas. A vigilância baseada em IA do Deutsche Bank visa ir além da análise de palavras e detectar mudanças de tom ou indícios de cinismo, aprimorando, em última análise, a supervisão e a governança.

Vigilância por IA para uma supervisão aprimorada

O Deutsche Bank está embarcando em uma iniciativa mais ampla de IA, sendo a vigilância das conversas entre operadores apenas uma das facetas dessa exploração. As ferramentas de vigilância atuais do banco analisam principalmente o conteúdo das conversas, mas não decifram mudanças de tom ou indícios sutis que possam indicar má conduta. O novo sistema de IA em desenvolvimento visa diferenciar entre declarações inocentes, como "mantenha isso entre nós" durante discussões sobre uma festa surpresa, e intenções mais sinistras. Espera-se que essa capacidade de compreender a tonalidade proporcione um nível mais elevado de supervisão e possa revolucionar a governança dentro da instituição.

Treinamento e conformidade em IA

Para treinar o sistema de IA de forma eficaz, o Deutsche Bank está utilizando gravações de chamadas telefônicas existentes com operadores para familiarizá-lo com a linguagem utilizada e as normas de conversação. O software de IA direcionará os analistas para áreas de interesse, mas os humanos tomarão as decisões finais sobre como proceder. O banco está empenhado em garantir que o sistema de vigilância esteja em conformidade com as regulamentações, evite problemas de privacidade e minimize falsos positivos. De acordo com Bernd Leukert, Diretor de Tecnologia, Dados e Inovação do Deutsche Bank, manter a imparcialidade, a não discriminação, a exatidão factual e a explicabilidade nos algoritmos de IA é crucial.

O papel crescente da IA ​​no setor bancário

O compromisso do Deutsche Bank com a IA faz parte de um esforço mais amplo em tecnologia e inovação. O banco conta com aproximadamente 16.000 funcionários dedicados a tecnologia, dados e inovação, sendo que cerca de metade deles são engenheiros que trabalham com código. A instituição também está recrutando ativamente talentos relacionados à IA, figurando entre os cinco principais bancos em recrutamento nessa área. No entanto, o uso de IA para detectar má conduta não está isento de desafios e riscos, como alertam alguns especialistas. Existe a preocupação de que a IA possa se concentrar em indicadores superficiais, como risos ou negociações excepcionalmente lucrativas, enquanto potencialmente ignora problemas mais significativos. Além disso, há o risco de os operadores contestarem as evidências contra eles, alegando que foram falhas devido a erros de software.

A crescente influência da IA ​​em todo o setor

O Deutsche Bank não está sozinho em seus esforços com IA. Outras instituições financeiras também estão utilizando IA para aprimorar a vigilância e obter insights mais profundos sobre as comunicações de seus operadores. A tecnologia do Google Cloud está sendo usada para converter dados não estruturados, como mensagens de texto e transcrições de chamadas, em formatos mais pesquisáveis. O Société Générale emprega IA para analisar comunicações em múltiplos canais, abrangendo uma ampla gama de idiomas e países. Os sistemas de IA, nesse contexto, são vistos como potenciais detectores de mentiras que ajudam adentcomportamentos suspeitos, embora possam não fornecer provas defi.

A incursão do Deutsche Bank no uso de IA para detectar condutas impróprias em conversas de operadores representa um passo significativo para fortalecer a vigilância e a supervisão no setor financeiro. À medida que as tecnologias de IA continuam a evoluir, elas oferecem o potencial de aprimorar a conformidade e a governança, ao mesmo tempo que levantam questões sobre sua precisão e possíveis vieses. A adoção da vigilância baseada em IA faz parte de uma tendência mais ampla no setor bancário, indicando a crescente importância da inteligência artificial para garantir a conformidade regulatória e prevenir condutas impróprias. No entanto, o setor precisa lidar com os desafios e riscos associados à implementação de IA em áreas sensíveis como monitoramento e vigilância.