Deutsche Bank nutzt KI zur Aufdeckung von Fehlverhalten betrügerischer Händler

Die Deutsche Bank, Deutschlands größtes Kreditinstitut, setzt verstärkt auf künstliche Intelligenz (KI), um ihre Überwachungskapazitäten zu erweitern. Sie prüft den Einsatz von Machine-Learning-Tools der Google Cloud, um potenzielle Anzeichen von Fehlverhalten durch die Analyse des Tonfalls von Telefongesprächen ihrer Händler zu erkennen. Dieser Schritt erfolgt vor dem Hintergrund weltweit verstärkter Kontrollen und staatlicher Maßnahmen gegen unlautere Geschäftspraktiken, die zu hohen Geldstrafen führen, um effektivere Überwachungssysteme für Finanzinstitute zu entwickeln. Die KI-gestützte Überwachung der Deutschen Bank geht über die reine Wortanalyse hinaus und erkennt Tonfallveränderungen oder Anzeichen von Zynismus, um letztendlich Aufsicht und Governance zu verbessern.

KI-Überwachung für verbesserte Kontrolle

Die Deutsche Bank startet eine umfassendere KI-Initiative, deren Schwerpunkt unter anderem die Überwachung von Händlergesprächen ist. Die derzeitigen Überwachungsinstrumente der Bank analysieren primär den Gesprächsinhalt, erfassen aber weder Tonfallveränderungen noch subtile Hinweise auf Fehlverhalten. Das neue KI-System soll harmlose Äußerungen wie „Das bleibt unter uns“ bei der Planung einer Überraschungsparty von böswilligen Absichten unterscheiden. Diese Fähigkeit, den Tonfall zu verstehen, soll eine verbesserte Kontrolle ermöglichen und die Governance innerhalb des Instituts grundlegend verändern.

KI-Schulung und Compliance

Um das KI-System effektiv zu trainieren, nutzt die Deutsche Bank Aufzeichnungen bestehender Händlergespräche, um es mit der verwendeten Sprache und den Gesprächsnormen vertraut zu machen. Die KI-Software leitet die Analysten anschließend zu relevanten Bereichen, die endgültige Entscheidung über das weitere Vorgehen liegt jedoch bei den Mitarbeitern. Die Bank legt großen Wert darauf, dass das Überwachungssystem den Vorschriften entspricht, Datenschutzprobleme vermeidet und Fehlalarme minimiert. Laut Bernd Leukert, Chief Technology, Data and Innovation Officer der Deutschen Bank, ist die Wahrung von Fairness, Nichtdiskriminierung, faktischer Korrektheit und Nachvollziehbarkeit in KI-Algorithmen von entscheidender Bedeutung.

Die wachsende Rolle der KI im Bankwesen

Das Engagement der Deutschen Bank im Bereich KI ist Teil ihrer umfassenderen Technologie- und Innovationsoffensive. Die Bank beschäftigt rund 16.000 Mitarbeiter in den Bereichen Technologie, Daten und Innovation, etwa die Hälfte davon sind Softwareentwickler. Das Institut rekrutiert aktiv KI-Fachkräfte und zählt zu den fünf führenden Banken in diesem Bereich. Der Einsatz von KI zur Aufdeckung von Fehlverhalten ist jedoch nicht ohne Herausforderungen und Risiken, wie einige Experten warnen. Es besteht die Sorge, dass KI sich auf oberflächliche Indikatoren wie Lachen oder ungewöhnlich profitable Transaktionen konzentriert und dabei möglicherweise wichtigere Probleme übersieht. Zudem besteht das Risiko, dass Händler Beweise gegen sie anfechten und behaupten, diese seien aufgrund von Softwarefehlern fehlerhaft.

Der wachsende Einfluss von KI in der gesamten Branche

Die Deutsche Bank ist mit ihren KI-Bemühungen nicht allein. Auch andere Finanzinstitute setzen KI ein, um die Überwachung zu verbessern und tiefere Einblicke in die Kommunikation von Händlern zu gewinnen. Google Cloud-Technologie wird verwendet, um unstrukturierte Daten wie Textnachrichten und Gesprächsprotokolle in besser durchsuchbare Formate umzuwandeln. Die Société Générale nutzt KI, um die Kommunikation über verschiedene Kanäle hinweg zu analysieren und dabei eine Vielzahl von Sprachen und Ländern abzudecken. KI-Systeme gelten in diesem Kontext als potenzielle Lügendetektoren, die helfen, verdächtiges Verhaltendent, auch wenn sie keine defiBeweise liefern können.

Der Einstieg der Deutschen Bank in den Einsatz von KI zur Aufdeckung von Fehlverhalten in Händlergesprächen ist ein wichtiger Schritt zur Stärkung von Überwachung und Kontrolle im Finanzsektor. Mit der Weiterentwicklung von KI-Technologien steigt das Potenzial zur Verbesserung von Compliance und Governance, gleichzeitig wirft dies aber auch Fragen hinsichtlich ihrer Genauigkeit und möglicher Verzerrungen auf. Die Einführung KI-gestützter Überwachung ist Teil eines breiteren Trends im Bankensektor und unterstreicht die wachsende Bedeutung künstlicher Intelligenz für die Sicherstellung der Einhaltung regulatorischer Vorgaben und die Prävention von Fehlverhalten. Die Branche muss sich jedoch mit den Herausforderungen und Risiken auseinandersetzen, die mit dem Einsatz von KI in sensiblen Bereichen wie Monitoring und Überwachung verbunden sind.