Britische Abgeordnete drängen auf KI-Stresstests, um Marktstörungen zu vermeiden

Eine parteiübergreifende Gruppe britischer Abgeordneter drängt die Regulierungsbehörden zur Einführung von KI-gestützten Stresstests für den Finanzsektor und warnt davor, dass der zunehmende Einsatz künstlicher Intelligenz Verbraucher und Märkte ernsthaften Störungen aussetzen könnte, wenn er nicht kontrolliert wird.

In einem am Dienstag veröffentlichten Bericht kritisierte der Finanzausschuss des Parlaments die Finanzaufsichtsbehörde (FCA) und die Bank von England für ihre aus Sicht der Abgeordneten vorsichtige „abwartende“ Regulierungshaltung gegenüber künstlicher Intelligenz, trotz deren weitverbreiteter Anwendung in der Londoner City.

Offizielle Stellen haben erklärt, dass die rasante technologische Entwicklung schnellere Reaktionen von Aufsichtsbehörden erfordert, beispielsweise die Einführung von Stresstests. Da Finanzunternehmen zunehmend auf künstliche Intelligenz setzen, könnten Verzögerungen die Stabilität gefährden. Wenn Maschinen Handelsgeschäfte, Kreditgenehmigungen oder Risikoprognosen bearbeiten, können sich Fehler unvorhergesehen auf mehrere Plattformen ripple . Wenn mehrere Systeme gleichzeitig ausfallen, kann es zu Chaos kommen, bevor überhaupt jemand reagieren kann.

Gesetzgeber warnen, dass KI die Finanzmärkte destabilisieren könnte.

Es mehren sich die Warnungen vor Aufsichtslücken im Zusammenhang mit dem rasanten Vormarsch künstlicher Intelligenz im britischen Finanzsektor. Einige Beamte bemängeln , dass den möglichen Folgen eines zu schnellen Wachstums der Systeme, das die Aufsichtsmöglichkeiten übersteigt, nicht genügend Aufmerksamkeit geschenkt wird. Der Finanzausschuss des Parlaments kritisiert Verzögerungen bei der Bank of England, der Finanzaufsichtsbehörde (FCA) und dem Finanzministerium im Risikomanagement. Das Tempo, mit dem private Unternehmen fortschrittliche Technologien einsetzen, übertrifft die aktuellen Regulierungsbemühungen.

Zu langes Warten könnte bedeuten, dass Probleme auftreten, bevor jemand reagieren kann. Der Ausschuss weist darauf hin, dass die Verantwortlichen zögern und hoffen, dass keine Probleme entstehen. Wenn Systeme ausfallen, bleibt möglicherweise kaum Zeit, um schnell genug zu reagieren. Anstatt später einzugreifen, ist es sinnvoller, das Verhalten der künstlichen Intelligenz in kritischen Situationen zu beobachten. Die Verantwortlichen sind überzeugt, dass Vorsorge besser ist als hektisches Handeln, wenn bereits alles zusammenbricht.

Unternehmen im britischen Finanzsektor verlassen sich zunehmend auf künstliche Intelligenz (KI) – oft ohne deren Leistungsfähigkeit unter Belastung zu testen. Über 75 % der britischen Finanzinstitute nutzen KI in zentralen Funktionen, sodass ihr Einfluss auf wirtschaftliche Entscheidungen kaum sichtbar ist. Investitionsentscheidungen werden mithilfe von Maschinenlogik statt menschlicher Intuition getroffen. Genehmigungen werden automatisiert, Kreditvergabeprozesse automatisiert, und Algorithmen beurteilen die Kreditwürdigkeit ohne herkömmliche Prüfung. Versicherungsansprüche werden nicht mehr durch die Beurteilung von Sachbearbeitern, sondern durch kodierte Auswertungen bearbeitet.

Selbst einfachste Dokumente werden digital statt manuell bearbeitet. Geschwindigkeit ist dabei defi; gleichzeitig erhöht die Schnelligkeit aber auch die Wahrscheinlichkeit von Fehlern. Ein einziger Fehltritt kann weitreichende Folgen haben, da die Verbindungen zwischen den Organisationen eng sind.

Jonathan Hall, ein externes Mitglied des Finanzpolitischen Ausschusses der Bank von England, erklärte den Abgeordneten, dass maßgeschneiderte Stresstests für künstliche Intelligenz den Aufsichtsbehörden helfen könnten, neu auftretende Risiken frühzeitig zu erkennen. Stressszenarien, die schwere Marktstörungen simulieren, könnten, so Hall, Schwachstellen in KI-Systemen aufdecken, bevor es zu umfassenderen Auswirkungen auf die Systemstabilität kommt. 

Abgeordnete fordern Regulierungsbehörden auf, KI-Risiken zu testen und klare Regeln festzulegen

Die Forderung der Abgeordneten nach entschiedeneren Maßnahmen, um zu verhindern, dass künstliche Intelligenz die wirtschaftliche Stabilität schleichend untergräbt – angefangen bei Stresstests –, erscheint für Aufsichtsbehörden logisch. Finanzaufsichtsbehörden stehen unter zunehmendem Druck der Gesetzgeber, maßgeschneiderte, auf KI ausgerichtete Bewertungen einzuführen, die den in Konjunkturphasen für Banken angewandten Bewertungen ähneln.

Unter Belastung können automatisierte Systeme unvorhersehbar reagieren; Aufsichtsbehörden benötigen Beweise, keine Annahmen. Nur durch solche Tests können die Behörden genau erkennen, wie Algorithmen Störungen auslösen oder Turbulenzen verstärken könnten, sobald sich die Märkte verändern.

Stresstests könnten simulieren, was passiert, wenn künstliche Intelligenz unerwartet Märkte stört. Wenn Algorithmen sich ungewöhnlich verhalten oder nicht mehr funktionieren, können Aufsichtsbehörden die Reaktionen der Banken unter Druck beobachten. 

Eine vorausschauende Planung deckt Schwachstellen auf, nicht nur in Handelsplattformen, sondern auch in Risikobewertungen und Sicherheitsvorkehrungen von Institutionen. Probleme frühzeitig zu beheben, ist sinnvoller, als erst zu reagieren, wenn sich Chaos rasant in den Finanzkanälen ausbreitet.dentfrühzeitige Erkennung von Problemen ermöglicht es Aufsichtsbehörden und Unternehmen, rechtzeitig gegenzusteuern.

Neben Stresstests betonen Abgeordnete die Notwendigkeit klarer Richtlinien für den routinemäßigen Einsatz künstlicher Intelligenz in Finanzinstituten. Die Finanzaufsichtsbehörde (FCA) wird dringend aufgefordert, klare Grenzen für ethische KI-Anwendungen in der Praxis festzulegen.

Die Leitlinien müssen klarstellen, wie die bestehenden Verbraucherschutzbestimmungen greifen, wenn automatisierte Systeme anstelle von Menschen Entscheidungen treffen, um Verantwortlichkeitslücken im Fehlerfall zu vermeiden. Die Verantwortungszuweisung sollte eindeutig sein, wenn KI fehlerhaft arbeitet, damit Unternehmen die Schuld nicht auf Maschinen abwälzen können.

Sollte es bei einer zentralen Technologieplattform zu Problemen kommen, könnten viele Banken gleichzeitig in Schwierigkeiten geraten. Einige wenige Unternehmen tragen heute eine große Verantwortung für den reibungslosen Betrieb der Bankensysteme im ganzen Land. 

Wenn Dienste von Anbietern wie Amazon Web Services oder Google Cloud in Schwierigkeiten geraten, ripple Auswirkungen schnell spürbar. Gesetzgeber weisen darauf hin, wie fragil die Systeme werden, wenn so viele von so wenigen abhängig sind. Je größer die Abhängigkeit, desto gravierender trifft es alle, wenn eine Störung auftritt.