Britische Gesetzgeber fordern KI-Stresstests, um Marktstörungen zu vermeiden

Eine parteiübergreifende Gruppe britischer Gesetzgeber drängt Regulierungsbehörden, KI-fokussierte Stresstests für den Finanzsektor einzuführen, und warnt davor, dass der steigende Einsatz von künstlicher Intelligenz Verbraucher und Märkte ernsthaften Störungen aussetzen könnte, wenn er nicht überwacht wird.

In einem am Dienstag veröffentlichten Bericht kritisierte das Treasury Select Committee die Financial Conduct Authority (FCA) und die Bank of England für eine vorsichtige „Wait-and-See“-Regulierungsstrategie gegenüber künstlicher Intelligenz, trotz ihrer weit verbreiteten Einführung in der City of London.

Beamte haben erklärt, dass sich schnell entwickelnde Technologien schnellere Reaktionen von Aufsichtsbehörden erfordern, wie die Einführung von Stresstests. Da Finanzunternehmen zunehmend auf künstliche Intelligenz zurückgreifen, können Verzögerungen die Stabilität kosten. Wenn Maschinen Handel, Kreditgenehmigungen oder Risikovorhersagen übernehmen, können Fehler ohne Vorwarnung über mehrere Plattformen hinweg wirken. Wenn mehrere Systeme zusammen versagen, kann es zu Turbulenzen kommen, bevor jemand reagiert.

Gesetzgeber sagen, KI könnte Finanzmärkte durcheinander bringen.

Warnungen bezüglich Lücken in der Aufsicht tauchen auf, während künstliche Intelligenz schnell durch den britischen Finanzsektor vordringt. Einige Beamte schlagen vor, dass unzureichende Aufmerksamkeit darauf gelegt wird, was geschehen könnte, wenn Systeme der Aufsicht zu weit voraus sind. Das Treasury Select Committee des Parlaments weist auf Verzögerungen der Bank of England, der Financial Conduct Authority und des Finanzministeriums bei der Risikosteuerung hin. Das Tempo, das private Unternehmen mit fortschrittlichen Tools vorgeben, übertrifft die aktuellen Bemühungen um die Regelsetzung.

Zu langes Warten kann bedeuten, dass Probleme auftreten, bevor jemand reagieren kann. Der Ausschuss weist darauf hin, dass Beamte zurückhaltend agieren, in der Hoffnung, dass keine Probleme entstehen. Wenn Systeme versagen, gibt es oft kaum noch Spielraum, um Dinge schnell genug zu beheben. Es ist sinnvoller, zuzusehen, wie künstliche Intelligenz in schwierigen Momenten agiert, als später einzugreifen. Beamte sind der Ansicht, dass Vorbereitung besser ist als das Chaos zu bewältigen, wenn alles bereits zusammenbricht.

Unternehmen im britischen Finanzsektor verlassen sich zunehmend täglich auf künstliche Intelligenz, oft ohne Stress-Tests durchzuführen, um die Leistung der Systeme unter Druck zu prüfen. Über 75 % der britischen Finanzinstitute nutzen KI in zentralen Funktionen, sodass ihr Einfluss auf wirtschaftliche Entscheidungen kaum sichtbar ist. Entscheidungen über Investitionen werden auf Basis maschineller Logik und nicht menschlicher Intuition getroffen. Automatisierung steuert Genehmigungen, während Algorithmen die Kreditwürdigkeit ohne traditionelle Prüfung beurteilen. Versicherungsansprüche werden nicht auf Grundlage der Bewertungen von Sachbearbeitern, sondern durch codierte Auswertungen bearbeitet.

Selbst einfache Papierarbeiten werden digital statt manuell erledigt. Geschwindigkeit definiert diese Prozesse; doch Schnelligkeit erhöht die Anfälligkeit, wenn Mängel zutage treten. Ein einziger Fehler kann weite Kreise ziehen, da die Verbindungen zwischen den Organisationen eng sind.

Jonathan Hall, externes Mitglied des Financial Policy Committee der Bank of England, sagte Gesetzgebern, dass maßgeschneiderte Stress-Tests für künstliche Intelligenz Aufsichtsbehörden helfen könnten, aufkommende Risiken früher zu erkennen. Stress-Szenarien, die schwere Marktstörungen simulieren, könnten Schwachstellen in KI-Rahmenwerken aufdecken, bevor breitere Auswirkungen auf die systemische Resilienz eintreten. 

Abgeordnete fordern Regulierungsbehörden auf, KI-Risiken zu testen und klare Regeln festzulegen

Das Beharren der Abgeordneten auf schärferen Schritten, um zu verhindern, dass künstliche Intelligenz die wirtschaftliche Stabilität unbemerkt untergräbt, beginnend mit Stress-Tests, erscheint für Aufsichtsbehörden logisch. Finanzaufsichtsbehörden stehen unter wachsendem Druck der Gesetzgeber, maßgeschneiderte Bewertungen im Fokus auf KI anzunehmen, ähnlich denen, die für Banken in Rezessionszeiten verwendet werden.

Unter Druck können automatisierte Tools unvorhersehbar handeln; Wächterbehörden benötigen Beweise, nicht Annahmen. Nur durch solche Tests können Behörden genau sehen, wie Algorithmen Störungen auslösen oder Turbulenzen verstärken könnten, sobald sich die Märkte verschieben.

Stresstests könnten nachahmen, was passiert, wenn künstliche Intelligenz die Märkte unerwartet stört. Wenn Algorithmen seltsam reagieren oder ausfallen, können Aufsichtsbehörden die Reaktionen der Banken unter Druck beobachten. 

Vorbereitung im Voraus deckt Schwachstellen nicht nur in Handelsplattformen, sondern auch in Risikobewertungen und Schutzmaßnahmen innerhalb von Institutionen auf. Probleme früher zu beheben, erscheint klüger, als zu reagieren, nachdem sich das Chaos schnell durch die Finanzkanäle ausgebreitet hat. Das Identifizieren von Problemen im Voraus ermöglicht es sowohl Aufsichtsbehörden als auch Unternehmen, den Kurs zu korrigieren, solange noch Zeit ist.

Neben Stress-Tests betonen die Abgeordneten auch die Notwendigkeit klarer Richtlinien für den routinemäßigen Einsatz von künstlicher Intelligenz innerhalb von Finanzinstituten. Die Financial Conduct Authority wird aufgefordert, klare Grenzen für den ethischen Einsatz von KI in der Praxis festzulegen.

Die Leitlinien müssen klarstellen, wie die aktuellen Verbraucherschutzbestimmungen gelten, wenn automatisierte Systeme Entscheidungen treffen, anstatt Menschen, um Verantwortlichkeitslücken bei Ausfällen zu vermeiden. Die Zuweisung der Verantwortung sollte explizit sein, wenn KI fehlerhaft handelt, sodass Unternehmen die Schuld nicht auf Maschinen abwälzen können.

Sollte etwas mit nur einer einzigen großen Technologieplattform schiefgehen, könnten viele Banken gemeinsam ins Wanken geraten. Eine Handvoll Unternehmen trägt nun große Verantwortung für den reibungslosen Betrieb der Bankensysteme im ganzen Land. 

Wenn Dienste, die von Namen wie Amazon Web Services oder Google Cloud gehostet werden, auf Probleme stoßen, schlagen die Kipp-Effekte schnell zu. Gesetzgeber weisen darauf hin, wie zerbrechlich die Lage wird, wenn sich so viele auf so wenige verlassen. Je größer die Abhängigkeit wird, desto härter trifft es alle, wenn ein Fehler durchrutscht.