Die indische Zentralbank (RBI) entwirft KI-Governance-Regeln, die Not-Aus-Schalter und eine Aufsicht auf Vorstandsebene für Banken vorsehen

Die Reserve Bank of India (RBI) hat einen Entwurf von Richtlinien veröffentlicht, die Banken und andere regulierte Finanzinstitute dazu verpflichten würden, Strukturen einzuführen, die zur Bewältigung von Risiken im Zusammenhang mit künstlicher Intelligenz und Modellen des maschinellen Lernens dienen.

Die vorgeschlagenen Risikomanagementsysteme werden obligatorische Not-Aus-Schalter beinhalten, die jedes KI-System, das schädliche Ergebnisse liefert, sofort abschalten.

Die Interessen der RBI

Die von der RBI vorgeschlagenen Regeln und Richtlinien zur Minderung dieser KI-Risiken stehen bis zum 24. Juli zur öffentlichen Stellungnahme offen. Diese Richtlinien umfassen alle im Bankwesen verwendeten Modelle, von einfachen Tabellenkalkulationsprogrammen bis hin zu komplexen generativen KI-Systemen.

Banken müssten Bestandsaufnahmen aller in ihrem Betrieb befindlichen Modelle führen, die Risiken regelmäßig sowohl auf individueller als auch auf Unternehmensebene bewerten und Korrekturmaßnahmen ergreifen, sobald die Risiken akzeptable Schwellenwerte überschreiten. Die Korrekturmaßnahmen können von strengeren Kontrollen bis zur vollständigen Stilllegung des Modells reichen, wobei detaillierte Berichte über die Risiken, die zu solchen Maßnahmen führen, erforderlich sind.

Das Rahmenwerk umfasst auch ein mehrstufiges Risikoklassifizierungssystem. Jedem Modell, unabhängig von seiner Komplexität, muss eine bestimmte Risikostufe zugewiesen und eine menschliche Aufsicht durchgeführt werden. Modelle mit hohem Risiko bedürfen der Genehmigung durch den Risikomanagementausschuss des Vorstands.

Not-Aus-Schalter und menschliche Aufsicht für KI-Modelle

Von Banken wird erwartet, dass sie in jede KI-Modellimplementierung Übersteuerungs-, Aussetzungs- und Deaktivierungsmechanismen einbauen, damit jedes Modell sofort abgeschaltet werden kann, wenn es fehlerhafte oder schädliche Ergebnisse liefert.

Die RBI wies zudem auf eine sogenannte „Automatisierungsverzerrung“ hin, also das Risiko, dass Bankangestellte KI-Ergebnisse ohne unabhängigedent freigeben. Für kundenorientierte KI-Systeme verpflichten die Richtlinien Banken, ihre Kunden über die Interaktion mit einem KI-Modell zu informieren und ihnen jederzeit die Möglichkeit zu geben, mit einem Mitarbeiter zu sprechen.

Laut Reuters werden generative KI-Modelle, die mit Kunden oder externen Nutzern interagieren, gemäß dem Entwurf des Vorschlags zusätzlichen Cybersicherheitsanforderungen unterliegen

Drittanbieter von KI-Lösungen geraten unter Beobachtung

Banken bleiben für jedes von ihnen eingesetzte KI-Modell vollumfänglich verantwortlich, unabhängig davon, ob es intern entwickelt oder von einem Anbieter erworben wurde. Die indische Zentralbank (RBI) äußerte zudem Bedenken hinsichtlich der Konzentration in der Lieferkette und wies auf das Risiko hin, dass Banken zudent von wenigen globalen KI-Anbietern werden.

Für alle KI-Modelle von Drittanbietern ist einedent Validierung erforderlich. Banken müssen zudem Schwellenwerte für KI- und Machine-Learning-Modelle defiund sicherstellen, dass sie nachvollziehbar begründen können, warum ein Modell ein bestimmtes Ergebnis erzeugt hat.

Die RBI verschärft ihre Position zur Technologie-Governance bereits seit einiger Zeit. Mit diesem Entwurf legt die indische Zentralbank erstmals eine umfassende, auf Vorstandsebene verankerte Verantwortlichkeitsstruktur speziell für KI-Modellrisiken im gesamten Finanzsektor vor.