AKTUELLE NACHRICHTEN
FÜR SIE AUSGEWÄHLT

RBI entwirft KI-Regulierungsregeln, die Kill-Switches und Aufsicht auf Vorstandsebene für Banken vorschreiben

VonOpeyemi OlanrewajuOpeyemi Olanrewaju 2 Min. Lesezeit
Reserve Bank of India wird 35 Milliarden US-Dollar in die Wirtschaft injizieren und das Kreditwachstum um 2 % steigern
  • Indiens Reservebank schlug am 24. Juni Entwurfsregeln vor, die alle Banken und regulierte Finanzinstitute verpflichten, von der Geschäftsführung genehmigte KI-Governance-Rahmenwerke zu implementieren, einschließlich obligatorischer Not-Aus-Schalter für jedes KI-Modell und menschlicher Überwachung automatisierter Entscheidungen.
  • Die Leitlinien, die bis zum 24. Juli Feedback entgegennehmen, verlangen zudem eine risikobasierte Klassifizierung aller Modelle und machen Banken für von ihnen eingesetzte KI-Systeme Dritter verantwortlich.
  • Für Teilnehmer des Kryptomarktes könnten diese Regeln beeinflussen, wie Banken KI in Compliance- und Transaktionsüberwachungssystemen einsetzen, die als Fiat-Gateways dienen.

Die Reserve Bank of India (RBI) hat Entwurfsrichtlinien veröffentlicht, die Banken und andere regulierte Finanzunternehmen dazu verpflichten würden, Strukturen einzuführen, die zur Verwaltung von Risiken im Zusammenhang mit künstlicher Intelligenz und Machine-Learning-Modellen dienen.

Diese vorgeschlagenen Risikomanagementsysteme werden obligatorische Kill-Switches umfassen, die jedes KI-System, das schädliche Ausgaben erzeugt, sofort abschalten.

Die Interessen der RBI

Die von der RBI ausgearbeiteten vorgeschlagenen Regeln und Richtlinien zur Minderung dieser KI-Risiken stehen bis zum 24. Juli zur öffentlichen Kommentierung. Diese Richtlinien decken jedes in Bankoperationen verwendete Modell ab, von einfachen Tabellenkalkulationsrechnern bis hin zu komplexen generativen KI-Systemen.

Banken müssten Inventare aller in ihren Operationen verwendeten Modelle führen, Risiken regelmäßig auf individueller und unternehmerischer Ebene bewerten und Korrekturmaßnahmen ergreifen, wenn Risiken akzeptable Schwellenwerte überschreiten. Die Arten der Korrekturmaßnahmen können von strengeren Kontrollen bis zur vollständigen Außerbetriebnahme des Modells reichen, mit detaillierten Berichten über die Risiken, die zu solchen Maßnahmen führen.

Das Framework umfasst zudem ein Risikoklassifizierungssystem, das in mehrere Stufen unterteilt ist. Jedes Modell, unabhängig von seiner Komplexität, muss einem bestimmten Risikoniveau zugeordnet werden und unterliegt der menschlichen Aufsicht. Hochrisiko-Modelle erfordern die Genehmigung des Risikomanagementausschusses auf Vorstandsebene.

Kill-Switches und menschliche Aufsicht für KI-Modelle

Von Banken wird erwartet, dass sie in jede KI-Modellbereitstellung Mechanismen zur Überschreibung, Aussetzung und Deaktivierung integrieren, damit jedes Modell sofort abgeschaltet werden kann, wenn es fehlerhafte oder schädliche Ergebnisse liefert.

Die RBI wies auch auf das hin, was sie als „Automatisierungs Bias“ bezeichnete – das Risiko, dass Bankmitarbeiter KI-Ausgaben ohne Ausübung irgendeiner Form von eigenständigem Urteil akzeptieren. Für KI-Systeme, die mit Kunden interagieren, werden die Richtlinien Banken verpflichten, ihre Kunden darüber zu informieren, wenn sie mit einem KI-Modell interagieren, und ihnen die Möglichkeit zu geben, jederzeit mit einer menschlichen Kontaktperson zu sprechen.

Generative KI-Modelle, die mit Kunden oder externen Benutzern interagieren, werden unter dem ausgearbeiteten Vorschlag zusätzlichen Cybersicherheitsanforderungen unterliegen, so Reuters.

Drittanbieter-KI-Anbieter stehen in der Kritik

Banken haften vollständig für jedes KI-Modell, das sie einsetzen, unabhängig davon, ob es intern entwickelt oder von einem Anbieter erworben wurde. Die RBI erklärte zudem, dass die Konzentration in der Lieferkette eine ihrer Bedenken darstellt, und verwies auf das Risiko, dass Banken übermäßig von einer kleinen Anzahl globaler KI-Anbieter abhängig werden.

Für alle Drittanbieter-KI-Modelle ist eine unabhängige Validierung erforderlich. Banken müssen auch Schwellenwerte für KI- und Machine-Learning-Modelle definieren und sicherstellen, dass sie in verständlicher Sprache erklären können, warum ein Modell eine bestimmte Ausgabe erzeugt hat.

Die RBI verschärft seit einiger Zeit ihre Position zur Technologieführung. Diese Entwurfsrichtlinien stellen das erste Mal dar, in dem Indiens Zentralbank eine umfassende, auf Vorstandsebene angesiedelte Verantwortlichkeitsstruktur speziell für KI-Modellrisiken im gesamten Finanzsektor vorgeschlagen hat.

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.

Diesen Artikel teilen

Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.

Opeyemi Olanrewaju

Opeyemi Olanrewaju

Opeyemi spezialisiert sich auf die Erstellung und Verfeinerung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und die Wirtschaft. Er absolvierte sein Studium an der University of Ibadan mit einem MBBS-Abschluss. Er war Chefredakteur der redaktionellen Publikation seines Colleges und zuvor bei CFA tätig. Seit über sechs Jahren sorgt er als News Editor bei Cryptopolitan für die Einzigartigkeit der Inhalte.

MEHR … NACHRICHTEN