Der SEC-Vorsitzende Gensler hat seine Überprüfung von KI-Technologien in der Wertpapierbranche verschärft und auf dem „AI: Balancing Innovation & Regulation“-Gipfel von The Messenger am 5. Dezember 2023 in Washington, D.C., vor der Praxis des „AI Washing“ gewarnt. Bezüglich falscher Darstellungen über die Nutzung von KI-Technologie durch ein Unternehmen und deren Potenzial betont Gensler, dass diese Art von Geschäftspraktiken unter dieselben Wertpapiervorschriften fallen, die „vollständige, faire und wahrheitsgemäße“ Offenlegungen vorschreiben.
Die SEC prüft die Implementierung von KI in Finanzinstitutionen
Da die SEC ihren Fokus auf KI verstärkt, führt die Abteilung für Prüfungen eine umfassende Untersuchung der Nutzung und Steuerung von KI-Technologien durch Anlageberater durch. Die Untersuchung umfasst verschiedene Aspekte, darunter Marketingmaterialien, Drittanbieter, Interessenkonflikte und Notfallpläne für Systemausfälle. Die dabei gewonnenen Erkenntnisse werden maßgeblich die Regulierungsagenda der SEC für den Einsatz von KI in der Wertpapierbranche prägen.
Obwohl die SEC die Präsenz von KI seit vielen Jahren anerkennt und die Technologie selbst nutzt, warnt Vorsitzender Gensler weiterhin vor den mit KI verbundenen Mikro- und Makroproblemen. Die anhaltende Überwachung durch die SEC, gepaart mit Genslers Befürchtungen hinsichtlich potenzieller Verzerrungen und Interessenkonflikte auf Mikroebene sowie der Entstehung von Monokulturen, die zu Marktinstabilität auf Makroebene führen können, zeugt von einer proaktiven Haltung gegenüber den Herausforderungen, die KI im Finanzsektor mit sich bringt.
Leitlinien für regulierte Unternehmen
Broker-Dealer, Berater und andere regulierte Unternehmen sollten die Komplexität der Integration von KI-Technologien in ihre Geschäftsprozesse sorgfältig berücksichtigen. Gensler hebt mehrere wichtige Aspekte hervor und rät Unternehmen dringend, KI-Modelle und Datensätze zu verstehen, Datenschutz und Schutz geistigen Eigentums zu priorisieren, sich vor irreführenden Aktivitäten zu schützen und Offenlegungen sowie Marketingmaterialien auf Richtigkeit zu überprüfen.
KI-Architekturen und die Dynamik von Datensätzen verstehen – Regulierte Unternehmen werden dazu angehalten, sich eingehend mit den Feinheiten von KI-Modellen und den zugrunde liegenden Datensätzen auseinanderzusetzen. Angesichts der vielfältigen Risiken, die von Algorithmen und Daten ausgehen, müssen Unternehmen robuste Kontrollmechanismen implementieren, präzise Offenlegungen erstellen und die relevanten Sorgfaltsstandards einhalten, um Transparenz gegenüber ihren Kunden zu gewährleisten.
Datenschutz und Schutz geistigen Eigentums – Der Schutz von Daten und geistigem Eigentum hat höchste Priorität. Sorgfältige Prüfung von Datensätzen und Erfassungsprozessen, insbesondere in generativen KI-Szenarien, ist unerlässlich. Zu den Schutzmaßnahmen gehören das Verständnis der Datenherkunft, die Einhaltung von Datenbeschränkungsprinzipien, das Löschen unnötiger Daten, die Bewertung von Teilmengen, die Tokenisierung oder Anonymisierung von Daten sowie die menschliche Überprüfung von KI-Ergebnissen.
Umgang mit nicht-öffentlichen Informationen und Eindämmung von Marktverzerrungen – Neben Offenlegungspflichten und der Vermeidung von Interessenkonflikten wird die SEC den Einsatz von KI im Hinblick auf betrügerische Aktivitäten wie Insiderhandel und Marktmanipulation genau überwachen. Unternehmen müssen Datensätze auf wesentliche nicht-öffentliche Informationen prüfen, Kontrollmechanismen implementieren, um zu verhindern, dass Handelsalgorithmen und generative KI Wertpapierkurse künstlich beeinflussen, und die Beschränkungen für die Verwendung oder Offenlegung vertraulicher dent .
Überprüfen Sie Ihre Angaben regelmäßig und aktualisieren Sie diese bei Bedarf – Branchenteilnehmer werden dringend gebeten, ihre Angaben und Marketingmaterialien fortlaufend zu überprüfen und zu aktualisieren. Die Richtigkeit der Angaben zum Einsatz von KI-Technologien und deren Leistungsfähigkeit ist entscheidend für die Aufrechterhaltung des Vertrauens und die Einhaltung gesetzlicher Vorschriften.
Während die SEC ihre umfassende Prüfung von KI im Wertpapierhandel fortsetzt, liegt es in der Verantwortung der regulierten Unternehmen, sich im sich wandelnden Umfeld der KI-Integration verantwortungsvoll zu bewegen. Die von Vorsitzendem Gensler aufgezeigten Herausforderungen unterstreichen die Notwendigkeit eines differenzierten Ansatzes, der Innovation und regulatorische Vorgaben in Einklang bringt. Wie werden die Akteure der Branche auf diese Richtlinien reagieren, und welche weiteren Maßnahmen können ergriffen werden, um den verantwortungsvollen Einsatz von KI im sich ständig verändernden Finanzsektor zu gewährleisten?
