NIST veröffentlicht Entwurf eines Leitfadens zu KI-Sicherheit und -Standards

Das US-amerikanische Nationale Institut für Standards und Technologie (NIST) hat proaktiv die Herausforderungen im Zusammenhang mit Künstlicher Intelligenz (KI) angegangen und vier Entwürfe für Publikationen veröffentlicht, die die Sicherheit und Zuverlässigkeit von KI-Systemen gewährleisten sollen. Bis zum 2. Juni 2024 können die Entwürfe öffentlich kommentiert werden. Dies ist die Reaktion des NIST auf die Exekutivverordnung zu KI vom Oktober 2023, die die Eindämmung der Auswirkungen von KI-Technologien betont und gleichzeitig verantwortungsvolle Innovation sowie den Erhalt der technologischen Führungsrolle der USA fördert.

Minderung der Risiken generativer KI

Ein zentrales Anliegen in der NIST- Veröffentlichungen sind Sicherheitsbedrohungen durch generative KI-Technologien. Das KI-Risikomanagement-Framework (KI-RMF) für generative KI nennt zwölf Risiken, die von der leichten Zugänglichkeit sensibler Informationen bis hin zur Verbreitung von Hassrede und schädlichen Inhalten reichen. Die Bewältigung dieser Risiken ist ein Schwerpunkt der NIST-Arbeit. Das Framework hatdent, die Organisationen in Betracht ziehen können. Es bietet Entwicklern eine Struktur, an der sie sich orientieren und ihre Ziele und Prioritäten aufeinander abstimmen können.

Minimierung der Risiken von Trainingsdaten 

Ein weiterer wichtiger Inhalt der Entwürfe betrifft die Sicherung der Trainingsdaten für KI-Systeme. Die Entwurfspublikation zu sicheren Softwareentwicklungspraktiken für generative KI und Dual-Use-Grundlagenmodelle, die Teil der bestehenden NIST-Richtlinien ist, soll die Integrität von KI-Systemen angesichts der Besorgnis über manipulierte Trainingsdaten gewährleisten. Das NIST schlägt verschiedene Methoden zur Sicherung des Computercodes vor und bietet Lösungen für Datenprobleme, einschließlich Datenerfassung und -nutzung. Dadurch werden KI-Systeme besser vor potenziellen Bedrohungen geschützt.

Förderung von Transparenz bei KI-generierten Inhalten

Angesichts der rasant zunehmenden Verbreitung synthetischer digitaler Materialien entwickelt das NIST in seinem demnächst erscheinenden Dokument „Reduzierung der Risiken durch synthetische Materialien“ Maßnahmen zur Risikominderung. Mithilfe digitaler Wasserzeichen und Metadatenerfassung will das NIST die tracunddentveränderter Medien ermöglichen und so hoffentlich negative Folgen wie die Verbreitung nicht einvernehmlicher intimer Bilder und kinderpornografischen Materials verhindern.

Förderung des globalen Engagements für KI-Standards

In Anerkennung der Tatsache, dass internationale Zusammenarbeit ein Schlüsselfaktor für die Etablierung von KI-bezogenen Standards ist, hat das NIST einen Entwurf für einen globalen Aktionsplan für KI- Standards erstellt. Ziel dieses Plans ist es, die Kooperation und Koordination zwischen internationalen Partnern, Normungsorganisationen und der Privatwirtschaft zu fördern, um die Entwicklung von Technologiestandards für KI zu beschleunigen. Indem das NIST der Transparenz der Inhaltsherkunft und den Testmethoden höchste Priorität einräumt, will es eintronSystem schaffen, das den sicheren und ethisch einwandfreien Betrieb von KI-Technologien weltweit gewährleistet.

NIST GenAI wird initiiert

Darüber hinaus hat das Institut NIST GenAI entwickelt, ein Softwaretool zur Bewertung und Quantifizierung der Leistungsfähigkeit generativer KI-Tools. NIST GenAI dient dem NIST AI Safety Institute als Instrument, um Herausforderungen und Pilotstudien durchzuführen und so zwischen den Eingaben von KI-Algorithmen und von Menschen erstellten Inhalten zu unterscheiden. Hauptziel dieser Initiative ist es, die Zuverlässigkeit von Informationen zu fördern und Leitlinien für die ethische Dimension der Inhaltserstellung im Zeitalter der KI bereitzustellen.

Die Veröffentlichung dieser Entwurfsberichte durch das NIST und der Start von NIST GenAI markieren eine aktive und entwicklungsorientierte Initiative zur Lösung gesellschaftlicher Herausforderungen im Bereich der Künstlichen Intelligenz (KI) und zur Sicherung von Innovationen. Durch die Aufforderung des NIST an wichtige Akteure, wie beispielsweise Unternehmen, die KI-Technologien entwickelt oder eingesetzt haben, Beiträge einzuholen, kann die Plattform die Festlegung von Richtlinien für KI-Sicherheit und -Standards beeinflussen. Durch ihre aktive Beteiligung an diesem Prozess können die Akteure dazu beitragen, die besten Vorgehensweisen und den Branchenstandard zu etablieren, was letztendlich zu einem sicheren und vertrauenswürdigen KI-Ökosystem führt.