MIT-Forscher kündigen Repository für KI-Risiken an

Forscher des MIT und anderer Organisationen haben das AI Risk Repository entwickelt – eine umfassende Datenbank dokumentierter Risiken, die durch KI-Systeme verstärkt werden. Dies geschieht vor dem Hintergrund der rasanten technologischen Entwicklung, die auch mit den Risiken des Einsatzes von KI-Systemen einhergeht.

Das Repository soll Entscheidungsträger in verschiedenen Institutionen wie Regierung, Forschung, Wirtschaft und Industrie dabei unterstützen, die mit KI verbundenen Risiken einzuschätzen, obwohl diese über transformative Fähigkeiten verfügt.

Das Repository sorgt für eine geordnete Dokumentation der KI-Risiken

Da verschiedene Organisationen und Forscher die Bedeutung der Bewältigung von KI-Risiken anerkannt haben, waren die Bemühungen, diese Risiken zu dokumentieren und zu kategorisieren, größtenteils ungeschickt, was zu einer fragmentierten Landschaft widersprüchlicher Klassifizierungssysteme geführt hat.

„Wir wollten einen umfassenden Überblick über die Risiken der KI, den wir als Checkliste verwenden können“, sagte Peter Slattery, zukünftiger Postdoktorand und Projektleiter bei MIT FutureTech, gegenüber VentureBeat.

„Bei der Durchsicht der Fachliteratur stellten wir jedoch fest, dass die bestehenden Risikoklassifizierungen wie Puzzleteile sind: einzeln interessant und nützlich, aber unvollständig.“

Slattery.

Das AI Risk Repository begegnet dieser Herausforderung durch die Zusammenführung von Informationen aus 43 bestehenden Taxonomien, darunter peer-reviewte Artikel, Preprints, Konferenzbeiträge und Berichte.

Dieser sorgfältige Kurationsprozess hat zur Erstellung einer Datenbank mit über 700 exklusiven Risiken geführt. Das Repository verwendet ein zweidimensionales Klassifizierungssystem.

Erstens werden Risiken anhand ihrer Ursachen klassifiziert, wobei die haftende Einheit (Mensch oder KI), die Absicht (unbeabsichtigt oder international) und der Zeitpunkt (nach der Entwicklung oder vor der Bereitstellung) berücksichtigt werden.

Laut MIT hilft diese grundlegende Kategorisierung dabei, die Situationen und Mechanismen zu verstehen, durch die KI-Risiken entstehen können.

MIT-Forscher kategorisierten KI-Risiken in sieben

Andererseits werden Risiken in sieben verschiedene Bereiche unterteilt, darunter Fehlinformationen und böswillige Akteure, Missbrauch, Diskriminierung und Toxizität, Datenschutz und Sicherheit.

Das AI Risk Repository ist als lebendige Datenbank konzipiert und öffentlich zugänglich; Institutionen können es herunterladen und nutzen.

Die Forschungsteams können planen, die Datenbank regelmäßig mit neuen Risiken, neuesten Erkenntnissen und sich entwickelnden Trends zu aktualisieren.

Das KI-Risiko-Repository soll auch eine praktische Ressource für Unternehmen verschiedener Branchen sein. Für Institutionen, die KI-Systeme entwickeln, dient das Repository als unschätzbare Checkliste zur Risikobewertung und -minderung.

„Organisationen, die KI einsetzen, können von der Verwendung der KI-Risikodatenbank und der Taxonomien als hilfreiche Grundlage für eine umfassende Bewertung ihres Risikos und ihres Risikomanagements profitieren.“

MIT-Forscher.

„Die Taxonomien könnten sich auch als hilfreich erweisen, um spezifische Verhaltensweisen zudent, die zur Minderung bestimmter Risiken erforderlich sind“, fügten die Forscher hinzu.

Eine Organisation, die beispielsweise ein KI-gestütztes Einstellungssystem einführt, kann das Repository nutzen, um potenzielle Risiken im Zusammenhang mit Diskriminierung und Voreingenommenheit zu erkennen.

Ein Unternehmen, das KI zur Inhaltsmoderation einsetzt, kann sich daher den Bereich der „Fehlinformationen“ zunutze machen, um die potenziellen Risiken im Zusammenhang mit KI-generierten Inhalten zu verstehen und die notwendigen Sicherheitsvorkehrungen zu treffen.

MIT-Forscher arbeiteten mit Kollegen der University of Queensland, des Future of Life Institute, der KU Leuven und dem KI-Startup Harmony Intelligence zusammen, um akademische Datenbanken zu durchsuchen und Dokumente zu finden, die sich auf KI-Risiken beziehen.

Die Forscher gaben außerdem bekannt, dass das KI-Risiko-Repository weitere Forschungsarbeiten informieren wird, sobald sie weitere Lückendent, die Aufmerksamkeit erfordern.

„Wir werden dieses Datenrepository nutzen, um mögliche Lücken oder Ungleichgewichte im Umgang von Organisationen mit Risiken zudent“, sagte Neil Thompson, Leiter des MIT FutureTech Lab.