Microsoft hat Azure AI Studio um eine Reihe von Sicherheitsfunktionen erweitert, die die Wahrscheinlichkeit verringern sollen, dass Nutzer KI-Modelle so konfigurieren, dass diese sich abnormal oder unangemessen verhalten. Das multinationale Technologieunternehmen mit Sitz in Redmond, Washington, beschrieb die Verbesserungen in einem Blogbeitrag und betonte dabei die Gewährleistung der Integrität von KI-Interaktionen sowie die Stärkung des Vertrauens der Nutzer.
Sofortschutzschilde und mehr
Zu den wichtigsten Entwicklungen zählt die Schaffung von „Prompt Shields“, einer Technologie, die unerwünschte Eingaben während der Kommunikation mit KI-Chatbots erkennt und unterbindet. Dabei handelt es sich um sogenannte Jailbreaks, also absichtliche Nutzereingaben, die eine unerwünschte Reaktion der KI-Modelle hervorrufen sollen.
Microsoft leistet beispielsweise indirekt seinen Beitrag durch sogenannte „Prompt Injections“, die die Ausführung schädlicher Befehle ermöglichen und schwerwiegende Sicherheitsrisiken wie Datendiebstahl und Systemübernahme nach sich ziehen können. Laut Sarah Bird, Chief Product Officer für verantwortungsvolle KI bei Microsoft, sind diese Mechanismen entscheidend, um diese einzigartigen Bedrohungen in Echtzeit zu erkennen und darauf zu reagieren.
Microsoft ergänzt, dass in Kürze Warnmeldungen auf dem Bildschirm des Nutzers angezeigt werden, die darauf hinweisen, wenn ein Model wahrscheinlich falsche oder irreführende Informationen verbreitet, um so mehr Benutzerfreundlichkeit und Vertrauen zu gewährleisten.
Vertrauen in KI-Tools aufbauen
Die Bemühungen von Microsoft sind Teil einer größeren Initiative, die das Vertrauen in die immer beliebter werdende generative KI stärken soll. Diese wird in zahlreichen Diensten für Privat- und Geschäftskunden eingesetzt. Microsoft hat die KI eingehend geprüft, nachdem Fälle bekannt wurden, in denen Nutzer den Copilot-Chatbot manipulieren und bizarre oder schädliche Antworten erhalten konnten. Dies unterstreicht die NotwendigkeittronAbwehrmaßnahmen gegen diese manipulativen Taktiken, die mit dem Fortschritt der KI-Technologien und dem wachsenden Bewusstsein der Bevölkerung voraussichtlich zunehmen werden. Die Vorhersage und anschließende Abwehr von Angriffen basiert auf der Erkennung von Angriffsmustern, beispielsweise wenn ein Angreifer wiederholt Fragen stellt oder Rollenspiele durchführt.
Als größter Investor und strategischer Partner von OpenAI treibt Microsoft die Entwicklung verantwortungsvoller und sicherer generativer KI-Technologien voran. Beide Unternehmen engagieren sich für den verantwortungsvollen Einsatz und die Entwicklung grundlegender Modelle generativer KI im Hinblick auf Sicherheitsmaßnahmen. Bird räumte jedoch ein, dass diese großen Sprachmodelle, obwohl sie zunehmend als Grundlage für viele zukünftige KI-Innovationen gelten, nicht manipulationssicher sind.
Um auf diesen Grundlagen aufzubauen, reicht es bei weitem nicht aus, sich nur auf die Modelle selbst zu verlassen; es bedarf eines umfassenden Ansatzes für die Sicherheit von KI.
Microsoft kündigte kürzlich die Verstärkung der Sicherheitsmaßnahmen für sein Azure AI Studio an, um die proaktiven Schritte aufzuzeigen und zu garantieren, die zum Schutz vor den sich verändernden Bedrohungen im Bereich der KI unternommen werden.
Ziel ist es, den Missbrauch von KI zu vermeiden und die Integrität und Zuverlässigkeit der KI-Interaktion durch rechtzeitige Bildschirme und Warnmeldungen zu gewährleisten.
Angesichts der ständigen Weiterentwicklung der KI-Technologie und ihrer zunehmenden Verbreitung in vielen Bereichen des täglichen Lebens ist es für Microsoft und die übrige KI-Community höchste Zeit, eine sehr wachsame Sicherheitspolitik zu verfolgen.
