Microsoft verbessert die Sicherheit von KI-Chatbots, um Betrüger abzuwehren

Microsoft Corp. hat eine Reihe von Sicherheitsfunktionen im Azure AI Studio hinzugefügt, die im Laufe der Zeit weiterhin die Wahrscheinlichkeit verringern sollten, dass seine Benutzer KI-Modelle in einen Modus konfigurieren, der dazu führt, dass sie sich abnormal oder unangemessen verhalten. Das multinationale Technologieunternehmen mit Sitz in Redmond, Washington, skizzierte die Verbesserungen in einem Blogbeitrag und betonte die Gewährleistung der Integrität von KI-Interaktionen und das Fördern von Vertrauen in der Nutzerbasis.

Prompt-Shields und mehr 

Zu den wichtigsten Entwicklungen gehört die Schaffung von „Prompt-Shields“, einer Technologie, die darauf ausgelegt ist, Prompt-Injections während der Konversation mit KI-Chatbots zu finden und zu blockieren. Dabei handelt es sich um die sogenannten Jailbreaks, im Wesentlichen Eingaben von Nutzern, die absichtlich so gestaltet sind, dass sie unerwünschte Antworten von den KI-Modellen hervorrufen.

Zum Beispiel spielt Microsoft indirekt eine Rolle bei Prompt-Injections, bei denen die Ausführung böswilliger Befehle möglich ist, und ein solches Szenario kann zu schwerwiegenden Sicherheitsfolgen wie Datendiebstahl und Systemübernahme führen. Die Mechanismen sind entscheidend für die Erkennung und Reaktion auf diese einzigartigen Bedrohungen in Echtzeit, so Sarah Bird, Chief Product Officer für Responsible AI bei Microsoft.

Microsoft fügt hinzu, dass es bald Warnungen auf dem Bildschirm des Benutzers geben wird, die darauf hinweisen, wenn ein Modell wahrscheinlich falsche oder irreführende Informationen äußert, was die Benutzerfreundlichkeit und das Vertrauen stärkt.

Vertrauen in KI-Tools aufbauen 

Die Microsoft-Bemühungen sind Teil einer größeren Initiative, die den Menschen Vertrauen in die zunehmend beliebte generative KI geben soll, die umfangreich in Diensten eingesetzt wird, die sich an einzelne Verbraucher und Unternehmenskunden richten. Microsoft ging mit einem feinen Kamm durch, nachdem es Vorfälle erlebt hatte, bei denen Nutzer in der Lage waren, den Copilot-Chatbot dazu zu bringen, bizarre oder schädliche Ausgaben zu produzieren. Dies wird ein Ergebnis unterstützen, das die Notwendigkeit starker Abwehrmaßnahmen gegen die genannten manipulativen Taktiken zeigt, die mit KI-Technologien und populärem Wissen wahrscheinlich zunehmen werden. Das Vorhersagen und dann Mildern erfolgt in Anerkennung von Angriffsmustern, wiejson wo ein Angreifer Fragen oder Prompts beim Rollenspiel wiederholt.

Als größter Investor und strategischer Partner von OpenAI treibt Microsoft die Grenzen dessen voran, wie verantwortungsvolle, sichere generative KI-Technologien integriert und geschaffen werden können. Beide sind dem verantwortungsvollen Einsatz und den grundlegenden Modellen der Generativen KI für Sicherheitsmaßnahmen verpflichtet. Aber Bird gab zu, dass diese großen Sprachmodelle, auch wenn sie zunehmend als Grundlage für viel der zukünftigen KI-Innovation angesehen werden, nicht manipulationsresistent sind.

Auf diesen Grundlagen aufzubauen wird mehr erfordern als nur sich auf die Modelle selbst zu verlassen; es需要一个 einen umfassenden Ansatz für KI-Sicherheit und -Sicherheit.

Microsoft hat kürzlich die Verschärfung der Sicherheitsmaßnahmen für sein Azure AI Studio angekündigt, um proaktive Schritte zu zeigen und zu garantieren, die unternommen werden, um die sich verändernde Landschaft der KI-Bedrohungen zu schützen.

Es strebt an, Missbrauch von KI zu vermeiden und die Integrität und Zuverlässigkeit von KI-Interaktionen zu bewahren, indem zeitnahe Bildschirme und Warnungen integriert werden.

Mit der ständigen Weiterentwicklung der KI-Technologie und ihrer Adoption in vielen Bereichen des täglichen Lebens wird es an der Zeit sein, dass Microsoft und der Rest der KI-Community eine sehr wachsame Sicherheitsposition beibehalten.