Microsoft stellt neue Azure KI-Sicherheitsfunktionen vor, um vor KI-Halluzinationen zu schützen

Microsoft hat einen erweiterten Toolkit mit Funktionen veröffentlicht, um die Sicherheit der Azure AI-Plattform zu erhöhen. Sarah Bind, Principal Product Officer der Microsoft Sentient AI Initiative, wird eine Reihe von Tools vorstellen, die sorgfältig entwickelt wurden, um die Risiken der Nutzung KI-gestützter Anwendungen anzugehen. 

In der Vorschau-Phase werden die neuen Sicherheitsvorkehrungen Azure AI vor Bedrohungen schützen, gesicherte Antworten bereitstellen und vor der Förderung und versteckten böswilligen Prompt-Injection schützen, ohne dass spezifische Red-Teams erforderlich sind.

Erweiterte KI-Sicherheitstools von Microsoft Azure

Das Ansprechen dieser Bedenken ist von größter Bedeutung für die effektive Integration von KI-Technologie in den öffentlichen Sektor, da es entscheidend ist, unvorhergesehene Risiken und Bedenken zu mindern, die ihre Implementierung und den langfristigen Erfolg behindern könnten.

Die Eisberg-Spitze-Tools wie Prompt Shields, Groundedness Detection und eine detaillierte Schwachstellenbewertung zur Hilfe bei der Überprüfung von Modell-Schwachstellen wurden ebenfalls enthüllt. 

Die Prompt Shields bieten ein Tor, das böswillige Prompt-Injection blockiert und Benutzer vor dem Risiko schützt, KI gegen die digitale Welt einzusetzen, indem die Nutzung verbotener Sprache/versteckter Prompts untersagt wird, da diese zur Ausnutzung von Benutzereingaben und Daten Dritter führen könnten. 

Dies wird insbesondere wichtig, wenn die Produktion von Material vermieden werden soll, das über historische Ereignisse falsch oder ungenau ist, was eine Herausforderung war, die bei KI-gesteuerten Modellen auftrat.

KI-Sicherheit und Halluzinationsminderung im Azure-Ökosystem

Textbasierte Halluzinationsminderung, ein weiterer wesentlicher Bestandteil von Microsofts Sicherheitstoolkit, richtet sich an eine Reihe von Halluzinationen und deren Neutralisierung. Die Erreichung dieses Ziels schafft ein Umfeld, in dem nicht jede Idee akzeptabel ist; nur diejenigen, die durch Beweise gestützt werden und überprüfbar sind, sind die geeignetsten Eingaben für KI-Systeme. 

Darüber hinaus ermöglichen Sicherheitsbewertungen eine tiefgehende Überwachung der Schwachstellen von Modellen, sodass diese Schwächen sofort identifiziert und die Sicherheitsmaßnahmen bei Bedarf entsprechend angepasst werden können. In Anbetracht dessen ist Microsoft bereit, auf individuelle Kundenbedürfnisse einzugehen und angemessene KI-Sicherheitsmaßnahmen bereitzustellen. 

Azure-Kunden können ihre Einstellungen anpassen, indem sie geschlechtsbezogene Inhalte, Hassrede und andere abwertende Inhalte, die ihren spezifischen Bedürfnissen entsprechen, ein- oder ausschließen. 

Ebenso wird ein solches zukünftiges Upgrade auch Administratoren dabei helfen zu bestimmen, ob ein Benutzer ein echter Tester oder ein böswilliger Benutzer ist, indem eine Reporting-Funktion bereitgestellt wird.

Microsofts wegweisender Ansatz zur sicheren und ethischen KI-Entwicklung

Die Bedeutung dieser Sicherheitsmaßnahmen erstreckt sich nicht nur auf die unmittelbaren Vorteile der Sicherheit, sondern auch darauf, dass die Informationstechnologie-Branche einen ganzheitlichen Ansatz zur KI-Entwicklung verinnerlicht, der sozial verantwortlich ist. Die Integration dieser Tools, wie Llama, in führende Versionen wie GPT-4 und Llama 2 würde bedeuten, dass eine lange Liste von KI-Anwendungen auf Azure AI von höheren Betrugs- und Fehlerkontrollmaßnahmen abhängen würde. 

Allerdings ist die Tatsache, dass weniger populäre Open-Source-Modelle möglicherweise erfordern, dass der Benutzer die Sicherheitstools manuell in das Hauptsystem integriert, eine Randbemerkung. Diese durchsetzenden Funktionen werden als Teil von Microsofts umfassender Strategie zur Schaffung eines sicheren und ethischen KI-Umfelds anerkannt. Azure AI-Kunden (z. B. KPMG, AT&T, Reddit) stellen große Kräfte dar, die darauf abzielen, Fortschritte in verschiedenen Bereichen zu implementieren. 

Ihre Auswirkungen werden daher voraussichtlich breit sein. Darüber hinaus dient Microsoft durch die Partnerschaft mit OpenAI und die Einführung des Azure OpenAI Service als Beweis dafür, dass es die Hauptkraft im KI-Bereich ist und den Entwicklern und Organisationen die Werkzeuge bietet, die sie benötigen, um Kompetenz in KI-Anwendungen zu erlangen.

Das letzte automatische Sicherheitsfeature von Microsoft wird als Reaktion auf die großen Risiken dargestellt, die durch die Sprache künstlicher Intelligenztechnologien entstehen. Indem Microsoft untersucht, wie KI vor Sicherheitsbedrohungen geschützt werden kann und die Live-Ausgaben von KI-Tools genau macht, definiert Microsoft auf diese Weise einen neuen Code für KI-Sicherheit. Sie verbessern die Sicherheit, Integrität und Zuverlässigkeit von KI-Lösungen und helfen, die Diskussion über verantwortungsvollen KI-Einsatz weiterzuentwickeln.

Je mehr sich die künstliche Intelligenz entwickelt, desto größer ist die Notwendigkeit einer sicheren Aufsicht unbestreitbar. Mit diesen neuen Sicherheitstechnologien verschiebt Microsoft die Latte deutlich höher hin zu einem wirklich sicheren und ethischen KI-Paradigma. Mit diesen Schutzmaßnahmen können Azure-Kunden von KI sicher sein, dass sie autonome Maschinen in ihre Operationen integrieren können, mit vollem Verständnis aller möglichen Risiken, die die künstliche Intelligenz mit sich bringt.

Ursprüngliche Geschichte von https://thehorizon.ai/microsofts-new-safety-system-can-catch-hallucinations-in-its-customers-ai-apps