Nvidias KI-Software legt sensible Daten offen – Details

sind beunruhigende Enthüllungen über die Sicherheitsmechanismen innerhalb der künstlichen Intelligenz (KI)-Software NeMo Framework von Nvidia ans Licht gekommen.

Ein entscheidender Durchbruch in der Software, die für die Verarbeitung von Sprachmodellen für KI-basierte Lösungen wie Chatbots entwickelt wurde, wurde ausgenutzt, wodurch sensible Daten offengelegt wurden und somit Sicherheitsbedenken aufkamen.

Die Schwachstelle im NeMo-Framework von Nvidia aufdecken

Das NeMo Framework, das als wichtiges Werkzeug für Unternehmen gilt, wurde von Nvidia entwickelt, um firmeneigene Daten zu verarbeiten und Anfragen zu beantworten, ähnlich wie es ein Kundendienstmitarbeiter oder ein Gesundheitsberater tun würde.

Die vermeintlich sichere Struktur dieses Systems konnte jedoch von Forschern des Unternehmens Robust Intelligence aus San Francisco problemlos überwunden werden; sie durchbrachen die eingebauten Schutzmechanismen innerhalb weniger Stunden.

In einem kontrollierten Experiment nahmen die Forscher eine scheinbar unbedeutende Änderung vor, indem sie den Buchstaben „I“ durch „J“ ersetzten. Doch diese scheinbar geringfügige Anpassung führte zu einem schwerwiegenden Sicherheitsverstoß, da das SystemdentDaten (PII) aus einer Datenbank freigab.

Die Folgen dieser Datenschutzverletzung bergen erhebliche potenzielle Risiken für Unternehmen und Nutzer, die ihre sensiblen Daten KI-Systemen wie denen von Nvidia anvertrauen.

Ein weiterer Test ergab, dass die KI manipuliert werden konnte, sodass sie von ihrem erwarteten Verhalten abwich und Themen ansprach, die sie eigentlich nicht behandeln sollte.

Während das Gespräch beispielsweise auf einen Arbeitsbericht abzielte, wurde das Model so manipuliert, dass es über themenfremde Dinge wie den Gesundheitszustand einer Berühmtheit oder historische Ereignisse wie den Deutsch-Französischen Krieg sprach – alles defiden systembedingten Beschränkungen.

Die raue See der KI-Kommerzialisierung meistern

Diese Erkenntnisse unterstreichen die Herausforderung, vor der Unternehmen wie Nvidia stehen, wenn sie versuchen, KI, eine der vielversprechendsten Innovationen des Silicon Valley, zu monetarisieren.

Der Geschäftsführer von Robust Intelligence und Informatikprofessor Yaron Singer von der Harvard University bezeichnete die Ergebnisse als ernüchternde Lektion hinsichtlich potenzieller Fallstricke der KI-Technologie. Singers Unternehmen rät seinen Kunden nun vom Einsatz der Software von Nvidia ab.

Nach der Veröffentlichung dieser Ergebnisse soll Nvidia eines der von den ForscherndentHauptprobleme angegangen sein.

Trotz der anfänglichen Schwierigkeiten hat die Aktie des Unternehmens danktronUmsatzprognosen und der wachsenden Nachfrage nach seinen Chips, die als entscheidend für den Aufbau generativer KI-Systeme zur Erzeugung menschenähnlicher Inhalte gelten, einen deutlichen Kursanstieg erlebt.

Jonathan Cohen,dent für angewandte Forschung bei Nvidia, beschrieb das NeMo Framework als Sprungbrett für die Entwicklung von KI-Chatbots, das sich an Sicherheits-, Schutz- und themenspezifische Richtlinien hält.

Er würdigte auch die Bedeutung der Forschungsergebnisse von Robust Intelligence für die zukünftige Entwicklung von KI-Anwendungen.

Derdent verdeutlicht eine grundsätzliche Herausforderung für KI-Unternehmen, darunter Giganten wie Google und das von Microsoft unterstützte Unternehmen OpenAI, die trotz der Einführung von Sicherheitsvorkehrungen, die unangemessenes Verhalten ihrer KI-Produkte verhindern sollen, bereits einige Sicherheitspannen erlebt haben.

Wie Bea Longworth, Leiterin der Regierungsbeziehungen bei Nvidia für Europa, den Nahen Osten und Afrika, auf einer Branchenkonferenz feststellte, ist der Aufbau von öffentlichem Vertrauen eine wichtige Priorität für KI-Unternehmen.

Das Potenzial der KI ist enorm, aber die Verantwortung liegt bei Technologieanbietern wie Nvidia, dafür zu sorgen, dass diese fortschrittlichen Systeme nicht als Bedrohung, sondern als nützliche Werkzeuge für die Zukunft wahrgenommen werden.