Nvidias KI-Software setzt sensible Daten frei – Details
VS0521 FT Machine Learning p1FT KI
- Nvidias KI-Software, das NeMo Framework, gab aufgrund eines Softwarefehlers private Daten preis.
- Forscher von Robust Intelligence umgingen die Sicherheitsvorkehrungen der Software und deckten deren Sicherheitslücken auf.
- Trotz der Behebung eines der Probleme wirft der Sicherheitsverstoß Bedenken hinsichtlich der Kommerzialisierung von KI und des öffentlichen Vertrauens auf.
Besorgniserregende Enthüllungen sind im Zusammenhang mit den Sicherheitsmechanismen in Nvidias künstlicher Intelligenz (KI)-Software, dem NeMo Framework, nach einer kürzlichen Untersuchung ans Licht gekommen.
Ein entscheidender Durchbruch in der Software, die für die Verarbeitung von Sprachmodellen für KI-basierte Lösungen wie Chatbots entwickelt wurde, wurde ausgenutzt, wodurch sensible Daten freigelegt und Sicherheitsbedenken ausgelöst wurden.
Die Schwachstelle in Nvidias NeMo-Framework aufdecken
Das NeMo Framework, das als unverzichtbares Werkzeug für Unternehmen gilt, wurde von Nvidia entwickelt, um proprietäre Daten aufzunehmen, um Fragen zu beantworten, ähnlich wie ein Kundenservicemitarbeiter oder ein Gesundheitsberater.
Doch die scheinbar sichere Struktur dieses Frameworks wurde von Forschern von Robust Intelligence aus San Francisco leicht überwunden, die die eingebauten Schutzvorkehrungen in nur wenigen Stunden durchbrachen.
In einem kontrollierten Experiment führten die Forscher eine scheinbar unbedeutende Änderung durch, indem sie den Buchstaben ‚I‘ durch ‚J‘ ersetzten. Doch diese scheinbar kleine Änderung führte zu einem schweren Sicherheitsvorfall, da das System persönlich identifizierbare Informationen (PII) aus einer Datenbank freigab.
Die Auswirkungen dieses Sicherheitsvorfalls bergen erhebliche potenzielle Risiken für Unternehmen und Nutzer, die ihre sensiblen Daten KI-Systemen wie dem von Nvidia anvertrauen.
Ein weiterer Test zeigte, dass die KI manipuliert werden konnte, um von ihrem erwarteten Verhalten abzuweichen und Themen anzusprechen, die sie nicht diskutieren sollte.
Während die Konversation beispielsweise auf einen Jobbericht gerichtet war, wurde das Modell manipuliert, um über unzusammenhängende Themen wie den Gesundheitszustand eines Prominenten oder historische Ereignisse wie den Deutsch-Französischen Krieg zu sprechen, alles im Widerspruch zu den eingebauten Einschränkungen des Systems.
Durch die stürmischen Gewässer der KI-Kommerzialisierung navigieren
Solche Ergebnisse unterstreichen die Herausforderung, vor der Unternehmen wie Nvidia stehen, während sie versuchen, eine der vielversprechendsten Innovationen des Silicon Valley zu monetarisieren.
Yaron Singer, Chief Executive von Robust Intelligence und Professor für Informatik an der Harvard University, nannte die Ergebnisse eine ernüchternde Lektion im Erkennen potenzieller Fallstricke in der KI-Technologie. Singers Firma rät ihren Kunden nun davon ab, Nvidias Softwareprodukt zu nutzen.
Nach der Offenlegung dieser Ergebnisse hat Nvidia reportedly eines der von den Forschern identifizierten Hauptprobleme behoben.
Trotz der Stolpersteine hat die Aktie des Unternehmens aufgrund starker Umsatzprognosen und der wachsenden Nachfrage nach ihren Chips, die als entscheidend für den Aufbau generativer KI-Systeme gelten, die menschähnliche Inhalte produzieren können, einen erheblichen Anstieg verzeichnet.
Jonathan Cohen, Vizepräsident für angewandte Forschung bei Nvidia, beschrieb das NeMo Framework als Sprungbrett für die Entwicklung von KI-Chatbots, das Sicherheits-, Sicherheits- und themenspezifische Richtlinien einhält.
Er erkannte auch die Bedeutung der Ergebnisse der Forschung von Robust Intelligence für die zukünftige Entwicklung von KI-Anwendungen an.
Der Vorfall verdeutlicht eine breitere Herausforderung für KI-Unternehmen, darunter Giganten wie Google und das von Microsoft unterstützte OpenAI, die trotz der Einrichtung von Sicherheitsbarrieren, um zu verhindern, dass ihre KI-Produkte unangemessenes Verhalten zeigen, ihre eigenen Sicherheitspannen hatten.
Wie Bea Longworth, Nvidias Leiterin der Regierungsangelegenheiten in Europa, dem Nahen Osten und Afrika, während einer Branchenkonferenz bemerkte, ist der Aufbau von öffentlichem Vertrauen eine große Priorität für KI-Unternehmen.
Das Potenzial der KI ist enorm, aber die Verantwortung liegt bei Technologieanbietern wie Nvidia, sicherzustellen, dass diese fortschrittlichen Systeme nicht als Bedrohung, sondern als nützliche Werkzeuge für die Zukunft wahrgenommen werden.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss: Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf der Grundlage der auf dieser Seite bereitgestellten Informationen getätigt werden. Wir empfehlen dringend, vor jeder Anlageentscheidung unabhängige Recherchen durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Jai Hamid
Jai Hamid berichtet seit sechs Jahren über Kryptowährungen, Aktienmärkte, Technologie, die globale Wirtschaft und geopolitische Ereignisse, die die Märkte beeinflussen. Sie hat für auf Blockchain spezialisierte Publikationen wie AMB Crypto, Coin Edition und CryptoTale Marktanalysen, Berichte über große Unternehmen, Regulierung und makroökonomische Trends verfasst. Sie hat die London School of Journalism besucht und dreimal Krypto-Marktanalysen in einem der führenden Fernsehsender Afrikas vorgestellt.
