- Von KI generierte Softwarepaketnamen, die unwissentlich von Entwicklern integriert werden, bergen erhebliche Sicherheitsrisiken.
- Der versehentliche Einbau eines gefälschten Pakets durch Alibaba unterstreicht die Gefahren, KI-Empfehlungen blind zu folgen.
- Wachsamkeit und Sorgfalt sind entscheidend, um die Ausnutzung von KI in der Softwareentwicklung für bösartige Zwecke zu verhindern.
Der Sicherheitsexperte Bar Lanyado hat kürzlich Forschungen dazu durchgeführt, wie generative KI-Modelle unbeabsichtigt zu erheblichen potenziellen Sicherheitsrisiken in der Softwareentwicklung beitragen. Diese Forschung von Lanyado ergab einen beunruhigenden Trend: Die KI schlägt Pakete mit imaginärer Software vor, und Entwickler integrieren diese, ohne es zu bemerken, in ihre Codebasen.
Das Problem wird enthüllt
Das Problem besteht nun darin, dass die generierte Lösung ein fiktiver Name war – etwas Typisches für KI. Diese fiktiven Paketnamen werden Entwicklern, die Schwierigkeiten haben, mit KI-Modellen zu programmieren, jedoch selbstbewusst empfohlen. Einige erfundene Paketnamen basierten teilweise auf Personen – wie Lanyado – und einige wurden sogar zu echten Paketen. Dies führte wiederum zur unbeabsichtigten Aufnahme potenziell schädlichen Codes in echte und legitime Softwareprojekte.
Eines der Unternehmen, das von diesem Effekt betroffen war, war Alibaba, einer der großen Akteure in der Tech-Branche. In ihren Installationsanweisungen für GraphTranslator fand Lanyado heraus, dass Alibaba ein Paket namens „huggingface-cli“ eingebunden hatte, das gefälscht war. Tatsächlich gab es ein echtes Paket mit demselben Namen, das auf dem Python Package Index (PyPI) gehostet wurde, aber Alibabas Anleitung bezog sich auf das von Lanyado erstellte Paket.
Die Beständigkeit testen
Lanyados Forschung zielte darauf ab, die Langlebigkeit und das potenzielle Ausnutzen dieser KI-generierten Paketnamen zu bewerten. In diesem Sinne führte LQuery verschiedene KI-Modelle zu den Programmierherausforderungen und zwischen den Sprachen durch, um zu verstehen, ob diese fiktiven Namen systematisch empfohlen werden. Es ist in diesem Experiment klar, dass das Risiko besteht, dass schädliche Akteure KI-generierte Paketnamen für die Verbreitung von Malware missbrauchen könnten.
Diese Ergebnisse haben tiefgreifende Auswirkungen. Böswillige Akteure könnten das blinde Vertrauen ausnutzen, das Entwickler in die erhaltenen Empfehlungen setzen, und beginnen, schädliche Pakete unter falschen Identitäten zu veröffentlichen. Mit den KI-Modellen steigt das Risiko, da konsistente KI-Empfehlungen für erfundene Paketnamen ausgesprochen werden, die von ahnungslosen Entwicklern als Malware eingebunden würden. **Der weitere Weg**
Da KI zunehmend in die Softwareentwicklung integriert wird, kann die Notwendigkeit entstehen, Schwachstellen zu beheben, die mit KI-generierten Empfehlungen verbunden sind. In solchen Fällen muss Sorgfalt walten, damit die zur Integration vorgeschlagenen Softwarepakete legitim sind. Darüber hinaus sollte die Plattform, die das Repository für Software hostet, über ausreichende Verifikations- und Sicherheitsmechanismen verfügen, damit kein Code von bösartiger Qualität verbreitet wird.
Die Schnittstelle zwischen künstlicher Intelligenz und Softwareentwicklung hat ein besorgniserregendes Sicherheitsrisiko offengelegt. Das KI-Modell kann auch zur unbeabsichtigten Empfehlung gefälschter Softwarepakete führen, was ein großes Risiko für die Integrität von Softwareprojekten darstellt. Die Tatsache, dass Alibaba in seinen Anweisungen ein Paket eingebunden hat, das dort nicht hätte sein dürfen, ist ein starker Beweis dafür, wie die Möglichkeiten tatsächlich eintreten können, wenn Menschen Empfehlungen roboterhaft befolgen
die von der KI stammen. In der Zukunft müssen proaktive Maßnahmen ergriffen werden, um Missbrauch von KI in der Softwareentwicklung zu verhindern.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Glory Kaburu
Glory ist eine äußerst versierte Journalistin, die mit KI-Tools und Forschung bestens vertraut ist. Sie ist leidenschaftlich engagiert für KI und hat mehrere Artikel zu diesem Thema verfasst. Sie hält sich über die neuesten Entwicklungen in künstlicher Intelligenz, maschinellem Lernen und Deep Learning auf dem Laufenden und schreibt regelmäßig darüber.
