- Generative KI entwickelt sich im Q2 2023 zu einem der wichtigsten Unternehmensrisiken, wobei Bedenken hinsichtlich des Datenschutzes und der Cybersicherheit bestehen.
- Wirtschaftliche Abschwünge verschärfen die Risiken für die Leistungsfähigkeit von Drittanbietern, mit potenziellen Auswirkungen auf Lieferketten und Finanzplanung.
- Die rasante öffentliche Akzeptanz von KI-Tools unterstreicht die Notwendigkeit eines proaktiven Risikomanagements in den Technologie- und Wirtschaftssektoren.
Generative künstliche Intelligenz (KI), einschließlich prominenter Modelle wie OpenAIs ChatGPT und Googles Bard, ist im Q2 2023 laut einer aktuellen Studie von Gartner, Inc. an die Spitze der unternehmerischen Risikobedenken gerückt.
Einblicke in die Umfrage
In einer umfassenden Umfrage, die im Mai 2023 durchgeführt wurde, wandte sich Gartner an 249 leitende Unternehmensrisikomanager, um eine benchmarkfähige Perspektive auf 20 bevorstehende Risiken zu bieten. Die Quarterly Emerging Risk Reports, eine detaillierte Analyse, beleuchten die potenziellen Auswirkungen, den Zeitplan, das Aufmerksamkeitsniveau und die wahrgenommenen Chancen im Zusammenhang mit diesen Risiken.
Die massenhafte Verfügbarkeit von generativer KI wurde als das am zweithäufigsten genannte Risiko identifiziert. Gleichzeitig belegte die Lebensfähigkeit von Drittanbietern den ersten Platz als das am schnellsten aufstrebende Risiko, das im Q2 2023-Umfrage genau beobachtet wurde. Unsicherheiten in der Finanzplanung und das Risiko der Cloud-Konzentration folgten, wobei die Handelsspannungen mit China die Top Fünf vervollständigten. Diese Risiken stellen eine Mischung aus aktuellen makroökonomischen, geopolitischen Volatilitäten und technologischen Bedenken dar.
Ran Xu, Direktor der Forschung in der Gartner Risk & Audit Practice, ist der Ansicht, dass das plötzliche Auftreten von generativer KI in den Top 10, auf Platz zwei, den schnellen Anstieg des öffentlichen Bewusstseins und der Adoption von generativen KI-Tools widerspiegelt. Es unterstreicht auch die enorme Bandbreite potenzieller Anwendungen und folglich die damit verbundenen Risiken.
Risiken durch generative KI
Gartner hat zuvor sechs inhärente Risiken der generativen KI und vier relevante Bereiche der KI-Regulierung identifiziert. Um das Unternehmensrisiko effektiv zu managen, betont Gartner drei entscheidende Bereiche: geistiges Eigentum, Datenschutz und Cybersicherheit.
Bedenken hinsichtlich des geistigen Eigentums
Generative KI-Tools können unbeabsichtigt Informationen in ihre Trainingsdatensätze integrieren. Ran Xu erklärte, dass Informationen, die in ein generatives KI-Tool eingegeben werden, Teil seines Trainingssets werden könnten. Dies bedeutet, dass sensible oder proprietäre Daten unbeabsichtigt in Ausgaben für andere Benutzer erscheinen könnten. Darüber hinaus könnte die Nutzung der Ausgaben dieser Tools unbeabsichtigt die Rechte am geistigen Eigentum vorheriger Benutzer verletzen. Gartner unterstreicht die Bedeutung, Unternehmensführer über die Vorsicht und Offenheit aufzuklären, die bei der Verwendung solcher Tools erforderlich sind, um sicherzustellen, dass Risiken im Bereich des geistigen Eigentums angemessen adressiert werden.
Datenschutzprobleme
Generative KI-Tools könnten Benutzerdaten unbemerkt an Dritte wie Anbieter oder Dienstleister weitergeben, ohne vorherige Ankündigung. Solche Handlungen könnten Datenschutzgesetze in zahlreichen Regionen verletzen. Bemerkenswerterweise haben China und die EU bereits Vorschriften erlassen, während in den USA, Kanada, Indien und dem Großbritannien weitere Gesetze in Vorbereitung sind.
Cybersicherheitsbedrohungen
Generative KI-Tools sind nicht vor Cyberbedrohungen gefeit. Xu wies darauf hin, dass Malware- und Ransomware-Codes von generativer KI erzeugt werden, nachdem sie getäuscht wurden, sowie Angriffe durch „Prompt-Injections“, die diese Tools dazu bringen, Informationen preiszugeben, die sie nicht preisgeben sollten. Dies ebnet den Weg für die großflächige Durchführung ausgefeilter Phishing-Angriffe.
Wirtschaftliche Bedingungen und die Lebensfähigkeit von Drittanbietern
Analysten hoben auch die potenzielle Verstärkung der Risiken hinsichtlich der Lebensfähigkeit von Drittanbietern aufgrund sich verschlechternder wirtschaftlicher Bedingungen hervor. Anhaltende Inflation, die weniger reaktiv auf Zinsanpassungen reagiert und länger anhält als erwartet, hat die Kosten- und Margenbelastungen für Drittanbieter verschärft. Da die Zentralbanken die Zinssätze zur Bekämpfung der Inflation anheben, löst dies eine Phase der Kreditverknappung aus, die Lieferanten aufgrund steigender Finanzierungskosten möglicherweise in die operative Einstellung oder Insolvenz treibt.
Ein breiter wirtschaftlicher Abschwung könnte zu einem unvorhergesehenen Nachfragerückgang führen, was die Lebensfähigkeit von Anbietern oder ihre Fähigkeit, Waren und Dienstleistungen pünktlich zu liefern, gefährdet.
Experten von Gartner haben drei mögliche Auswirkungen der Lebensfähigkeit von Drittanbietern skizziert, die Risikomanager im Auge behalten sollten: Verlust wesentlicher Eingaben und Materialien, fehlerhafte Annahmen bei der Finanzplanung und externe Herausforderungen in der Lieferkette.
Während sich die Landschaft der aufkommenden Risiken weiterentwickelt, müssen Unternehmen wachsam bleiben, insbesondere im Bereich der generativen KI. Die Kombination aus technologischen Fortschritten und wirtschaftlichen Schwankungen erfordert einen proaktiven Ansatz im Risikomanagement.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Glory Kaburu
Glory ist eine äußerst versierte Journalistin, die mit KI-Tools und Forschung bestens vertraut ist. Sie ist leidenschaftlich engagiert für KI und hat mehrere Artikel zu diesem Thema verfasst. Sie hält sich über die neuesten Entwicklungen in künstlicher Intelligenz, maschinellem Lernen und Deep Learning auf dem Laufenden und schreibt regelmäßig darüber.
