Daten nutzen für eine sichere KI-Zukunft

Im Jahr 2023 eroberte Künstliche Allgemeine Intelligenz (AGI) die breite Öffentlichkeit und veränderte alles von der Hausaufgabenhilfe bis zur Erstellung von Social-Media-Inhalten. Prominente Beispiele, wie die Verwendung von KI in der King’s Speech, unterstrichen ihren wachsenden Einfluss. Diese rasante Integration von KI in den Alltag hat jedoch Bedenken hervorgerufen. Narrative neigen oft zu dystopischen Ängsten und überschatten so die potenziellen Vorteile der Technologie. Ein zentrales Problem ist die Geschwindigkeit der KI-Einführung, die die Entwicklung notwendiger rechtlicher und ethischer Rahmenbedingungen übersteigt.

Große Technologiekonzerne wurden wegen unzureichender Selbstregulierung kritisiert, die als „Selbstbewertung ihrer KI-Hausaufgaben“ bezeichnet wurde. Daraufhin mobilisierten die USA Branchenführer wie Amazon, Google, OpenAI und Microsoft zur Unterzeichnung eines wegweisenden freiwilligen Abkommens. Dieser Pakt ermöglicht esdent Sicherheitsexperten, ihre neuesten KI-Modelle zu bewerten. Auch in Großbritannien kündigte Premierminister Rishi Sunak Pläne für das weltweit erste Institut für KI-Sicherheit an, das nationale Sicherheitsrisiken angehen soll. Dieser Schritt fiel zeitlich mit einem internationalen Abkommen zwischen den USA, Großbritannien und mehreren anderen Nationen zusammen, das KI vor Missbrauch schützen und „sichere Systeme von Grund auf“ gewährleisten soll.

Weltweit entbrannte ein inoffizieller Wettstreit zwischen Regierungen um die Vorreiterrolle bei der KI-Regulierung. Ein bedeutender Meilenstein war die Ausrichtung des ersten KI-Sicherheitsgipfels in Bletchley Park durch Großbritannien. Im Mittelpunkt der Diskussionen standen die Schattenseiten der KI, die mit den Risiken eines Atomkriegs verglichen wurden. Es wurden jedoch Bedenken hinsichtlich des Ausschlusses von Bevölkerungsgruppen geäußert, die am stärksten von KI betroffen sein könnten, beispielsweise in Bereichen wie Beschäftigung oder algorithmischer Entscheidungsfindung.

Die Herausforderung, das Unbekannte zu regulieren

Die Strategie Großbritanniens, wie sie von Rishi Sunak dargelegt wurde, kreist um das Dilemma, eine noch nicht vollständig verstandene Technologie zu regulieren. Dieses Thema stand im Mittelpunkt des Open Data Institute Summit, wo ich gemeinsam mit Mitgründer Tim Berners-Lee die Bedeutung von Transparenz bei KI-Modellen und deren Daten hervorhob. Wir argumentierten, dass eine effektive Überprüfung von KI diejenigen einbeziehen müsse, die ihre Komplexität verstehen – eine Gruppe, zu der in der Regel keine Politiker gehören.

Die öffentliche Besorgnis, insbesondere hinsichtlich der Auswirkungen von KI auf Arbeitsplätze, war deutlich spürbar. Dies zeigtedent im 146-tägigen Streik der Writers Guild of America und in der Klage von Getty Images gegen Stability AI. Trotz dieser Bedenken hat die Kreativbranche generative KI angenommen und bemerkenswerte Bilder sowie preisgekrönte Kunstwerke hervorgebracht. Tools wie Nightshade wurden entwickelt, um die Rechte von Urhebern zu schützen, indem sie die von KI verwendeten Daten manipulieren und so deren Fähigkeit, menschliche Arbeit zu replizieren, einschränken.

Ein wichtiger Aspekt im Jahr 2023 war die Datenkompetenz. Umfragen unter Fortune-1000-Unternehmen zeigten eine Stagnation bei Initiativen in den Bereichen Daten, Analytik und KI. Der Fachkräftemangel im digitalen Bereich und im Datenmanagement in Großbritannien, insbesondere im öffentlichen Dienst, wurde als dringendes Problem hervorgehoben.

2024 und darüber hinaus: Daten als Grundlage der KI

Mit Blick auf das Jahr 2024 wird deutlich, dass die Grundlage für effektive und sichere KI in Daten liegt. Leistungsfähigkeit und Sicherheit der KI hängen direkt von der Qualität und der Verwaltung der verwendeten Daten ab. Angesichts der bevorstehenden Parlamentswahlen ist es unerlässlich, dass die Wahlprogramme der politischen Parteien Daten als Eckpfeiler des technologischen Fortschritts anerkennen und sich zu deren verantwortungsvoller Erhebung und Weitergabe verpflichten. Ein weiterer entscheidender Aspekt ist die Aufrechterhaltung der menschlichen Kontrolle bei KI-gestützten Entscheidungen. So muss sichergestellt sein, dass jederzeit ein Mensch zur Verfügung steht, um von Algorithmen getroffene Entscheidungen zu überprüfen und gegebenenfalls Einspruch einzulegen.

Die Herausforderungen, mit denen OpenAI Ende letzten Jahres bei der Steuerung und Überwachung der rasanten KI-Entwicklung konfrontiert war, unterstrichen die Notwendigkeit vielfältiger und qualifizierter menschlicher Beteiligung an KI-Schulung und -Anwendung. Der Bildungssektor beginnt, KI als universelles Lernwerkzeug und nicht als Mittel zum Plagiat zu betrachten. Die Hoffnung für 2024 besteht darin, eine datenkompetente Generation heranzubilden, die Fakten von KI-generierter Fiktion unterscheiden kann und für die entstehenden Berufsfelder in einer KI-gestützten Welt gerüstet ist.