Sicherheit wird ein Top-Thema auf dem Seoul AI Summit sein

Regierungen aus Südkorea und dem Vereinigten Königreich werden Technologieunternehmen auf dem dieswöchigen internationalen KI-Gipfel auffordern, sich mit der Aufsicht über die KI-Sicherheit auseinanderzusetzen.

Dieses Treffen ist eine Fortsetzung des ersten globalen KI-Sicherheitsgipfels, der letztes Jahr im Bletchley Park in Großbritannien stattfand, bei dem eine Reihe von Regierungen ihre Bedenken hinsichtlich der KI-Risiken äußerten. Auch KI-Unternehmen waren dort vertreten, da die Technologie, an der sie arbeiten, diese Risiken birgt.

Vor dem Hintergrund zahlreicher internationaler Bemühungen, Schutzmauern für die sich schnell entwickelnde Technologie zu schaffen, die das Potenzial hat, viele Aspekte der Gesellschaft zu revolutionieren, hat der Gipfel in Seoul Sorgen über aufkommende Risiken für den Alltag ausgelöst. 

„Obwohl positive Anstrengungen unternommen wurden, um die globale KI-Regulierung zu gestalten, bestehen weiterhin erhebliche Lücken.“

Der Gipfel im Vereinigten Königreich im November brachte Forscher, Regierungsbeamte, Tech-Führungskräfte und Vertreter von zivilgesellschaftlichen Organisationen zusammen, von denen viele unterschiedliche Ansichten über künstliche Intelligenz vertraten. Die Treffen fanden hinter verschlossenen Türen in Bletchley statt. Zusammen mit Politikern wie dem britischen Premierminister Rishi Sunak nahmen auch die CEOs von OpenAI, Sam Altman, und Tesla, Elon Musk, sowie viele andere teil.

Sicherheit wird beim KI-Gipfel im Fokus stehen

Sicherheit wird beim KI-Gipfel in Seoul, der am Dienstag beginnt, erneut eine oberste Priorität haben. Die Regierungen des Vereinigten Königreichs und Südkoreas sind Co-Hosts des Treffens am 21. und 22. Mai.

Führende KI-Unternehmen wie Microsoft, Anthropic, Google DeepMind, ChatGPT-Ersteller OpenAI und der französische KI-Startup Mistral sollen Vertreter entsenden.

Der britische Premierminister Rishi Sunak und der südkoreanische Präsident Yoon Suk Yeol verfassten zudem einen gemeinsamen Artikel, veröffentlicht am Montag in INews. Sie erkannten das Potenzial dieser Technologie an und äußerten ihren Willen, die Sicherheit zu gewährleisten, indem sie sagten:

„Gemeinsam sind wir entschlossen, das Potenzial dieser Technologie zu nutzen, um die Welt zum Besseren zu verändern.“

Sie betonten auch, dass neue Technologien neue Risiken mit sich bringen, so auch die KI. Sie wiesen auf den Missbrauch von KI durch Schurkenakteure hin, die KI absichtlich für Verfehlungen nutzen wollen.

Kürzlich hat OpenAI sein Sicherheitsteam, das sogenannte Superalignment-Team, aufgelöst, als sein Mitgründer Ilya Sutskever und einige andere Schlüsselmitarbeiter das Unternehmen verließen. Diese Entwicklung kam von der weltweit führenden KI-Company nur wenige Tage vor dem Gipfel in Seoul, dessen Schwerpunkt auf der Minderung der KI-Risiken liegt.

Auch lesen: Internationale Zusammenarbeit wird zur Bewältigung von KI-Risiken auf dem Bletchley-Park-Gipfel gefordert

In einer weiteren Entwicklung hat Anthropic heute seinen Bericht über verantwortungsvolle Skalierungspolitiken veröffentlicht, der nach Angaben des Unternehmens gute Ergebnisse gezeigt hat. Wir können diese Ergebnisse jedoch nicht bestätigen. Während wir nicht in der Lage sind, zu diesen Entwicklungen Stellung zu nehmen, bieten sie doch einige Denkanstöße.

Innovation muss weitergehen

Nach dem stürmischen Aufstieg von ChatGPT kurz nach seinem Launch im Jahr 2022 begannen Tech-Unternehmen weltweit, Milliarden von Dollar in den Aufbau ihrer generativen KI-Modelle zu investieren. Sunak und Yeol erwähnten die rasante Innovation, da täglich neue KI-Modelle auf den Markt kommen. Sie sagten:

„Die Regierung kann diese Innovation fördern, indem sie Milliarden investiert, die Spitzentechnologie-Forschung an unseren erstklassigen Universitäten vorantreibt und sicherstellt, dass wir die Startups, die die nächste große Idee hervorbringen könnten, nicht überregulieren.“

Befürworter generativer KI-Modelle haben die Technologie als einen Durchbruch gefeiert, der das Leben der Menschen und Unternehmen weltweit verbessern wird, da sie Text, Fotos, Musik und sogar Videos als Reaktion auf einfache Eingaben erzeugen kann.

Einige dieser Produkte, die öffentliche Aufmerksamkeit erregt haben, verfügen über eigene eingebettete Verzerrungen, was Anlass zur Sorge gibt. 

Auch lesen: Die Zusammenarbeit mit KI ist laut KI-Experten auf dem Global Leadership Forum von Fidic unerlässlich

Und es sind nicht nur diese; die Technologie, die hinter diesen Produkten steht, sogenannte Large Language Models (LLMs), ist ebenfalls zur Basistechnologie hinter vielen Lösungen in verschiedenen Sektoren geworden. Von autonomen Fahrzeugen bis hin zu medizinischen Lösungen verlassen sich viele auf generative KI-LLMs, um zu funktionieren.

Es gibt weiterhin besorgniserregende Stimmen

Zahlreiche Menschen haben internationale Richtlinien zur Kontrolle der Entwicklung und Anwendung von KI gefordert. So fordert beispielsweise eine in New York ansässige Bewegung namens Ban the Scan die Einstellung der Nutzung von Gesichtserkennung auf staatlicher und privater Ebene. 

Sie argumentieren, dass diese Technologien in die persönliche Freiheit eingreifen und eine hohe Rate an falsch-positiven Ergebnissen aufweisen. Eine Seite der Electronic Frontier Foundation heißt es:

„Gesichtserkennung ist eine Bedrohung für die Privatsphäre, die rassische Gerechtigkeit, die freie Meinungsäußerung und die Informationssicherheit. Gesichtserkennung in all ihren Formen, einschließlich Gesichtsscanning und Echtzeit-Tracking, stellt eine Bedrohung für die bürgerlichen Freiheiten und die individuelle Privatsphäre dar.“

Sie sind nicht die Einzigen. Menschenrechtsaktivisten, Regierungen und Kritiker haben davor gewarnt, dass KI auf viele Arten missbraucht werden kann. So können nichtstaatliche Akteure sie nutzen, um Wähler mit fiktiven Nachrichtenberichten oder sogenannten „Deepfake“-Bildern und -Videos von gewählten Amtsträgern zu beeinflussen. Eine weitere vertiefte Sorge sind die Berichte, die auftauchen, dass Staaten Schurkenelemente für ihre Interessen unterstützen.

„Wir werden auch die nächsten Schritte zur Gestaltung der globalen Standards unternehmen, die einen Wettlauf nach unten verhindern.“

Der gemeinsame Artikel des Duos erwähnte die obige Aussage und betonte, dass die Diskussion internationaler Normen für KI in einem offeneren Forum hilfreich wäre. Gleichzeitig haben einige südkoreanische Bürgerrechtsorganisationen die Organisatoren dafür kritisiert, nicht genügend Entwicklungsländer eingeladen zu haben.

Frankreich wird diese Woche auch eine „Viva Technology“-Konferenz abhalten, die vom LVMH-World-Group-Unterstützt wird, dem weltweit größten Luxusgüterkonzern. Im vergangenen Jahr hat Frankreich versucht, KI-Startups anzuziehen, um sich als europäischer KI-Champion zu positionieren.

Bericht von Cryptopolitan von Aamir Sheikh