Die rasante Entwicklung der künstlichen Intelligenz (KI) erfüllt unsere Welt entweder mit idealistischen Träumen oder mit Untergangsszenarien, doch keines von beiden erfasst die wahre Bedrohung.
Wir stehen nicht vor einer „großen Roboterrebellion“, bei der KIs oder Roboter die Macht feindlich übernehmen. Vergessen Sie die Filmszenen aus Terminator oder Matrix – so etwas ist ausgeschlossen. Die Technologie, mit der KIs die Welt erobern könnten, existiert noch nicht.
Künstliche Intelligenz mag in bestimmten Aufgaben, wie dem Falten von Proteinen oder dem Schachspielen, hervorragende Leistungen erbringen, aber sie ist nicht in der Lage, Armeen aufzubauen oder Nationen zu regieren.
Doch das Ausbleiben eines Roboteraufstands bedeutet nicht, dass wir sicher sind. Künstliche Intelligenz dringt still und leise in unser Leben ein – durch wenigermatic, aber nicht weniger wirkungsvolle Mittel: digitale Bürokratie.
Die wahre Gefahr geht nicht von Killerrobotern aus. Sie liegt vielmehr im Vordringen von KI in Entscheidungen, die unseren Alltag bestimmen. Der Mensch hat sich so entwickelt, dass er greifbare Bedrohungen fürchtet. Man denke nur an große Raubtiere wie Löwen und Haie.
Doch wir sind weniger darauf vorbereitet, Bedrohungen durch Papierkram, Dokumente oder Bürokratie zu erkennen. Die Bürokratie selbst ist eine relativ junge Erfindung, die erst vor 5.000 Jahren mit der Erfindung der Schrift entstand.
Vor der Schriftform hing beispielsweise der Besitz von Grundstücken von den Vereinbarungen der Gemeinschaft ab. Wenn man ein Grundstück „besaß“, dann deshalb, weil die Nachbarn es respektierten. Dokumente waren nicht erforderlich.
Von Tontafeln zu digitalen Bürokraten
Das änderte sich schlagartig, als die Menschen begannen, Tontafeln und Aufzeichnungen zu verwenden. Schriftliche Dokumente bedeuteten, dass Eigentumsrechte nicht mehr auf dem Konsens der Gemeinschaft beruhten, sondern auf offiziellen Aufzeichnungen. Die alten Mesopotamier machten aus Tonklumpen offizielle Eigentumssymbole und stellten damit das Eigentumsverständnis auf den Kopf.
Ein Gerichtsurteil konnte auf einer Tontafel beruhen, die den Besitz eines Grundstücks belegte, selbst wenn die Gemeinschaft anderer Meinung war. Heute basieren unsere Systeme immer noch auf ähnlichen Prinzipien, nur verwenden wir jetzt Siliziumchips und digitale Aufzeichnungen anstelle von Ton.
Dieser Wandel veränderte die Machtstrukturen grundlegend. Eigentum konnte nun ohne Zustimmung der lokalen Bevölkerung verkauft und gehandelt werden. Es entstanden bürokratische Strukturen, die Steuererhebung, Militärfinanzierung und eine zentrale Regierung erst ermöglichten.
Bürokraten spielten in diesen Systemen eine zentrale Rolle und nutzten Akten, Formulare und Stempel, um Armeen zu verwalten, Ressourcen zu verteilen und sogar Gesetze zu kontrollieren. Diese bürokratischen Systeme führten zur Entstehung zentralisierter Staaten mit weitreichender Kontrolle über ihre Bevölkerung – eine Kontrolle, die sich nun zunehmend auf künstliche Intelligenz verlagert.
Künstliche Intelligenz (KI) muss keine Roboterarmee aufbauen; sie muss lediglich bürokratische Systeme beherrschen. Innerhalb dieser Strukturen kann KI, wie wir heute sehen, weitreichendere Entscheidungen treffen als jeder Mensch. KIs entscheiden bereits über Kredite, Jobangebote, Studienplätze und sogar medizinische Diagnosen.
Stellen Sie sich KI-Banker vor, die über Kreditwürdigkeit entscheiden, KI-Richter, die Gerichtsverfahren fällen, oder militärische KIs, die Angriffsziele berechnen. KI braucht keine Roboterrebellion. Die bürokratische Macht, die sie erbt, ist bereits enorm.
Die Algorithmen sozialer Medien sind zwar noch primitiv, üben aber bereits enorme Macht aus. KI-Algorithmen, insbesondere die von Facebook, X (ehemals Twitter), YouTube und TikTok, werden mit einem einzigen Ziel entwickelt: Nutzerbindung. Je länger die Nutzer auf diesen Plattformen verweilen, desto mehr Geld fließt an die Konzerne.
Durch Ausprobieren mit Milliarden von Nutzern fanden diese Algorithmen heraus, dass das Auslösen von Emotionen wie Gier, Wut und Angst die Nutzerbindung erhöht. Indem sie diese emotionalen Knöpfe drücken, fesseln sie die Nutzer.
Diese Algorithmen beschränkten sich nicht darauf, die Online-Zeit zu optimieren. Sie gingen noch weiter und entdeckten, dass Inhalte, die starke Emotionen hervorrufen, die Nutzerbindung erhöhen. Diese Erkenntnis hat zur Verbreitung von Verschwörungstheorien, Fehlinformationen und gesellschaftlichen Spaltungen geführt.
Die Welt ist heute von digitaler Empörung, Panikmache und Polarisierung überschwemmt – dank Algorithmen, die Klicks über Zusammenhalt stellen. Indem sie emotionale Auslöser ausnutzen, haben Social-Media-Algorithmen die heutige Epidemie von Verschwörungstheorien und Fake News angeheizt.
Diese algorithmischen „Entscheider“ sind nicht grundsätzlich böswillig. Im Gegenteil, sie sind darauf optimiert, ihre Aufgaben effizient zu erfüllen. Dennoch fehlt ihren Entscheidungen die menschliche Intuition und der Kontext, die wir in solch wichtigen Bereichen üblicherweise erwarten.
Künstliche Intelligenz mag zwar schnellere oder konsistentere Entscheidungen treffen, doch wenn etwas schiefgeht, können die Folgen verheerend sein. Dieses potenzielle Risiko zeigt sich bereits im Einfluss sozialer Medien auf die Gesellschaft und dient als Warnung davor, wohin die unkontrollierte Macht der KI führen könnte.
Biden legt KI-Regeln für das Pentagon und die Geheimdienste fest
dent Joe Biden kündigte ein nationales Sicherheitsmemorandum mit neuen Regeln für den Einsatz von KI im Bereich der nationalen Sicherheit an, um das Pentagon und die Geheimdienste daran zu hindern, KI auf eine Weise einzusetzen, die demokratischen Werten widerspricht.
Dies ist die erste Richtlinie, die den Einsatz von KI im Bereich der nationalen Sicherheit regelt. Die neuen Regeln sollen KI-Experimente fördern und gleichzeitig sicherstellen, dass Regierungsbehörden KI nicht dazu nutzen, Rechte wie die Meinungsfreiheit einzuschränken oder die nukleare Kontrolle zu untergraben.
„Unser Memorandum legt den ersten regierungsweiten Rahmen für unsere Verpflichtungen zum KI-Risikomanagement fest“, sagte der Nationale Sicherheitsberater Jake Sullivan. Er skizzierte Ziele zur Vermeidung von Voreingenommenheit, zur Wahrung der Verantwortlichkeit und zur Sicherstellung der menschlichen Aufsicht über KI in sensiblen Bereichen.
Die Regeln sind zwar nicht rechtsverbindlich, decken aber Anwendungen der nationalen Sicherheit ab, wie Cybersicherheit, Spionageabwehr und Logistik bei Militäroperationen. Biden erließ letztes Jahr außerdem Exportkontrollen, um Chinas Fortschritte im Bereich der künstlichen Intelligenz durch eingeschränkten Technologiezugang zu bremsen.
Gemäß der Richtlinie wird das AI Safety Institute in Washington für die Überprüfung von KI-Werkzeugen auf Missbrauch vor deren Veröffentlichung zuständig sein, wobei die US-Geheimdienste der Überwachung von KI-Fortschritten in anderen Ländern Priorität einräumen.
