Der Aufstieg der KI in der Entscheidungsfindung

Die Explosion der künstlichen Intelligenz (KI) füllt unsere Welt entweder mit idealistischen Träumen oder Doomsday-Prognosen, doch keine davon erfasst die wahre Bedrohung.

Wir stehen nicht vor einer „großen Roboter-Rebellion“, bei der KIs oder Roboter eine feindselige Übernahme inszenieren. Vergessen Sie die Filmszenen in The Terminator oder The Matrix – das ist nicht in Sicht. Die Technologie, damit KIs die Welt erobern können, existiert nicht.

KI mag bei bestimmten Aufgaben hervorragend sein, wie beim Falten von Proteinen oder beim Schachspielen, aber sie ist nicht in der Lage, Armeen aufzubauen oder Nationen zu führen.

Doch dieses Fehlen eines Roboter-Aufstands bedeutet nicht, dass wir sicher sind. KI dringt leise in unser Leben durch weniger dramatische, aber ebenso mächtige Mittel ein: digitale Bürokratie.

Die wahre Gefahr sind keine Killer-Roboter. Es ist das Eindringen der KI in Entscheidungen, die unser tägliches Leben kontrollieren. Menschen haben sich entwickelt, um greifbare Bedrohungen zu fürchten. Denken Sie an große Raubtiere, wie Löwen und Haie.

Aber wir sind weniger darauf vorbereitet, Bedrohungen durch Papierkram, Dokumente oder Bürokratie zu erkennen. Bürokratie selbst ist eine relativ neue Erfindung, die sich erst vor 5.000 Jahren mit der Entstehung des Schreibens entwickelte.

Vor dem Schreiben hing der Besitz, zum Beispiel, davon ab, was die Gemeinschaft vereinbart hatte. Wenn Sie ein Grundstück „besaßen“, lag es daran, dass Ihre Nachbarn es respektierten. Es waren keine Dokumente erforderlich. 

Von Tontafeln zu digitalen Bürokraten

Das änderte sich alles, als die Menschen begannen, Tontafeln und Aufzeichnungen zu verwenden. Geschriebene Dokumente bedeuteten, dass Eigentumsrechte nicht mehr vom Gemeinschaftskonsens, sondern von offiziellen Aufzeichnungen abhingen. Die alten Mesopotamier verwandelten Lehmklumpen in offizielle Eigentumssymbole und kippten die Idee des Eigentums.

Eine Gerichtsentscheidung konnte auf einer Tontafel basieren, die besagte, dass Sie ein Stück Land besaßen, auch wenn die Gemeinschaft nicht zustimmte. Spulen wir bis heute vor, und unsere Systeme sind immer noch nach ähnlichen Prinzipien aufgebaut, nur dass wir jetzt Siliziumchips und digitale Aufzeichnungen anstelle von Lehm verwenden.

Diese Verschiebung transformierte die Machtstrukturen. Eigentum wurde zu etwas, das verkauft und gehandelt werden konnte, ohne den Segen der lokalen Gemeinschaft. Bürokratien entstanden, die Steuereintreibung, Militärfinanzierung und zentrale Regierung möglich machten.

Bürokraten wurden zu wesentlichen Akteuren in diesen Systemen, die Aufzeichnungen, Formulare und Stempel nutzten, um Armeen zu verwalten, Ressourcen zuzuweisen und sogar Gesetze zu kontrollieren. Diese bürokratischen Systeme führten zu zentralisierten Staaten mit umfassender Kontrolle über ihre Bevölkerung, eine Kontrolle, die sich jetzt auf KI verlagert.

KI muss keine Roboterarmee aufstellen; sie muss nur bürokratische Systeme meistern. Innerhalb dieser Rahmenwerke kann KI einflussreichere Entscheidungen treffen als jeder Mensch, wie heute zu sehen ist. KIs entscheiden bereits darüber, ob wir Kredite, Jobangebote, Zulassungen an Hochschulen und sogar medizinische Diagnosen erhalten.

Stellen Sie sich KI-Banker vor, die die Kreditwürdigkeit bestimmen, KI-Richter, die über Gerichtsverfahren urteilen, oder militärische KIs, die Schlagziele berechnen. KI braucht keine Roboter-Rebellion. Die bürokratische Macht, die sie erbt, ist bereits enorm.

KI in sozialen Medien und öffentlicher Einflussnahme

Soziale Medien-Algorithmen, obwohl primitiv, üben bereits massive Macht aus. KI-Algorithmen, insbesondere die von Facebook, X (ehemals Twitter), YouTube und TikTok, sind mit einem einzigen Ziel entworfen: Nutzerbindung. Je länger die Menschen auf diesen Plattformen bleiben, desto mehr Geld fließt in die Kassen der Konzerne. 

Durch Versuch und Irrtum mit Milliarden von Nutzern haben diese Algorithmen herausgefunden, dass das Auslösen von Emotionen wie Gier, Wut und Angst die Bindung erhöht. Wenn sie diese emotionalen Knöpfe drücken, halten sie die Nutzer gefesselt.

Diese Algorithmen hörten nicht bei der Optimierung der Online-Zeit auf. Sie gingen weiter und entdeckten, dass Inhalte, die intensive Emotionen hervorrufen, die Nutzerbindung steigern. Diese Entdeckung hat zur Verbreitung von Verschwörungstheorien, Fehlinformationen und sozialen Spaltungen geführt.

Die Welt heute ist überschwemmt mit digitalem Empörung, Angstschüren und Polarisierung, dank Algorithmen, die Klicks vor Zusammenhalt priorisieren. Durch die Ausnutzung emotionaler Trigger haben soziale Medien-Algorithmen die heutige Epidemie von Verschwörungstheorien und Fake News befeuert.

Diese algorithmischen „Entscheider“ sind nicht inhärent böse. Im Gegenteil, sie sind darauf optimiert, ihre Rollen effizient zu erfüllen. Dennoch fehlt ihren Entscheidungen die menschliche Intuition oder der Kontext, den wir in solchen wichtigen Bereichen normalerweise erwarten.

KI mag schnellere oder konsistentere Urteile fällen, aber wenn etwas schiefgeht, können die Ergebnisse katastrophal sein. Dieses potenzielle Risiko ist bereits in der Einflussnahme der sozialen Medien auf die Gesellschaft sichtbar geworden und dient als Warnung dafür, wohin die unkontrollierte Macht der KI führen könnte.

Biden setzt KI-Regeln für Pentagon und Geheimdienste fest

Präsident Joe Biden kündigte ein nationales Sicherheitsmemorandum mit neuen Regeln für die KI-Nutzung in der nationalen Sicherheit an, das verhindert, dass das Pentagon und Geheimdienste KI auf Weise nutzen, die demokratischen Werten widersprechen.

Dies ist die erste Richtlinie, die die Rolle der KI in der nationalen Sicherheit lenkt. Die neuen Regeln werden KI-Experimente fördern und gleichzeitig sicherstellen, dass Regierungsbehörden KI nicht nutzen, um Rechte wie die Meinungsfreiheit zu verletzen oder nukleare Kontrollen zu untergraben.

„Unser Memorandum weist den ersten regierungsweiten Rahmen für unsere KI-Risikomanagement-Verpflichtungen an“, sagte der Nationale Sicherheitsberater Jake Sullivan. Er skizzierte Ziele, um Voreingenommenheit zu vermeiden, Rechenschaftspflicht aufrechtzuerhalten und sicherzustellen, dass die menschliche Aufsicht über KI in sensiblen Rollen gewährleistet ist.

Obwohl nicht rechtlich bindend, decken die Regeln nationale Sicherheitsanwendungen wie Cybersicherheit, Konterspionage und Logistik in militärischen Operationen ab. Biden erließ auch im letzten Jahr Exportkontrollen, die Chinas KI-Fortschritte verlangsamen, indem sie den Zugang zu Technologie einschränkten.

Gemäß der Richtlinie wird das KI-Sicherheitsinstitut in Washington dafür verantwortlich sein, KI-Tools zu inspizieren, um Missbrauch vor der Veröffentlichung zu verhindern, wobei die US-Geheimdienstgemeinschaft die Überwachung von KI-Fortschritten in anderen Ländern priorisiert.