Fortschrittliche KI in der CIA: Die Perspektive der ehemaligen Beamtin Linda Weissgold

In einem kürzlichen INSA-Webinar teilte die ehemalige stellvertretende Direktorin der Analyse bei der CIA, Linda Weissgold, ihre Perspektive auf die sich wandelnde Rolle der künstlichen Intelligenz (KI) in der Geheimdienstgemeinschaft.

Weissgold erkannte die zunehmende Verwendung fortschrittlicher Algorithmen, insbesondere von KI mit neuronalem Netz-Lernen, innerhalb der CIA an, betonte jedoch, dass diese Technologien menschliche Analysten nicht ersetzen würden.

Hohe Erwartungen aus einem öffentlichen Wettbewerb

Fast vor sechs Jahren sponserte das Büro des Direktors für nationale Aufklärung (ODNI) einen Wettbewerb, um die Fähigkeit von Algorithmen zu bewerten, menschlich erstellte analytische Intelligenzberichte zu replizieren. 

Rückblickend mögen die Ergebnisse unbeeindruckend erscheinen, da der Gewinnereingang von einem französischen Programmierer verfasst wurde, der Mühe hatte, vollständigen Sinn zu ergeben. Zu dieser Zeit betrachtete das ODNI die Ergebnisse jedoch als „höchst ermutigend“.

Heute sind fortschrittliche KI-Algorithmen mit neuronalem Netz-Lernen laut Linda Weissgold innerhalb der CIA in Betrieb. Dennoch ist es entscheidend zu klären, dass KI keine endgültigen analytischen Berichte erstellt. Stattdessen wird KI verwendet, um den analytischen Prozess zu verbessern, indem sie Unterstützung bietet und die Fähigkeiten menschlicher Analysten erweitert.

Die Grenzen der generativen KI

Linda Weissgold wies auf eine grundlegende Einschränkung der generativen KI hin – das inhärente Geheimnis dahinter, wie sie Antworten auf Fragen formuliert. Sie hob die Unklarheit bezüglich des Informationsuniversums hervor, das KI durchsucht, sowie den Mangel an Transparenz hinsichtlich der Parameter und Verzerrungen, die von ihren Programmierern festgelegt werden.

„Wir wissen nicht, was die Parameter und die Verzerrungen der Programmierer sind“, erklärte Weissgold und betonte die inhärente Unsicherheit, die in KI-generierten Antworten liegt.

Einer der Hauptgründe, warum Linda Weissgold glaubt, dass KI menschliche Analysten in der Geheimdienstgemeinschaft nicht ersetzen wird, ist das Problem der Rechenschaftspflicht. Sie bezog sich auf ihre Erfahrung als Geheimdienstabstimmer von Präsident George W. Bush und betonte die Bedeutung menschlicher Analysten, klare und rechenschaftspflichtige Erklärungen für ihre Bewertungen liefern zu können.

„Ich kann mir nicht vorstellen, zu einem Präsidenten zu gehen und als Antwort auf eine Frage [wie] ‚Warum sagen Sie das?‘ zu sagen: ‚Oh, ich weiß es nicht, weil die Black Box es mir einfach gesagt hat.‘ Das wird niemals akzeptabel sein“, behauptete Weissgold.

Die nuancierte Sichtweise auf KI

Weissgolds Perspektive auf KI ist nuanciert. Während sie den Wert der KI bei der Bewältigung riesiger Datenmengen und bei der Unterstützung in den Anfangsstadien der Analyse anerkennt, glaubt sie fest, dass das endgültige Urteil bei menschlichen Analysten bleiben sollte, die Kontext, Urteilskraft und Rechenschaftspflicht bieten können.

Im Wesentlichen unterstreicht die Ansicht der ehemaligen CIA-Beamtin das vorherrschende Gefühl in der Geheimdienstgemeinschaft – dass KI als wertvolles Werkzeug und nicht als Ersatz für menschliche Analysten betrachtet werden sollte. KI kann enorme Datensätze schnell und effizient verarbeiten, fehlt jedoch die menschliche Note, die für nuancierte Analysen und Interpretationen erforderlich ist.

Aussichten und gemeinsame Anstrengungen

Da die KI-Technologie weiterhin voranschreitet, ist es wahrscheinlich, dass sich ihre Rolle innerhalb von Geheimdienstagenturen ebenfalls entwickeln wird. Gemeinsame Anstrengungen zwischen menschlichen Analysten und KI-Systemen könnten stärker integriert werden, was zu einem effizienteren und effektiveren Prozess der Geheimdienstbeschaffung führt.