Die Ethikfragen um Grok AIs Rolle in der US-Regierung nehmen zu

Elon Musks Abteilung für Regierungseffizienz (DOGE) hat in der letzten Zeit eine angepasste Version ihres Grok-Kunststoffchats über die Bundesbehörden eingeführt, was Alarmglocken wegen potenzieller Datenschutzverletzungen und Interessenkonflikten läutet.

Reuters zitierte drei Quellen innerhalb von DOGE, wonach das Team Grok zur Durchsicht und Analyse sensibler Regierungsdaten genutzt hat, um Berichte und Erkenntnisse in Geschwindigkeiten zu generieren, die herkömmliche Methoden übertreffen.

DOGE verletzt die Ethik mit dem Schritt von Grok AI

Laut den drei Insidern installierten die DOGE-Ingenieure benutzerdefinierte Parameter auf Grok, einem Chatbot, den Musk mit xAI Ende 2023 lancierte, um die Datenprüfung zu beschleunigen und die Erstellung von Berichten zu automatisieren.

„Sie füttern es mit staatlichen Datensätzen, stellen komplexe Fragen und erhalten sofortige Zusammenfassungen.

Ein Insider.

Ein weiterer Insider fügte hinzu, dass DOGE-Mitarbeiter Mitarbeiter des Innenministeriums ermutigt hätten, Grok für interne Analysen zu nutzen, obwohl das Tool keine formale Genehmigung der Behörde hatte.

Unklar ist jedoch genau, welche klassifizierten oder personenbezogenen Daten in Grok hochgeladen wurden und wie stark es auf Bundesakten trainiert wurde. Falls sensible Materialien einbezogen wurden, könnte diese Praxis gegen bundesstaatliche Datenschutzgesetze und Regeln zum Interessenkonflikt verstoßen.

Fünf Experten für Ethik und Technologie warnen davor, dass solcher Zugang den Unternehmen von Musk unverhältnismäßige Einblicke in nicht-öffentliche Auftragsdaten verschaffen und sogar dazu dienen könnte, Grok selbst zum privaten Nutzen zu verfeinern.

Theoretisch muss jedes KI-Modell, das mit vertraulichen staatlichen Datensätzen trainiert wird, strenge rechtliche Schutzmaßnahmen beachten. Datenaustauschprotokolle beinhalten typischerweise mehrere Genehmigungen und Überwachungsmechanismen, um unautorisierte Offenlegungen zu verhindern.

Durch das Umgehen dieser Kontrollen riskiert DOGE die Preisgabe persönlicher Details von Millionen Amerikanern und übergibt xAI eine Fülle an realweltlichen Informationen, die Wettbewerbern nicht zur Verfügung stehen.

DOGE besteht darauf, dass seine Mission darin besteht, Verschwendung, Betrug und Missbrauch aufzudecken. Ein Sprecher des DHS sagte Reuters, dass DOGE Mitarbeiter niemals dazu gedrängt habe, ein bestimmtes Tool zu übernehmen.

„Wir konzentrieren uns auf Effizienz

Nach der aktuellen DHS-Richtlinie dürfen Mitarbeiter kommerzielle Chatbots nur für unklassifizierte, nicht vertrauliche Arbeiten nutzen, während ein maßgeschneiderter DHS-KI-Sensitive-Daten verarbeitet. Als ChatGPT und andere Dienste im Mai deaktiviert wurden, geschahen die Fortschritte von DOGE jedoch in einer rechtlichen Grauzone: Der interne DHS-Bot blieb aktiv, aber Grok wurde nie formell onboarded.

Nutzt Musk DOGE, um die Kontrolle zu zentralisieren?

Über das DHS hinaus erstreckt sich der Einfluss von DOGE auch auf Netzwerke des Verteidigungsministeriums, wo Berichten zufolge etwa ein Dutzend Analysten informiert wurden, dass ein KI-Tool eines Drittanbieters ihre Aktivitäten überwachte. Obwohl Sprecher des DoD bestritten haben, dass DOGEdie Bereitstellung von KI gesteuert hat, deuten E-Mails und Textnachrichten des Ministeriums, die Reuters erhalten hat, auf das Gegenteil hin.

Kritiker sehen diese Maßnahmen als Beleg für Musks breitere Strategie, KI zu nutzen, um die Kontrolle über die Bürokratie zu zentralisieren und dann den daraus resultierenden Datenfluss zu monetarisieren.

„Es gibt den klaren Anschein von Interessenkonflikten.“

Richard Painter, Professor für Regierungsethik.

Falls Musk die Bereitstellung von Grok direkt angeordnet hat, könnte er gegen Strafvorschriften verstoßen, die Beamte davon abhalten, Entscheidungen zu beeinflussen, die ihren privaten Interessen zugutekommen.

Im Mittelpunkt der Debatte steht Groks doppelte Rolle als Chatbot, der für die Öffentlichkeit zugänglich ist, und als experimenteller Analyse-Engine hinter Regierungsfirewalls. Die Website von xAI deutet sogar an, dass Nutzerinteraktionen „für bestimmte geschäftliche Zwecke“ überwacht werden könnten, was darauf hindeutet, dass jede Bundesanfrage in Groks Lernschleife zurückfließen könnte.

Zwei DOGE-Mitarbeiter, Kyle Schutt und Edward Coristine, der online auch als „Big Balls“ bekannt ist, haben die meisten KI-Initiativen vorangetrieben. Obwohl sie keine Kommentare abgaben, passen ihre Bemühungen in ein Muster: Im vergangenen Jahr hat DOGE Tausende von Beamten entlassen, die Kontrolle über sichere Datenbanken übernommen und KI als das ultimative Werkzeug für den behördlichen Umbau gefeiert.

Privatsphärenschützer warnen, dass die Integration ungeprüfter KI in hochriskante Umgebungen für nationale Sicherheit ein Rezept für Datenleaks, Identitätsdiebstahl und Ausnutzung durch ausländische Gegner ist.

"Das ist eine der ernstesten Privatsphärenbedrohungen, die es gibt", sagt Albert Fox Cahn vom Surveillance Technology Oversight Project.

Es bestehen auch Befürchtungen, dass DOGEs KI-Experiment aufgrund mangelnder Transparenz und weniger Schutzvorkehrungen die Governance federaler Daten neu gestalten könnte, ob die Öffentlichkeit dies nun bemerkt oder nicht.