Berichten zufolge trägt die britische Regierung den Einsatz von KI-Systemen nicht in obligatorische Register ein, was Bedenken hinsichtlich der Transparenz aufkommen lässt.
Laut The Guardian hat der Technologieminister inzwischen eingeräumt, dass die Ministerien hinsichtlich ihrer Nutzung von KI und Algorithmen nicht transparent sind, obwohl die verschiedenen Regierungsbehörden diese für unterschiedliche Zwecke einsetzen.
Britische Regierungsbehörden „fliegen im Dunkeln“ über ihren KI-Einsatz
Der Artikel im Guardian enthüllt, dass keine einzige Behörde den Einsatz von KI aufgeführt hat, seit die Regierung deren verpflichtende Einführung angekündigt hat. Dies hat Befürchtungen geweckt, der öffentliche Sektor agiere „im Blindflug“.
Dies geschieht vor dem Hintergrund, dass Regierungsbehörden in Großbritannien bereits KI einsetzen, beispielsweise um Entscheidungen in verschiedensten Bereichen zu treffen, von Sozialleistungen bis hin zur Durchsetzung der Einwanderungsbestimmungen. Laut dem Guardian zeigen einige Dokumente, dass öffentliche Einrichtungentracfür KI-Algorithmen vergeben haben.
Beispielsweise hat die Beschaffungsbehörde der Polizei kürzlich einentracüber Gesichtserkennung im Wert von 20 Millionen Dollar ausgeschrieben, was die Besorgnis über eine „biometrische Massenüberwachung“ weiter verstärkt hat
Bislang wurden jedoch nur neun algorithmische Systeme in einem öffentlichen Register eingetragen, darunter keines der zunehmenden KI-Programme, die im Sozialwesen, vom Innenministerium oder von der Polizei eingesetzt werden. Im Februar kündigte die britische Regierung an, dass die Nutzung von KI-Registern nun für alle Regierungsbehörden verpflichtend sein werde.
Auf die mangelnde Transparenz angesprochen, räumte der Staatssekretär für Wissenschaft und Technologie, Peter Kyle, ein, dass der öffentliche Sektor „die Notwendigkeit der Transparenz im Umgang der Regierung mit Algorithmen nicht ernst genug genommen hat“
„Ich akzeptiere, dass die Öffentlichkeit ein Recht darauf hat zu erfahren, wenn die Regierung Algorithmen in ihrem Namen einsetzt.“
Kyle.
„Die Öffentlichkeit muss das Gefühl haben, dass Algorithmen ihr dienen und nicht umgekehrt. Das lässt sich nur erreichen, wenn man transparent über deren Verwendung informiert“, fügte Kyle hinzu.
Die britische Regierung ignorierte Warnungen
Laut einem Artikel im Guardian warnten Experten vor den Gefahren einer unkritischen Anwendung von KI. Als Beispiele für IT-Systeme, die nicht wie gewünscht funktionieren, nannten sie unter anderem die Horizon-Software der Post.
Der Einsatz von KI-Technologie in Whitehall reicht von Microsofts Copilot-System bis hin zu automatisierten Betrugs- und Fehlerprüfungen im Sozialleistungssystem. Eine weitere kürzlich vom Ministerium für Arbeit und Pensionen (DWP)tracAusschreibung für KI-Projekte beschrieb ein „rasant gestiegenes Interesse innerhalb des DWP, das die Entwicklung in der gesamten Regierung und Gesellschaft widerspiegelt“
Neben der Polizei nutzt auch das Innenministerium ein KI-gestütztes System zur Durchsetzung der Einwanderungsbestimmungen. Dieses System, das von Kritikern als „Roboter-Sachbearbeiter“ bezeichnet wird, ist an Entscheidungen beteiligt, unter anderem an der Rückführung von Personen in ihre Heimatländer.
Die Regierung bezeichnet das System jedoch als „regelbasiert“ und nicht als KI-System, da es kein maschinelles Lernen aus Daten nutzt. Laut Regierung führt dies zu Effizienzsteigerungen, obwohl für jede Entscheidung weiterhin ein Mensch verantwortlich ist.
Berichten zufolge hat der NHS England außerdem einen 330-Millionen-Pfund-tracmit Palantir abgeschlossen, um eine riesige neue Datenplattform zu entwickeln, was die Bedenken hinsichtlich des Patientendatenschutzes weiter verstärkt. Palantir versicherte, dass die Patienten die Kontrolle über ihre Daten behalten.
Die Datenschutzrechtsorganisation Big Brother Watch hob hervor, dass das Aufkommen des polizeilichen Gesichtserkennungsvertrags trac Warnungen von Abgeordneten vor fehlenden Gesetzen zur Regulierung desselben die mangelnde Transparenz der Regierung im Umgang mit der KI-Technologie verdeutlichte.
„Der heimliche Einsatz von KI und Algorithmen, um das Leben der Menschen zu beeinflussen, gefährdet die Datenschutzrechte aller“, sagte Madeleine Stone, Chief Advocacy Officer.
„Regierungsbehörden müssen offen und ehrlich darlegen, wie sie diese Technologie einsetzen.“
Stein.
Imogen Parker, stellvertretende Direktorin des Forschungsinstituts für Daten und KI, äußerte ebenfalls Bedenken hinsichtlich der mangelnden Transparenz.
„Mangelnde Transparenz hält nicht nur die Öffentlichkeit im Dunkeln, sondern bedeutet auch, dass der öffentliche Sektor bei der Einführung von KI blindlings agiert.“
Parker.
„Das Versäumnis, Transparenzberichte zu Algorithmen zu veröffentlichen, schränkt die Fähigkeit des öffentlichen Sektors ein, festzustellen, ob diese Instrumente funktionieren, aus Fehlern zu lernen und die unterschiedlichen sozialen Auswirkungen dieser Instrumente zu überwachen“, fügte Parker hinzu.
