KI-Verzerrungstests für Bundesbehörden vom Weißen Haus vorgeschrieben

In einer seiner wichtigsten Initiativen zur Förderung der Einführung von KI-Technologien durch die Regierung in den Vereinigten Staaten mit einem verantwortungsvollen Ansatz hat das Weiße Haus die Notwendigkeit betont, verzerrte Tests für KI-Tools durchzuführen, die in Regierungsbehörden eingesetzt werden.

Die Exekutivverordnung, die durch das OMB herausgegeben wurde, stellt eine der wichtigsten politischen Agenda-Punkte der Biden-Regierung dar, die darauf abzielt, die geringstmöglichen Risiken, einschließlich Diskriminierung, sowie Datenschutzverletzungen einzudämmen.

Bundesbehörden bereiten sich auf KI-Aufsicht und Rechenschaftspflicht vor

Wie in der behördenübergreifenden Politik angekündigt, werden die Bundesbehörden starke operationelle Systeme zusammenstellen, um den Rechten und der Sicherheit der Menschen gerecht zu werden. Sie sollen bis zum 1. Dezember implementiert sein, wenn künstliche Intelligenz in einer Weise angewendet wird, die das Leben der Menschen beeinflussen kann. 

Insbesondere sind diese Maßnahmen darauf ausgelegt, Unterscheidungen, Verletzungen der Privatsphäre und Diskrepanzen zwischen verschiedenen Sektoren zu beseitigen, einschließlich der Sicherheit im Transportwesen, im Gesundheitswesen und bei der Dienstleistungserbringung. Zusätzlich zu anderen Maßnahmen zur Sicherstellung der Aufsicht sollten Leiter der künstlichen Intelligenz oder für Strafrecht und Durchsetzung ernannt werden.

Um die Umsetzung der KI-Richtlinien des OMB zu überwachen und deren Nutzung über die verschiedenen Ämter hinweg zu koordinieren, werden Chief Artificial Intelligence Officers ernannt. Diese Beamten werden sich an der Erstellung und Sicherstellung beteiligen, dass KI-Einsätze innerhalb der Bundesregierung transparent und rechenschaftspflichtig sind.

Vizepräsidentin Kamala Harris betonte die Absicht, dass diese innerstaatlichen Richtlinien als Modell für globale Maßnahmen dienen sollen, und hob die Bedeutung hervor, das öffentliche Interesse bei der Nutzung künstlicher Intelligenz priorisieren zu müssen. Die Regierung plant, bis zum Sommer mindestens 100 Mitarbeiter einzustellen, die sich auf künstliche Intelligenz konzentrieren, was ihr Engagement für diese Initiative weiter unterstreicht.

Rigorese Tests für Hochrisikosysteme

Hohe Regierungsbeamte haben dargelegt, dass Hochrisikosysteme rigorosen Tests unterzogen werden, um potenzielle Verzerrungen und Risiken zu identifizieren und zu mindern. Dieser proaktive Ansatz unterstreicht das Engagement der Regierung für die verantwortungsvolle Nutzung von KI-Technologie in Regierungsoperationen.

Nach den neuen Richtlinien können Amerikaner Rechtsbehelfe einlegen, wenn sie glauben, dass Systeme zu falschen Informationen oder Entscheidungen geführt haben, die sie betreffen. 

Bundesbehörden müssen eine Liste von Systemen, Risikobewertungen und Managementstrategien veröffentlichen. Ausnahmen können für Software gewährt werden, die nicht den Regeln der Regierung entspricht, aber eine Begründung muss vorgelegt werden, was Transparenz und Rechenschaftspflicht bei der KI-Einführung fördert.

Herausforderungen und zukünftige Richtungen

Alexandra Reeve Givens, Präsidentin und CEO des Center for Democracy and Technology, begrüßte die Richtlinie als wichtigen Schritt hin zu einer verantwortungsvollen KI-Nutzung innerhalb der Bundesbehörden.

Givens betonte die Bedeutung strenger Prozesse, um die potenziellen Auswirkungen neuer Technologien auf Einzelpersonen und Gemeinschaften zu bewerten.

Während Bundesbehörden KI-Technologie seit Jahren nutzen, ist die breitere Regulierung von KI im Kongress ins Stocken geraten. Infolgedessen nutzt die Biden-Regierung die Position der Regierung als großer Technologiekunden, um Schutzmaßnahmen zu etablieren und die verantwortungsvolle Einführung von KI zu fördern.

Trotz der proaktiven Maßnahmen der Regierung bleiben Herausforderungen bestehen, insbesondere im Hinblick auf die Fortsetzung von Verzerrungen in KI-Systemen. Fälle von rassistischer Verzerrung und Ungenauigkeiten bei KI-gesteuerten Entscheidungsfindungen unterstreichen die Notwendigkeit fortlaufender Wachsamkeit und Aufsicht bei der KI-Einführung.

Das Mandat des Weißen Hauses für Verzerrungstests und die Aufsicht über die KI-Nutzung in Bundesbehörden stellt einen bedeutenden Schritt hin zu einer verantwortungsvollen und ethischen Einführung von KI-Technologie dar. Durch die Implementierung konkreter Schutzmaßnahmen, die Förderung von Transparenz und die Stärkung der öffentlichen Rechenschaftspflicht zielt die Regierung darauf ab, potenzielle Risiken anzugehen und gleichzeitig das transformative Potenzial von KI zum Nutzen der Gesellschaft zu nutzen.