Wer entscheidet über die Verwendung personenbezogener Daten beim Training von KI-Systemen? Die PDPC gibt Richtlinien heraus

Um Transparenz und Verantwortlichkeit im Bereich der künstlichen Intelligenz (KI) zu gewährleisten, hat die philippinische Datenschutzkommission (PDPC) neue Richtlinien herausgegeben, die Verbraucher über die Verwendung ihrer personenbezogenen Daten beim Training von KI-Systemen informieren sollen. Diese Richtlinien mit dem Titel „Empfehlungsleitfaden zur Verwendung personenbezogener Daten in KI-Empfehlungs- und Entscheidungssystemen“ zielen darauf ab, Bedenken hinsichtlich des Datenschutzes und der ethischen Implikationen der KI-Technologie auszuräumen.

Training von KI-Systemen – Leitlinien für eine transparente Datennutzung

Die am 1. März veröffentlichten Richtlinien betonen, wie wichtig es ist, Nutzer über die Gründe für die Verwendung ihrer personenbezogenen Daten und deren konkreten Beitrag zur Funktionalität von KI-Systemen zu informieren. Unternehmen sind verpflichtet, Verbrauchern die Relevanz ihrer Daten für die angebotenen Dienste offenzulegen und die Indikatoren zu erläutern, die KI-gestützte Entscheidungen beeinflussen. So sollten beispielsweise Nutzer von Streaming-Diensten darüber informiert werden, dass ihre Sehgewohnheiten genutzt werden, um Filmempfehlungen zu verbessern, die auf ihre Vorlieben hinsichtlich Genres oder häufig gesehener Filme zugeschnitten sind.

Diese Richtlinien verdeutlichen die zulässige Verwendung personenbezogener Daten ohne zusätzliche Einwilligung, sobald diese gemäß dem Datenschutzgesetz erhoben wurden. Unternehmen können diese Daten für verschiedene Zwecke nutzen, darunter Forschung und Geschäftsentwicklung, beispielsweise zur Verbesserung von KI-Modellen zum besseren Verständnis von Kundenpräferenzen oder zur Optimierung von Personalmanagementsystemen für Kandidatenempfehlungen. Die Richtlinien betonen insbesondere die Notwendigkeit der Datenanonymisierung und -minimierung, um Cybersicherheitsrisiken zu minimieren und die Privatsphäre der Nutzer zu schützen.

Die Richtlinien unterstreichen zudem die Bedeutung kontinuierlicher Überwachungs- und Prüfprozesse, um die Einhaltung der Datenschutzgrundsätze und sich weiterentwickelnder Best Practices sicherzustellen. Unternehmen werden dazu angehalten, die Effektivität ihrer Datenverarbeitungsverfahren, insbesondere im Hinblick auf KI-Systeme, regelmäßig zu überprüfen und gegebenenfalls Anpassungen vorzunehmen, um die Privatsphäre und das Vertrauen der Nutzer zu wahren.

Berücksichtigung von Anliegen und Vorschlägen der Branche

Die Veröffentlichung dieser Richtlinien erfolgt als Reaktion auf Bedenken aus der Branche, die auf der KI-Konferenz in Singapur im Dezember 2023 geäußert wurden. Vertreter aus den Bereichen Technologie, Recht und Finanzen äußerten Bedenken hinsichtlich des Datenschutzes im Zusammenhang mit KI. Dies führte zu einer öffentlichen Konsultation unter der Leitung der PDPC, die im August 2023 abgeschlossen wurde. Insbesondere das Cybersicherheitsunternehmen Kaspersky hob die mangelnde Aufklärung der Verbraucher über die Datenerhebung für KI-Trainingszwecke hervor. Kaspersky empfahl, während der Entwicklungs- und Testphase von KI-Modellen die ausdrückliche Einwilligung der Nutzer einzuholen und ihnen die Möglichkeit zu geben, der Verwendung ihrer Daten für das KI-Training zu widersprechen.

Auch Branchenvertreter begrüßen die Richtlinien als Schritt hin zu mehr Vertrauen und Transparenz in KI-Systemen. Unternehmen sind nun besser gerüstet, die Komplexität der Datennutzung in KI ethisch und verantwortungsvoll zu bewältigen und so eine Kultur der Verantwortlichkeit und der Stärkung der Verbraucherrechte zu fördern.

Da KI immer mehr Branchen durchdringt, ist Transparenz und Verantwortlichkeit im Umgang mit personenbezogenen Daten von größter Bedeutung. Mit diesen Richtlinien will die PDPC ein Gleichgewicht zwischen der Förderung von KI-Innovationen und dem Schutz der Privatsphäre der Nutzer herstellen. Es bestehen jedoch weiterhin Herausforderungen, Verbraucher effektiv über die Komplexität der KI-Datennutzung aufzuklären. Wie können Unternehmen das Verständnis und die Zustimmung der Nutzer zur Verwendung ihrer personenbezogenen Daten für das Training von KI-Systemen und gleichzeitig deren Vertrauen erhalten?