Chinas Smartphone-GigantendefiKI neu – auf Kosten Ihrer Privatsphäre

Chinesische Smartphone-Hersteller planen, die manuelle App-Navigation durch eine freihändige, nahtlose Bedienung mithilfe von KI-Modellen zu ersetzen. Diese Technologie verspricht beispiellosen Komfort, wirft aber Fragen zur Kontrolle der Nutzer über Geräte und Apps auf.

Lokale Anbieter wie Xiaomi, Vivo, Oppo und Honor sind an dieser Entwicklung. Honors Slogan „Je mehr KI, desto besser versteht sie dich“ verdeutlicht sowohl das Potenzial als auch die Risiken dieses Wandels. 

Das ist die Gefahr: Wenn KI-gestützte Entscheidungsfindung auf personenbezogenen Daten basiert, die ohne ausdrückliche Einwilligung erhoben wurden, geht es weniger um die Verbesserung des Nutzererlebnisses und mehr um aufdringliche Überwachung.

Anscheinend bestellte CEO George Zhao während der Markteinführung von Magic 7 im Oktober 2024 live auf der Bühne 2.000 Tassen Kaffee per Smartphone – ganz ohne Tippen. Das Publikum war verblüfft, doch Fragen blieben: Woher kannte die Technologie Zhaos Vorlieben, wählte die Anwendung aus und autorisierte die Zahlung? 

Diese bemerkenswerte Demonstration des Komforts wirft ein entscheidendes Problem auf: Inwieweit beeinträchtigt diese Innovation die Autonomie und Privatsphäre der Nutzer? George Zhaos Live-Performance wäre nur möglich gewesen, wenn das Telefon auf private Daten zugreifen konnte, um Befehle auszuführen. Was ist den Nutzern wichtiger: Komfort oder Datenschutz?

Wie weit reicht das Risiko einer Verletzung der Privatsphäre?

Eine Untersuchung von Magic 7 zeigte, dass die App die Barrierefreiheitsberechtigungen von Android ausnutzt. Diese Funktion soll Nutzern mit Behinderungen helfen. Honor und einige andere chinesische Technologieunternehmen verschaffen sich auf intransparente und unregulierte Weise Zugriff auf sensible Nutzerdaten, indem sie herkömmliche Einwilligungsprozesse umgehen.

KI-gestützte Entscheidungsfindung könnte leicht missbraucht werden, wenn die Smartphones in falsche Hände geraten. Zweitens könnten Hacker diese Systeme ausnutzen, um Zugriff auf Finanzdaten, Nachrichten und sogar private Fotos der Nutzer zu erlangen. Der Komfort dieser Technologie birgt die Gefahr, zu einem Instrument der Überwachung und Kontrolle zu werden, wenn keine wirksamen Sicherheitsvorkehrungen getroffen werden.

Die Folgen könnten nicht gravierender sein. Wird der gegenwärtige Trend nicht gestoppt, könnte er zu einer Zukunft führen, in der Mobiltelefone ihren Nutzern nicht nur dienen, sondern auch deren Handlungen ohne deren Wissen überwachen, steuern und kommerzialisieren.

Die Herausforderung für Hersteller und Regulierungsbehörden besteht darin, Verantwortung und Innovation in Einklang zu bringen. Die Frage ist nicht, ob KI unsere Geräte dominieren wird; das tut sie bereits. Dennoch ist das Potenzial von Geräten mit dieser Technologie unbestreitbar. Sie haben das Potenzial, unser Leben grundlegend zu verändern, indem sie alltägliche Aufgaben vereinfachen und die Zugänglichkeit verbessern.

Unterdessen stellte Apple Apple Intelligence , ein geräteinternes KI-System, das Siri zu einem intuitiveren Assistenten machte. Apples „revolutionäre“ Aktion in China blieb jedoch weitgehend wirkungslos.  

Was sagt das Gesetz zu Eingriffen in die Privatsphäre?

Eingriffe in die Privatsphäre sind illegal. Tatsächlich wurden 2021 chinesische App-Entwickler rechtlich verfolgt. Ihnen wurde vorgeworfen, Tools entwickelt zu haben, die Berechtigungen ausnutzten, um digitale Transaktionen abzufangen. 

Während der Feierlichkeiten zum chinesischen Neujahr fingen Apps wie „Red Packet Hunter“maticrote Umschläge ab, die über WeChat versendet wurden. Die Entwickler wurden mit Geldstrafen und sogar Gefängnisstrafen belegt, nachdem das Gericht festgestellt hatte, dass diese Handlungen gegen das Wettbewerbsrecht verstießen.

Anders als chinesische Unternehmen, die diese Risiken als Teil des kreativen Prozesses akzeptiert haben, agieren westliche Wettbewerber vorsichtig. So wurde beispielsweise Microsoft Anfang des Jahres für seine Recall-Funktion kritisiert. Diese nutzt nämlich regelmäßig Screenshots, um das Nutzerverhalten auszuwerten und Handlungsempfehlungen zu geben.

Kritiker verglichen die Funktion mit einem Orwellschen Albtraum, woraufhin führende Köpfe der Technologiebranche wie Elon Musk deren Entfernung forderten. Cybersicherheitsexperten warnten davor, dass diese Funktionen zur Überwachung missbraucht werden könnten.