Chinas Smartphone-Giganten definieren KI neu – zum Preis Ihrer Privatsphäre

Chinesische Smartphone-Hersteller beabsichtigen, die manuelle App-Navigation durch händefreie, nahtlose Operationen zu ersetzen, die KI-Modelle nutzen. Diese Technologie verspricht unübertroffene Einfachheit, wirft jedoch Fragen zur Benutzerkontrolle über Geräte und Apps auf.

Lokale Akteure wie Xiaomi, Vivo, Oppo und Honor sind in diese Agenda. Honor’s Slogan, „Je mehr KI, desto besser versteht sie dich“, fängt sowohl das Potenzial als auch das Risiko dieser Transformation ein. 

Hier liegt die Gefahr: Wenn KI-gesteuerte Entscheidungsfindung auf persönlichen Daten basiert, die ohne ausdrückliche Zustimmung gesammelt wurden, geht es weniger um die Verbesserung der Benutzererfahrung als um intrusive Überwachung.

Anscheinend nutzte CEO George Zhao während der Einführung von Magic 7 im Oktober 2024 das Telefon, um live auf der Bühne 2.000 Tassen Kaffee zu bestellen, ohne einen einzigen Tippen zu benötigen. Das Publikum war überwältigt, aber Fragen blieben bestehen: Wie wusste die Technologie Zhao’s Präferenzen, wählte die Anwendung aus und autorisierte die Zahlung? 

Diese bemerkenswerte Demonstration der Bequemlichkeit zwingt zu einer Konfrontation mit einem kritischen Problem: Inwieweit beeinträchtigt diese Innovation die Autonomie und Privatsphäre der Benutzer? George Zhao’s Live-Auftritt hätte nur möglich sein können, wenn das Telefon auf private Daten zugriff, um Befehle zu befolgen. Was ist für Benutzer wichtiger, Bequemlichkeit oder Privatsphäre?

Wie weit geht das Risiko der Privatsphärenverletzung?

Eine Untersuchung von Magic 7 zeigte, dass es Androids Zugriffsrechte (Accessibility Permissions) ausnutzt. Diese Funktion soll Benutzern mit Behinderungen helfen. Honor und bestimmte andere chinesische Technologieunternehmen erhalten auf undurchsichtige und nicht regulierte Weise Zugang zu sensiblen Benutzerdaten, indem sie traditionelle Zustimmungsprozesse umgehen.

KI-gesteuerte Entscheidungsfindung könnte leicht zur Waffe gemacht werden, wenn die Telefone in die falschen Hände geraten. Zweitens könnten Hacker diese Systeme ausnutzen, um auf die Finanzdaten, Nachrichten und sogar privaten Fotos der Benutzer zuzugreifen. Die Bequemlichkeit der Intelligenztechnologie riskiert, zu einem Instrument für Überwachung und Kontrolle zu werden, wenn es keine robusten Schutzmaßnahmen gibt.

Die Implikationen könnten nicht schwerwiegender sein. Wenn dies unkontrolliert bleibt, könnte die aktuelle Entwicklung zu einer Zukunft führen, in der Mobiltelefone nicht nur ihren Nutzern dienen, sondern auch deren Aktionen überwachen, verwalten und kommerzialisieren, ohne dass sie es wissen.

Besonders die Herausforderung für Hersteller und Regulierungsbehörden besteht darin, Verantwortung mit Innovation in Einklang zu bringen. Die Frage ist nicht, ob KI unsere Geräte dominieren wird; sie tut dies bereits. Dennoch ist das Potenzial von Geräten, die von der Intelligenztechnologie angetrieben werden, unbestreitbar. Diese Geräte haben die Fähigkeit, das Leben zu revolutionieren, indem sie tägliche Aufgaben vereinfachen und die Zugänglichkeit verbessern.

In der Zwischenzeit stellte Apple Intelligence im Juni 2024 ein On-Device-KI-System vor, das Siri zu einem intuitiveren Assistenten verwandelte. Dennoch hatte Apples „revolutionäre“ Aktion in China keine signifikante Wirkung.  

Was sagt das Gesetz über Privatsphärenverletzungen?

Privatsphärenverletzungen sind nicht rechtmäßig. Tatsächlich wurden chinesische App-Entwickler im Jahr 2021 rechtlich belangt. Ihnen wurde vorgeworfen, Tools entwickelt zu haben, die Zugriffsrechte ausnutzten, um digitale Transaktionen abzufangen. 

Darüber hinaus fingen während der Feiern zum Mondneujahr Anwendungen wie Red Packet Hunter automatisch WeChat-Rote Umschläge ab. Den Entwicklern wurden Geldstrafen und sogar Gefängnisstrafen auferlegt, nachdem das Gericht festgestellt hatte, dass diese Handlungen gegen Wettbewerbsgesetze verstießen.

Im Gegensatz zu chinesischen Firmen, die diese Risiken als Teil des kreativen Prozesses akzeptiert haben, gehen westliche Konkurrenten vorsichtig vor. Microsoft beispielsweise sah sich Anfang dieses Jahres für seine Recall-Funktion kritisiert. Dies liegt daran, dass sie periodische Screenshots verwendet, um das Benutzerverhalten zu bewerten und Aktionen zu empfehlen.

Kritiker verglichen die Funktion mit einem orwellschen Albtraum, was dazu führte, dass Technologieführer wie Elon Musk ihre Abschaffung forderten. Cybersecurity-Experten warnten, dass diese Fähigkeiten ausgenutzt werden könnten, um Überwachung zu erleichtern.