Apple entfernt Apps aus dem App Store wegen der Förderung nicht einvernehmlicher nackter Bilder

Letzten Monat unternahm der Tech-Riese Apple Inc. einen kühnen Schritt und entfernte drei Apps aus seinem App Store. Diese Apps nutzten sogar Machine-Learning-Tools, die in KI verfügbar sind, und versuchten, nicht einvernehmliche Bilder ohne die Zustimmung einer Person zu erstellen. Die Entscheidung folgt auf Bedenken, dass Apps falsche Werbung auf Plattformen wie Instagram und Porn!-Websites verwendeten.

Irreführende Fälle in der Werbung 

Diejenigen, die auf diese Anzeige klicken, werden zum Apple App Store weitergeleitet, und dieselbe App wird als „Kunstgenerator“ beschrieben, aber ohne jeden Hinweis darauf, dass sie Nudes generieren kann. Dies ist ein seit langem bestehendes Schlupfloch in mobilen App-Stores, das erstmals 2022 identifiziert wurde.

Durch KI-basierte Algorithmen behaupteten die Apps, die für diese Handlung verantwortlich gemacht wurden, Personen auf Fotos entkleiden zu können, was zu der falschen Annahme von Nacktheit führte, obwohl sie keine Erlaubnis oder Kenntnis der Betroffenen haben. Solche Handlungen verletzen nicht nur die Privatsphäre, sondern sind auch potenzielle Quellen für Ausbeutung, Belästigung und Erpressung. 

Eine Reihe ähnlicher Versionen dieser Werbung mit verschiedenen anderen KI-generierten Frauen wurde zwischen dem 10. und 20. April auf Facebook, Instagram, Facebook Messenger und dem in-App-Werbenetzwerk von Meta gezeigt.

Nachdem Apple über diese Betrugs-Apps informiert wurde, war es tatsächlich das erste Unternehmen, das sie aus dem App Store entfernte. Obwohl sie behaupteten, unschuldig zu sein, wurden ihre wahren Motive von den Apps offenbart, die Apple zwangen, die Apps zu entfernen und seine Gemeinschaftsstandards einzuhalten. Dies zeigt deutlich Apples unerschütterliche Hingabe daran, einen sicheren und geschlechtsneutralen digitalen Raum für alle zu schaffen.

Laufende Herausforderungen und Rechenschaftspflicht

Obwohl die von Apple ergriffenen Gegenmaßnahmen Respekt verdienen, wirft dieser Vorfall am Ende einige Zweifel an der App-Überprüfung und Überwachung von Werbemethoden auf. Die Tatsache, dass diese Apps lange Zeit im App Store unbemerkt blieben, unterstreicht nur die Notwendigkeit größerer Vorsicht und aktiver Maßnahmen zur Erkennung und Beseitigung betrügerischer Apps.

Darüber hinaus wandten Entwickler schlaue Methoden zur Förderung ihrer illegalen Funktionen auf Adult-Sites an, die das Fehlen ihrer Entdeckung durch Apple und Google sicherstellten. Diese Fälle veranschaulichen die Probleme, mit denen Tech-Unternehmen konfrontiert sind, um ihre Plattformen zu polizieren und die Gemeinschaftsrichtlinien durchzusetzen.

Mit der bevorstehenden Offenlegung einiger KI-bezogener Projekte von Apple auf der Worldwide Developers Conference (WWDC) 2023 wird es eher interessant sein, die von der Firma eingeleitete Maßnahme in Bezug auf diese Apps zu sehen. Ein wichtiger Teil der verantwortungsvollen Implementierung von Technologie durch Apple ist die Aufrechterhaltung eines guten Images für ethisches Verhalten und eine solide Technologieführung, was angesichts der zunehmenden Nutzung von KI in ihren Produkten kritisch ist.

Das Entfernen dieser Apps wäre ein Beispiel für ein ethisches Problem seitens der KI-Entwicklung und -Nutzung. Die zweite Sorge im Zusammenhang mit der Entwicklung von KI-Fähigkeiten ist die Privatsphäre der Benutzer. Zusätzlich müssen die Benutzer um ihre Erlaubnis gebeten werden, und die Gewährleistung ihrer Sicherheit sollte gegeben werden. Durch das Blockieren solcher Anwendungen betont Apple ethisches Verhalten in seiner Gemeinschaft.