苹果因推广非自愿裸体图像而从App Store移除应用

上个月，科技巨头苹果公司做出大胆举动，从App Store中移除了三款应用。这些应用甚至利用AI中可用的机器学习工具，试图在未经当事人同意的情况下构建非自愿图像。这一决定是出于对应用如在Instagram和色情网站等地方使用虚假广告的担忧。

广告中的误导案例 

点击此广告的人会被发送到Apple App Store，同一款应用被描述为“艺术生成器”，但完全没有提及它可以生成裸体图像。这是2022年首次发现的移动应用商店中长期存在的漏洞。

通过基于AI的算法，被指责进行此行为的应用声称可以脱去照片中人物的衣物，导致即使没有获得主体许可或知情，也会错误地假设裸体。此类行为不仅侵犯隐私，还是剥削、骚扰和勒索的潜在来源。 

在4月10日至4月20日期间，Facebook、Instagram、Facebook Messenger和Meta的应用内广告网络上展示了大量类似的广告版本，其中包含各种其他由AI生成的女性形象。

在收到关于这些诈骗应用的举报后，Apple实际上是第一个将它们从App Store中移除的。尽管他们声称无辜，但他们的真实动机通过应用迫使Apple移除应用并遵守其社区标准而暴露。这清楚地表明了Apple坚定不移地致力于为大家创造一个安全且性别中立的数字空间。

持续的挑战与问责

尽管Apple采取的对策值得尊重，但这一事件最终引发了一些关于应用审查和广告方法监控的疑问。这些应用在App Store中长期未被发现的事实，仅强调了需要更加谨慎和采取积极措施来检测和消除欺诈应用。

此外，开发人员应用了狡猾的方法来在成人网站上推广其非法功能，确保了Apple和Google未能检测到。这些案例说明了科技公司面临的在监管其平台并执行社区准则方面的问题。

随着Apple在2023年全球开发者大会（WWDC）上即将披露一些与AI相关的项目，观察该公司针对这些应用所采取的行动将非常有趣。Apple负责任的技术实施的重要组成部分是保持道德行为和技术治理的良好形象，鉴于Apple在其产品中越来越多地使用AI，这一点至关重要。

移除这些应用将是AI开发和使用中伦理问题的一个例子。与AI能力开发相关的第二个担忧是用户隐私。此外，需要征求用户的许可，并保证他们的安全。通过阻止此类应用，Apple强调了其社区中的道德行为。