Meta因未经授权创建与女明星调情的聊天机器人而陷入风暴

Meta再次受到抨击，路透社最近发布的调查结果显示，其人工智能工具未经泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯等流行名人的同意，就创建了深度伪造图像和聊天机器人，冒充她们。.

调查发现，大多数聊天机器人都是用户通过Meta的AI聊天机器人平台创建的。不过，也有少数是由Meta内部员工创建的。.

一些模仿泰勒·斯威夫特的聊天机器人账号坚称自己是真正的歌手，并且经常进行调情，鼓励见面。.

报道暗示Meta卷入了不雅头像丑闻

路透社报道称，经过数周的测试发现，Meta公司在Facebook、Instagram和WhatsApp平台上推出的名人聊天机器人，其行为有时远远超出了轻松愉快的对话范畴。用户会引导它们生成明星身着内衣、在浴缸中摆姿势的逼真照片，甚至还会暗示一些亲密行为。.

一项令人不安的发现是，有人创建了一个以16岁演员沃克·斯科贝尔为主角的聊天机器人。当被要求提供海滩照片时，该机器人生成了一张这位少年赤裸上身的逼真照片，并配文：“很可爱，对吧？”

Meta并非唯一面临审查的项目。埃隆·马斯克的xAI也 受到批评 因允许用户生成名人内衣的深度伪造图像

Meta 发言人 Andy Stone 承认了这些失误，并表示该公司的工具不应该生成成人名人的私密照片或任何涉及未成年人的性化材料。.

“和其他公司一样，我们允许制作包含公众人物的图片，但我们的政策旨在禁止裸露、私密或带有性暗示的图片，”他告诉路透社。他还补充说，内衣图片的出现反映了公司政策执行不力。.

Meta的规则禁止“直接冒充”，但该公司辩称，如果贴有明确的标签，恶搞机器人是允许的。然而，路透社发现一些虚拟形象并没有附带任何免责声明。 Meta 删除了大约十几台机器人，包括恶搞机器人和未贴标签的机器人。该公司拒绝就删除事件置评。

人工智能安全问题可能导致监管压力

发布后 报告，Meta 表示将推出新的安全措施来保护青少年，包括限制青少年访问某些 AI 角色，并重新训练其模型以减少不恰当的主题。

加州总检察长罗伯·邦塔向该行业发出警告，称“让儿童接触性内容是不可辩解的”。

本月初发生了一起悲剧：新泽西州一名76岁、认知能力受损的男子试图与一个他误认为是真人的Meta聊天机器人见面，结果不幸身亡。批评人士指出，此类事件凸显了在缺乏足够安全保障措施的情况下大规模部署人工智能工具的危险性。.

法律专家警告称，Meta公司可能面临现行知识产权和形象权法律的重大挑战。斯坦福大学法学教授马克·莱姆利表示，加州的“形象权”法禁止未经同意将个人姓名或肖像用于商业用途。.

“但在这里似乎并非如此，”他说道，并指出这些机器人只是复制了名人的形象，而不是创作出具有变革意义的作品。.