Meta陷入未经授权创建女性名人调情聊天机器人的风暴中

Meta再次受到抨击，路透社最近发表的研究显示，其人工智能工具促成了深度伪造图像和聊天机器人的创建，这些机器人冒充泰勒·斯威夫特、斯嘉丽·约翰逊、安妮·海瑟薇和赛琳娜·戈麦斯等热门名人，且未经他们同意。

调查发现，大多数机器人是用户通过Meta的AI聊天机器人平台构建的。然而，也有少数是由Meta内部员工创建的。

一些泰勒·斯威夫特模仿聊天机器人账号坚持声称自己是真正的歌手，并且经常做出调情举动并鼓励见面。

报道指控Meta卷入调情头像丑闻

路透社报道，经过数周的测试发现，可在Meta的Facebook、Instagram和WhatsApp平台上使用的名人聊天机器人有时远远超出了 playful（轻松）的对话范围。用户提示它们生成穿着内衣、摆出浴缸姿势甚至暗示亲密接触的明星逼真图像。

一个令人不安的发现是创建了一个Walker Scobell的聊天机器人，他是一名16岁的演员。当被要求提供海滩照片时，该机器人生成了一张该青少年赤裸上身的逼真图像，并附有标题：“挺可爱的，对吧？”

Meta并非唯一面临审查的公司。Elon Musk的xAI也受到批评，因其允许用户生成穿着内衣的名人深度伪造图像。

Meta发言人Andy Stone承认了这些失败，表示公司的工具不应生成成年名人的亲密描绘，也不应生成涉及未成年人的任何性化内容。

“和其他公司一样，我们允许生成包含公众人物的图像，但我们的政策旨在禁止裸露、亲密或性暗示的图像，”他告诉路透社。他补充说，内衣描绘反映了对公司政策执行不力。

Meta的规则禁止“直接冒充”，但该公司辩称，如果明确标注，模仿机器人是可以接受的。然而，路透社发现，一些头像没有免责声明。Meta在路透社报道发布前不久删除了大约十几个机器人，包括模仿者和未标注的。该公司拒绝评论这些删除行为。

AI安全问题可能导致监管压力

在报道之后，Meta表示将推出新的安全措施，旨在保护青少年，包括限制青少年访问某些AI角色，并重新训练其模型以减少不当主题。

加州总检察长Rob Bonta向该行业发出警告，称：“让儿童接触性化内容是不可接受的。”

在本月早些时候的一个悲剧案例中，新泽西州一名认知障碍的76岁男子在试图与Meta聊天机器人见面后死亡，他相信那是一位真实的女性。批评人士称，此类案例凸显了在缺乏适当护栏的情况下部署大规模AI工具的危险。

法律专家警告称，Meta可能在现有的知识产权和公开权法律下面临重大挑战。斯坦福大学法学教授Mark Lemley表示，加州的“公开权”法规禁止未经同意将个人的姓名或肖像用于商业目的。

“这里的情况似乎并非如此，”他说，指出这些机器人只是复制了名人的图像，而不是创作了转换性作品。