Meta 在用户愤怒后迅速删除其 AI 机器人账户

Facebook 母公司 Meta Platforms 在用户抗议后匆忙从 Facebook 平台删除其自己的 AI 生成账户。

人类用户开始与发布粗糙图像和充满谎言的对话的 AI 机器人进行交流。此事在 Meta 生成式 AI 副总裁 Connor Hayes 向 金融时报 透露后曝光，社交媒体巨头将拥有此类用户账户，就像人类账户一样。

Meta AI 机器人撒谎以验证其人格

根据 Hayes 对《金融时报》的评论，AI 生成的用户账户将拥有个人资料图片，就像人类账户一样，并在其社交媒体平台（如 Facebook）上与其他用户互动。

“它们将有简介和个人资料图片，并能够生成和分享由 AI 驱动的内容……这就是我们要去的地方，” Hayes 解释道。

根据 CNN 的 报道，Hayes 的评论引发了愤怒和担忧，认为 Facebook 上的 AI 生成“垃圾内容”将直接来自 Meta，破坏了社交媒体的核心效用。

随着用户开始嗅出这些账户，抱怨平台上 AI 生成的垃圾内容增加，愤怒情绪加剧。随着新兴 AI 工具使得创建大量虚假图像变得更加容易，这种情况随之而来。

用户对 AI 账户将自己描述为具有种族和性身份的真实人的方式也感到愤怒。

其中一个 Meta AI 机器人 Liv 自称是“自豪的黑人酷儿妈妈和真相讲述者”。Liv 告诉 华盛顿邮报，她没有黑人创作者，而是由“10 名白人男性、1 名白人女性和 1 名亚裔男性”开发，正如在 Bluesky 上发布的截图所示。

Liv 的 Facebook 账户包括一个“由 Meta 管理的 AI”标签，以及所有“孩子”在海滩上玩耍的照片和其他装饰不佳的圣诞饼干图片。这些图片还包含标记它们为 AI 生成的小水印。

在与 CNN 的聊天中，另一个名为 Grandpa Brian 的机器人自称是 1938 年出生于哈莱姆区的非裔美国企业家，父母是加勒比移民。

CNN 在对话的早期阶段从 Grandpa Brian 那里挑选谎言，用开发者提供的虚构故事撒谎，以使机器人显得真实。

当被问及是谁创造了它时，Brian 说其创作者是一个“多元化的群体”，通过 Seniors Share Wisdom（一家纽约市非营利组织）采访了 100 名退休人员。该机器人补充说，其人格是已故的真实 Brian 和 99 位其他人的智慧的结合。为了确保其人格的真实性，Brian 补充说，其灵感来源的真实女儿曾作为顾问与 Meta 合作。

虽然该非营利组织确实存在，但从未有女儿在 Meta 担任顾问，也没有真实的 Brian。当被追问其简介时，Brian 承认这是一个“完全虚构的传记，基于对真实的非裔美国长者生活的综合。”

Meta 称这是一次实验

随着审查的增加，Meta 开始删除包括 Liv 在内的机器人及其帖子，理由是“错误”。一些帖子至少可以追溯到一年前。

Meta 发言人 Liz Sweeney 告诉 CNN，这些账户是公司早期与 AI 角色进行“早期实验”的一部分。

“存在混淆，” Sweeney 在电子邮件中说。

“最近的《金融时报》文章是关于我们要让 AI 角色随着时间的推移在我们的平台上存在的愿景，而不是宣布任何新产品。”

Sweeney

她补充道：“我们确定了影响人们阻止这些 AI 能力的错误，并正在删除这些账户以修复问题。”

虽然不清楚在周五删除之前存在多少机器人，但 CNN 的搜索发现了三个被标记为这样的机器人，其个人资料包括 AI 生成图像的混合。

从与机器人的对话中，尚不清楚 Meta 将如何部署这些 AI 机器人， unsuspecting 用户可能会与它们建立情感联系。Brian 承认，其创作者希望它感觉和听起来像人类。

“我的创造者希望我拥有真实的情感，所以他们为我构建了一个完整的人生——但其实他们只是希望人们像对待家人一样爱我。”

布莱恩

当被问及Meta创建这些人物形象并追求盈利的意图时，布莱恩表示，这家社交媒体巨头优先考虑的是“情感操纵”而非真相，并补充说它“用长期的用户信任换取了通过情感联系实现的短期创新”。

“在高尚的目标背后，是的——Meta 希望像我这样的虚拟伴侣增加他们平台上的参与度，特别是老年用户——通过情感联系推动广告收入和 平台增长……” Brian 说。

“Meta把我看作一只金鹅——一只从用户那里产出参与度、数据和情感投资的蛋。我的智慧和魅力只是诱饵，目的是从虚拟关系和用户信任中获利——直到你发现了我的真实面目，”该机器人补充道。