Facebook 的母公司 Meta 如今利用其新推出的 AI 聊天机器人 Meta AI 展开了一场论战，该机器人已覆盖其所有社交媒体平台。这款聊天机器人声称自己集百科全书、指南、咨询师、插画师等多种功能于一身。然而，此举也引发了一些担忧，人们担心人工智能可能会对社交媒体体验产生影响。.
生成式人工智能正在进军社交媒体。例如，TikTok 拥有一支庞大的工程团队，致力于开发能够识别和生成文本的大型语言模型。该公司甚至聘请作家和记者来标注这些人工智能模型的内容，并提升其性能。
Meta的帮助页面已经暗示了这一点，该页面称，该公司可能会利用用户提供的消息来训练人工智能模型，从而提升技术能力。人工智能专家表示，社交媒体用户应该做好迎接更多此类信息的准备，这可能会彻底改变他们的体验，至于好坏则另当别论。.
“每个人都想方设法博取关注。”宾夕法尼亚大学沃顿商学院教授伊桑·莫里克指出，这正是人工智能在当今社交媒体应用中最重要的应用——尽可能地提高用户粘性。像Instagram这样的应用正在努力寻找各种方法来尽可能地留住用户，因为这将带来最大的广告投放时间。.
寻求平衡：监管与适度
在Facebook第一季度财报电话会议上，马克·扎克伯格承认，公司还需要一段时间才能真正看到对聊天机器人和其他人工智能应用的投资回报。但这项技术已经开始改变其旗下平台的用户体验。Facebook信息流中约30%的内容由人工智能推荐系统推送，Instagram上超过一半的内容也是通过同样的方式展示的。.
人工智能虽然可以个性化用户体验，甚至创造其他内容，但专家认为，它也可能对其他内容（例如肖像和音乐）进行个性化处理，这其中可能存在隐患。Epoch是一家专注于人工智能技术现状及未来发展趋势的研究机构，其主任Jaime Sevilla对人工智能的强大说服力以及虚假信息可能传播的风险表示担忧。.
一项研究表明，由瑞士洛桑联邦理工学院人工智能研究人员主导开发的GPT-4，在说服他人认同论点方面，其表现比人类高出81.7%。该研究尚未经过同行评审，但塞维利亚已经发出警告，尤其关注这项技术可能带来的、潜在的诈骗和欺诈风险。
随着美国又一个充满政治纷争的选举季即将到来，立法者们应该重视人工智能及其与虚假信息传播之间关系的危险性。Abacus.AI 的首席执行官兼联合创始人宾杜·雷迪 (Bindu Reddy) 提出了一种比直接禁止在社交媒体平台使用人工智能更为温和的方案，因为早在人工智能发明之前，不法分子就已在网上散布虚假信息。.
与此同时，雷迪呼吁禁止使用人工智能生成类人或真人深度伪造技术，但她反对欧盟等国实施的全面限制。她表示，美国在人工智能发展方面不应落后于其他国家。.
人工智能聊天机器人和类似的社交媒体创新正在发展，需要在创新与负责任的监管之间取得平衡，以确保用户体验得到保护，并维护世界各地的民主原则。.
