Facebook 的推荐算法推广 AI 生成的垃圾邮件和诈骗

在斯坦福大学和乔治城大学研究人员进行的一项最新研究中，关于 Facebook 推荐算法的真相浮出水面。该研究强调，这些算法无意中助推了垃圾邮件发送者和骗子发布的 AI 生成 图像，导致平台上欺骗性内容的泛滥。

AI 生成图像：日益增长的威胁

该研究强调了 AI 生成图像的令人不安的趋势，这些图像通常让用户感到困惑或着迷，被用作 Facebook 上更大规模垃圾邮件或诈骗活动的一部分。研究中引用的一个例子是“虾耶稣”现象，这是一张 AI 创建的图像，在平台上多次获得病毒式传播。这些图像最初旨在积累粉丝，但已演变为将流量引向充满广告或兜售劣质产品的网站。

这些 AI 生成图像令人担忧的方面在于它们能够接触到不跟随原始页面的 unsuspecting 用户。许多用户与这些图像互动，而没有意识到他们与伪造内容进行了互动。虽然有些图像，如“虾耶稣”，可能明显是幻想的，但其他描绘日常物品或艺术品的图像可能会欺骗用户关于其人工性质，导致广泛的误导和剥削。

监管回应和审查

随着 AI 生成的垃圾邮件和诈骗构成的威胁变得越来越明显，监管机构正在采取行动。英国广告标准局 (ASA) 目前正在审查生成式 AI 在广告中的应用，今年可能会引入新的指导方针。同样，美国联邦贸易委员会也加强了对该问题的关注，认识到解决社交媒体平台上欺骗性行为的紧迫性。

2021 年，挪威实施了修订后的法律，要求广告商和网红披露使用数字操纵图像。这项旨在提高透明度和消费者信任的法规，也可能扩展到 AI 生成 广告。

Facebook 上 AI 生成垃圾邮件和诈骗的泛滥凸显了需要强有力的监管措施和平台问责制，以保护用户免受欺骗性内容的侵害。 

随着研究人员继续揭示这一现象的程度，社交媒体公司必须优先考虑其推荐算法的完整性，并打击恶意利用生成式 AI 的行为。只有通过监管机构和技术平台的共同努力，我们才能减轻 AI 生成欺骗带来的风险，并确保所有用户拥有一个更安全的在线环境。