FTC起诉利用AI误导消费者的公司

联邦贸易委员会（FTC）宣布，它将打击利用AI计划欺骗人的“跑腿”公司。这一行动是在名为“AI合规行动”（Operation AI Comply）的新执法 sweeps 中进行的。

据该机构称，那些利用AI工具操纵以创建虚假评论的公司将不会幸免。

此外，声称可以利用AI帮助消费者赚取更多金钱的公司也将属于此类，并面临该机构的严厉制裁。

“利用AI工具欺骗、误导或欺诈他人是非法的，”FTC主席Lina M. Khan表示。“FTC的执法行动清楚地表明，法律中没有AI豁免权。”

在确定的三家公司中，FBA Machine、Ecommerce Empire Builders和Ascend Ecom表示，他们提供的业务可以帮助在线商店利用AI产生被动收入。FTC的投诉指控这些企业欺骗消费者数百万美元，且几乎从未履行所作出的承诺。

DoNotPay就AI“机器人律师”声明与FTC达成和解

该执法行动还包括DoNotPay，这是一家AI公司，最近因其据报道创建了所谓的世界上第一个“机器人律师”而受到关注。FTC指出，该服务使用AI提供法律建议，无需人类律师参与，甚至允许用户提起袭击诉讼并生成法律文件。 

然而，该公司未能提供充分证据证明其创建的AI与人类法律知识一样有效。该服务未经过充分测试，且在运行过程中没有持牌律师的参与。FTC的和解协议涉及DoNotPay支付19.3万美元。此外，他们还需向使用该服务的消费者发送通知。该公司现在被禁止就其替代此类服务的能力进行误导性宣传。 

在去年X（原Twitter）的一篇帖子中，DoNotPay首席执行官Joshua Browder表示，该公司收到了 “来自州律师协会检察官的威胁” 并指出，如果他继续推进通过智能眼镜在法庭上展示AI律师的计划，他可能会入狱。 

Rytr因AI生成的虚假评论工具面临后果

FTC还针对Rytr采取了行动，这是一个利用AI创建消费者评论的工具。该服务提供了生成无数评论的可能性，这些评论通常包含与相关产品无关的虚假信息。这些虚假评论误导了潜在买家，并扭曲了在线市场。

作为和解的一部分，Rytr也被禁止在未来提供或宣传任何AI撰写的评论服务。据FTC称，这将有助于解决消费者评论中虚假信息的問題。

在Khan的领导下，FTC专注于打击以欺骗方式使用AI的公司。今年年初，FTC启动了对领先科技公司与新兴生成式AI公司之间合作的调查。