美国Lingo Telecom公司因AI生成的拜登自动语音电话面临100万美元罚款

美国语音服务提供商Lingo Telecom已与联邦通信委员会（FCC）达成100万美元的和解协议。该公司被指控协助影响2024年新罕布什尔州初选选民的人工智能驱动机器人电话。 

2024年1月21日，新罕布什尔州的许多公民受到语音酷似总统乔·拜登的电话恐吓。这些自动电话告诉目标对象，在该州总统初选中投票将导致他们在11月的大选中被剥夺选举权。该声音是使用模仿乔·拜登的假低音，利用深度学习算法录制的。 

Lingo Telecom面临处罚和合规措施

该行动由政治策略师Steve Kramer实施，他表示目的是不影响选举，而是说明人工智能如何具有危险性。然而，Kramer的行为产生了潜在的负面影响，向选民提供虚假信息，并对选举的公平性构成威胁。Lingo Telecom的技术被用于此过程，因为它促进了向相关人员发送这些消息。 

根据和解协议，Lingo Telecom将支付100万美元的民事罚款，而FCC原本要求该公司支付200万美元。该公司还被强制制定强大的合规计划，包括遵守FCC的STIR/SHAKEN主叫ID认证框架。

该框架旨在解决主叫ID欺骗问题。该框架在机器人电话活动中被采用，使电话看起来像是来自其他合法号码。 

FCC还强调，这项和解对于向其他参与此类活动或协助此类活动的公司发出强烈信号至关重要。Lingo Telecom虽然接受了和解，但强烈批评FCC的行动，称监管机构试图追溯性地引入新规则。

FCC官员强调人工智能语音克隆在选举中的危险

FCC执法局局长Loyaan Egal 指出，使用主叫ID欺骗和人工智能语音克隆进行冒充非常危险，尤其是在选举期间。Egal指出，这些技术可能被国家行为体用于追求政治议程，或被外国行为体用于干涉该国的政治进程。

制作这些机器人电话的政治顾问Steve Kramer正面临更严重的后果。FCC提议对Kramer处以600万美元的罚款，他还可能因选民压制指控面临长达七年的监禁。

 此外，Kramer还可能因冒充政治候选人被判处一年监禁。这些指控表明当局如何看待此案，将其视为使用人工智能在政治中带来的风险的明确例子。 

非营利组织Public Citizen的联合总裁Robert Weissman欢迎FCC在此案中的行动，称深度伪造对我们的民主构成了 “生存威胁”。