Signal总裁发出警告，警示代理式AI的风险

Signal总裁Meredith Whittaker警告公众注意与代理式人工智能（AI）相关的风险。在德克萨斯州奥斯汀举行的SXSW会议上，她提到使用代理式AI可能会给用户带来隐私风险。

根据Whittaker的声明，她提到了对安全通信形式的需求，指出使用AI代理就像“把你的大脑放进罐子里”。她补充说，用户允许AI代表他们执行任务的新趋势可能会导致隐私和安全问题。

AI代理的使用在加密行业中变得泛滥，去中心化金融（DeFi）领域的用户使用这些机器执行交易、适应甚至优化策略，几乎不需要用户输入。这些AI代理也被集成到平台中，帮助用户更轻松、更智能、更快地交易。然而，一些机器人在用户与AI代理交互之前就被下载了。

Signal总裁对AI代理发出警告

根据Signal总裁的说法，各种平台开始将AI代理营销为一种增值服务，以改善用户的生活。在她的演讲中，Whittaker提到，除了其在加密领域的使用外，这些代理还为用户处理各种在线任务。例如，AI代理可以购买活动门票、在日历上安排活动以及给朋友发消息。

“所以我们可以直接把大脑放进罐子里，因为这件事由它来做，我们不需要碰它，对吧？”Signal总裁问道。

在提出这个问题后，她随后就用户在使用AI代理执行这些任务以提高生活效率之前需要授予的权限进行了长篇讨论。惠特克补充说，这将包括访问我们的网络浏览器、日历、消息应用程序，有时还包括我们的信用卡，因为它必须为我们预订的活动门票付款。

“它需要能够以类似根权限的方式在我们的整个系统中驱动[该流程]，访问每一个数据库——可能以明文形式，因为没有模型可以处理加密数据，”惠特克补充道。

惠特克的声明呼吁AI行业保持谨慎

在她的声明中，惠特克提到AI代理不能单独充分工作，因为它们必须由AI模型驱动。她还讨论了流程与安全之间的关系，指出信息在发送回之前会被发送到服务器进行处理。

“因此，围绕代理的炒作中存在一个深刻的隐私和安全问题，这最终威胁着通过结合所有这些独立服务[并]混淆它们的数据来打破应用层和操作系统层之间的血脑屏障，”惠特克补充道。

她还指出，如果Signal决定将其应用程序集成AI代理，将会损害其用户消息的隐私。她补充说，代理需要访问应用程序才能向其他人发短信，并提取信息以总结文本。

她的评论是在她参加一个小组讨论之后，该小组讨论了AI行业如何因其收集大量数据的方式而建立在监控模式之上。惠特克还补充说，她认为收集的数据越多，产生的潜在后果就越糟糕，这是她之前没有想到的。

随着代理式AI的发展，Signal总裁提到：“我们将进一步破坏隐私和安全，因为有一个‘魔法精灵机器人’将处理生活的紧急情况，”她总结道。