AI采用中隐藏着多少危险？AI教父辞职离开Google

快速增长的AI采用使人类面临灾难性的危险。在令人震惊的事件中，被广泛称为“AI教父”的Geoffrey Hinton博士从Google辞职，并就人工智能的危险发出了严厉警告。

AI被证明是人类最大的威胁

据报道，“AI教父”从Google辞职，以便他能更公开地谈论人工智能技术的潜在风险。Geoffrey Hinton博士在Google从事机器学习算法工作超过十年，然后离开该公司。据报道，他毕生对神经网络的研究赢得了这一称号。

Geoffrey博士的辞职是在人们对人工智能在各种行业（包括医疗保健、金融和交通）的使用日益担忧的背景下发生的。批评者认为，人工智能可能导致失业、侵犯隐私，甚至开发自主武器。

在接受《纽约时报》采访时，他表示最担心的是人工智能被用来用假图片、视频和文本淹没互联网，以至于人们将不再“能够知道什么是真实的”。

Hinton还对人工智能技术取代人类劳动表示担忧。他认为，人工智能可能会因为能够从分析的大量数据中获得意外行为而对人类构成未来威胁。Hinton还对他毕生的工作表示了一些遗憾：

我安慰自己用正常的借口：如果我没做，别人也会做。

Geoffrey Hinton博士

Geoffrey Hinton博士的辞职在整个科技界引起了轰动，许多专家呼吁加强对人工智能的监督和监管。随着关于人工智能风险和益处的辩论继续，很明显，像Geoffrey Hinton博士这样的先驱者的贡献对于塑造这一快速发展的技术的未来至关重要。

许多科技专家警告人工智能的危险

近几个月来，监管机构、立法者和科技行业领袖都对人工智能的发展表示担忧。2,600多名科技高管和研究人员在3月签署了一封公开信，呼吁暂时暂停人工智能的开发，理由是“对社会和人类构成严重风险”。

4月，十二名欧盟立法者签署了一封类似的信，最近的一份欧盟草案根据风险等级对人工智能工具进行分类。此外，英国将向“安全AI”开发工作组提供1.25亿美元。

据报道，人工智能工具已被用于制造虚假信息，最近的例子是媒体机构被欺骗发布假新闻。此外，一家德国媒体机构使用人工智能伪造采访。

Binance于5月1日断言，其首席执行官赵长鹏（“CZ”）是中国共产党的一个学生组织的成员，这是由源自ChatGPT的聊天机器人传播的，聊天机器人的截图作为证据。

上周，一群恶作剧者也欺骗了全球多家媒体机构，包括《每日邮报》和《独立报》。《每日邮报》刊登了一篇关于所谓加拿大演员“Saint Von Colucci”的报道，称他在接受整形手术以让自己看起来更像韩国流行歌星后死亡。《每日邮报》随后删除了该文章。

AI对人类的可预见危险有哪些？

人工智能对人类有几种可预见的危险，其中一些已经正在经历，另一些可能在未来发生。以下是一些最令人担忧的危险：

1. 失业：随着人工智能变得越来越先进，它有可能在许多行业中取代人类工人，导致大规模失业和经济动荡。埃隆·马斯克指出，有些工作机器人将接管并比人类做得更好

2. 自主武器： 自主武器的发展是一个主要担忧，这些武器可以在没有人类干预的情况下决定攻击目标和时机。这些武器可能导致意外伤害，因为它们可能会发生故障或被黑客攻击。

3. 意外后果：随着人工智能系统变得越来越复杂，它们可能会产生有害的意外后果。例如，一个旨在为公司最大化利润的人工智能系统可能会无意中损害环境或社会。

4. 偏见和歧视：人工智能系统的偏见程度取决于其训练数据，这意味着如果用于训练它们的数据存在偏见，人工智能系统也会存在偏见。这可能会产生严重后果，特别是在刑事司法等领域，有偏见的人工智能系统可能导致对某些群体的不公平对待。

5. 网络安全风险： 随着人工智能系统变得越来越先进，它们也可能更容易受到网络攻击。如果AI系统被黑客攻击，它可能会被用来造成危害或破坏关键系统。

6. 缺乏透明度和问责制： 如果人工智能系统正在对人们的生活做出重要决定，例如是否授予贷款或保释，那么这些系统必须是透明和可问责的。然而，人们担心某些人工智能系统可能是黑箱，难以理解或审计。

7. 生存风险： 一些专家担心，人工智能的发展可能会对人类构成生存威胁，无论是通过开发超出人类控制能力的超级智能人工智能，还是通过AI在军事或其他破坏性方式中的使用。