人工智能的快速增长使人类面临灾难性的危险。 令人震惊的是,被誉为“人工智能教父”的杰弗里·辛顿博士辞去了谷歌的职务,并对人工智能的危险发出了严厉警告。
人工智能被证明是人类最大的威胁
据报道,这位“人工智能教父”已经辞去了在谷歌的职务,以便他可以更公开地谈论人工智能的潜在风险。 技术。 Geoffrey Hinton 博士在离开公司之前在 Google 从事机器学习算法工作十多年。 据报道,他一生对神经网络的研究为他赢得了这一称号。
杰弗里博士辞职之际,人们对人工智能的使用越来越担忧。 涉及各个行业,包括医疗保健、金融和交通运输。 批评者认为,人工智能可能会导致工作岗位流失、隐私侵犯,甚至自主武器的发展。
在采访时表示,他最担心的是利用人工智能在互联网上充斥虚假图片、视频和文本,以至于人们将不再“能够知道什么是真实的”。不再了。”
辛顿还对人工智能技术取代人类劳动力感到担忧。 他认为,人工智能未来可能对人类构成威胁,因为它能够从分析的大量数据中获取意想不到的行为。 辛顿还对自己一生的工作表示了一些遗憾:
我用正常的借口安慰自己:如果我没有这么做,别人就会这么做。
杰弗里·辛顿博士
杰弗里·辛顿 (Geoffrey Hinton) 博士的辞职在整个科技行业引起了冲击,许多专家呼吁加强对人工智能的监督和监管。 随着关于人工智能的风险和收益的争论仍在继续,很明显,像 Geoffrey Hinton 博士这样的先驱者的贡献对于塑造这一快速发展的技术的未来至关重要。
许多技术专家警告人工智能的危险
近几个月来,监管机构、立法者和科技行业领袖都对人工智能的发展表示担忧。 3 月份,超过 2,600 名科技高管和研究人员签署了一封公开信,敦促暂时停止人工智能的开发,理由是“对社会和人类构成严重风险”。
今年 4 月,十二名欧盟立法者签署了一封类似的信函,最近的欧盟法案草案根据人工智能工具的风险级别对其进行了分类。 此外,英国还将向一个工作组提供 1.25 亿美元,用于开发“安全人工智能”。
据报道,人工智能工具已经被用来散布虚假信息,最近就有媒体机构被欺骗发布虚假新闻的例子。 此外,一家德国媒体利用人工智能伪造了一次采访。
Binance安于 5 月 1 日声称,其首席执行官赵长鹏“CZ”赵是中国共产党学生组织的成员dent该组织是通过源自 ChatGPT 的聊天机器人传播的,聊天机器人的屏幕截图证明了这一点。
上周,一群恶作剧者还欺骗了全球多家媒体,包括《每日邮报》和《独立dent 。 《每日邮报》发表了一篇关于一位名叫“圣冯·科鲁奇”的加拿大演员的故事,据说他在接受整容手术以使自己看起来更像韩国流行歌星后死亡。 《每日邮报》随后删除了这篇文章。
人工智能对人类有哪些可预见的危险?
人工智能对人类有一些可预见的危险,其中一些已经经历过,另一些则可能在未来发生。 以下是一些最令人担忧的危险:
1.工作岗位取代:随着人工智能变得更加先进,它有可能取代许多行业的人类工人,导致大量失业和经济混乱。 埃隆·马斯克指出,有些工作将由机器人接管,并且表现得比人类更好
2.自主武器:自主武器的发展是一个主要问题,它可以在没有人为干预的情况下决定攻击目标和攻击时间。 这些武器可能会导致意外伤害,因为它们可能会发生故障或被黑客攻击。
3. 意外后果:随着人工智能系统变得越来越复杂,它们可能会产生有害的意外后果。 例如,人工智能。 旨在实现公司利润最大化的系统可能会无意中损害环境或社会。
4. 偏见和歧视:人工智能系统的公正性取决于它们所训练的数据的公正性,这意味着如果用于训练它们的数据有偏差,那么人工智能系统也会有偏差。 这可能会产生严重后果,特别是在刑事司法等领域,有偏见的人工智能系统可能会导致某些群体受到不公平待遇。
5.网络安全风险:随着人工智能系统变得更加先进,它们也可能变得更容易受到网络攻击。 如果人工智能系统遭到黑客攻击,它可能会被用来造成伤害或破坏关键系统。
6.缺乏透明度和问责制:如果人工智能系统正在对人们的生活做出重要决定,例如是否获得贷款或保释,那么这些系统的透明度和问责制就非常重要。 然而,有人担心某些人工智能系统可能不透明且难以理解或审计。
7. 生存风险:一些专家担心人工智能的发展可能对人类构成生存威胁,无论是通过发展超出人类控制的超级人工智能,还是通过以军事或其他破坏性方式使用人工智能。