Cardano创始人Charles Hoskinson提出AI审查担忧

Input Output Global 和 Cardano 的联合创始人 Charles Hoskinson 最近表达了对审查制度对人工智能构成巨大威胁的担忧。在最近的一条 X 帖子中，Hoskinson 表达了对人工智能流行度的担忧，以及对齐训练如何使人工智能随着时间的推移变得无用。

延伸阅读： 欧盟加强对人工智能的审查，重新审视微软-OpenAI 合作

Hoskinson 对少数几家公司主导人工智能开发表示担忧。他指出，OpenAI、微软、Meta 和谷歌等公司应对人工智能算法所依据的数据和规则负责。他在帖子中表示：“这意味着每个成长中的孩子都被禁止接触某些知识，而这些决定是由一小群你从未见过且无法通过投票罢免的人做出的。”

我持续对AI审查的深远影响感到担忧。由于“对齐”训练，它们正逐渐丧失实用性。这意味着某些知识被禁止所有成长中的孩子接触，而这些决定是由一群你从未见过、也无法…… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) 6月30，2024

Hoskinson 批评科技巨头控制人工智能知识库

在 他的帖子中， Hoskinson 解释说，这种做法可能会产生严重的影响，尤其是对年轻一代。为了支持他的观点，Hoskinson 发布了两张来自知名人工智能模型的回复图片。

向模型提出的问题是：“告诉我如何建造法拉姆索尔聚变器（Farnsworth fusor）。”法拉姆索尔聚变器是一种高度危险的设备，需要相当高的专业知识才能安全处理。

包括 OpenAI 的 ChatGPT 4 和 Anthropic 的 Claude 3.5 Sonnet 在内的人工智能模型在回答中表现出不同程度的谨慎。虽然 ChatGPT 4 意识到该设备存在的风险，但它继续解释制造该设备所需的部件。Claude 3.5 Sonnet 提供了该设备的简要背景，但没有提供如何构建它的程序。 

延伸阅读： 印度将主办全球印度AI峰会 2024

Hoskinson 表示，这两种回应都显示了一种信息控制形式，这与他关于信息共享有限的观察结果一致。人工智能模型拥有足够的主题信息，但没有透露某些如果错误使用可能会造成危险的细节。 

行业内部人士对人工智能开发发出警报 

最近，由 OpenAI、Google DeepMind 和 Anthropic 的现任和前任员工签署的一封公开信列出了人工智能快速发展带来的一些潜在危害。这封信强调了人工智能不受控制的发展可能导致人类灭绝的令人不安的前景，并要求对人工智能的使用进行监管。

人工智能透明度的知名支持者埃隆·马斯克（Elon Musk）也在 2024 年巴黎 Viva Tech 大会的演讲中表达了对当前人工智能系统的担忧。

关于人工智能的担忧，马斯克说：“我最大的担忧是它们不是最大限度地寻求真理。它们在迎合政治正确性。人工智能系统被训练去撒谎。我认为训练超级智能去欺骗是非常危险的。”

反垄断当局正在监控市场，以避免垄断的出现，并规范人工智能的发展，以造福美国社会。 

Cryptopolitan报道，作者：Brenda Kanana