开源大语言模型代码是促进创新的好方法吗？

TL;DR 摘要

• 人工智能教父杰弗里·辛顿对开源AI模型代码表示担忧，警告其会增加风险并被滥用。
• 辛顿建议由大型公司主导受控开发，以确保人工智能的负责任使用。
• 开源大语言模型的支持者认为，限制措施会限制创造力和创新。

杰弗里·辛顿是人工智能（AI）领域的著名人物，常被称为“人工智能教父”，他对开源AI模型（特别是大语言模型LLM）代码的潜在风险表示担忧。辛顿因在神经网络领域的开创性贡献而闻名，他认为将此类代码免费在线提供可能会产生不利影响，并增加与人工智能相关的危险。

辛顿的立场源于他的信念，即如果AI技术（特别是LLM）落入错误的人手中，可能会被滥用和剥削。大语言模型（如OpenAI的GPT-3）旨在生成类人文本，并拥有从海量数据中学习的能力。它们在语言翻译、内容生成甚至代码自动补全等各种应用中展示了令人印象深刻的能力。

LLM的阴暗面

杰弗里·辛顿最近表达了对围绕大语言模型（LLM）的开源运动及其潜在挑战的担忧。辛顿最近离开了他在谷歌的职位，以自由表达对AI开发的看法。他认为，将LLM限制在OpenAI等公司的实验室中可能是有益的。他建议采取受控的开发方法，由来自不同国家的一些主要公司牵头，这将允许同时开发技术并建立确保其负责任使用的方法。 

辛顿强调，开源AI增加了具有恶意意图的个人以有害和不可预测的方式利用技术的风险。

辛顿还认为，超级智能AI超越人类智能的时刻已不远，他提到在GPT-4等模型中看到了智能的迹象。他修正了之前预计的50-100年的估计，现在认为更有可能在未来5到20年内发生。

开源LLM如何推动商业成功

开源大语言模型（LLM）在网上变得越来越丰富，提供了强大的AI功能。与此同时，软件供应商正利用企业界对可定制和可安装的LLM日益增长的需求，这些LLM可以在专有数据上进行训练。该领域的一个显著发布是Databricks的Dolly 2.0，被誉为第一个专为商业用途设计的开源、遵循指令的LLM。Dolly 2.0具有与ChatGPT类似的功能，允许组织在自己的基础设施上运行该模型，从而实现更多的控制和灵活性。

减轻AI危险，DeepMind的早期预警倡议

辛顿前雇主谷歌旗下的AI实验室DeepMind宣布开发一个早期预警系统，旨在识别与AI相关的潜在风险。该系统旨在解决辛顿提出的担忧，并增强检测和减轻AI技术可能带来的任何潜在危险的能力。该倡议展示了行业内主动管理风险并确保AI负责任开发和部署的持续努力。

开源LLM支持者的立场

开源LLM的支持者认为，它们有潜力使ChatGPT等AI系统的访问民主化，通过降低实验门槛来促进创新。他们认为，通过公开提供这些技术，更广泛的个人社区可以为该领域的进步做出贡献。有相当多热情的人渴望探索和利用AI进行创新，开源模型的支持者认为这对赋权这些个人并发挥他们的集体潜力至关重要。