ChatGPT自问世以来，用户数量已经达到上亿级别，背后隐藏着的商业潜力也慢慢浮现。不过这也引发了业内对于ChatGPT迟迟不开源的争论。
同样身为该公司前共同创办人的马斯克（Elon Musk）多次批评OpenAI 不再开源、已成为微软赚钱机器。此外，他还呼吁暂停训练比GPT-4 更强大的人工智慧系统至少半年。
那么，开源是什么？ChatGPT 为何不开源？为何人们会对此事如此关注呢？
ChatGPT 不开源，OpenAI不再「open」
OpenAI公司是马斯克和投资人Sam Altman等人于2015年共同成立的非营利性AI研究组织，由于组织内部对于AI的观点有所分歧，马斯克于2018年离开了OpenAI的董事会，此后他专心致力于脑机接口公司Neuralink。
2022 年11 月，OpenAI宣布推出新型聊天机器人模型ChatGPT，受到了许多用户的欢迎，并成功掀起了一阵AI 热潮。之后，OpenAI 不断更新自身系统，并在今年3 月推出了功能更加强大的GPT-4。
就在人们欣喜于AI 技术的进步之时，ChatGPT迟迟不开源也引发了人们的争论。
其中，马斯克公开发声表达了对OpenAI现状的不满，并表示违背创立初期的本意。
马斯克表示，创建OpenAI的原意是为了与当时大量投入人工智能技术的Google抗衡，因此在名称中采用「Open」的描述，目的就是强调「开源」。然而，当他在2018年离开OpenAI后，公司在2019年调整其营运模式，现在已变成一家由微软控制，「闭源」而且追求利润最大化的公司，根本不是他想要的。
开源是什么？为何如此重要？
开源是指将软件、代码、技术等等的源代码向公众免费开放，让任何人都可以查看、使用、修改、分享、分发、甚至商用。
开源的好处包括提升产品的透明度，帮助用户和开发人员更好地理解和信任软件或技术。此外，由于开源软件的源代码是公开的，因此可以由全世界的开发人员审查和测试代码，从而发现和修复漏洞和错误，提高软件的稳定性和可靠性。开源软件还能促进全球范围内的协作，鼓励和推动更广泛的创新。
尽管OpenAI 已经分享了大量GPT-4 的基准和测试结果，以及一些有趣的示范，但基本上没有提供用于训练该模型的资料、能源成本，或用于创建该模型的具体硬体或方法的资讯。
人工智慧社群的一部分人批评了这一决定，认为它破坏了该公司作为一个研究机构的创始精神，并使其他人更难以复制其工作。也许更重要的是，一些人说，这也使人们难以制定保障措施来应对像GPT-4 这样的人工智慧系统所带来的威胁，而这些抱怨是在人工智慧世界日益紧张和快速发展时显现的。
Nomic AI 资讯设计副总裁班·史密特（Ben Schmidt）在推特上表示，「我认为这一做法关闭了'Open' AI 的大门：他们在介绍GPT-4 的98 页论文中自豪地宣称，没有透露任何有关训练集的内容。」
GPT-4为何不开源？OpenAI 怎么说？
面对ChatGPT 不开源的争论，OpenAI 首席科学家、联合创办人伊尔亚‧苏兹克维（Ilya Sutskever）对这一做法进行了说明。
他表示，OpenAI 不分享关于GPT-4 的更多资讯的原因是「不言而喻的」，即害怕竞争和对安全的担忧。
「在竞争格局方面－－外面的竞争很激烈，」苏兹克维说，「GPT-4 的开发并不容易。几乎OpenAI 的所有人在一起花了很长时间才做出了这个东西，而且（目前）有很多很多公司都想做同样的事情。」
「安全方面，我想说，还没有竞争方面那么突出。但它将会改变，基本上是这样的。这些模型非常强大，而且会变得越来越强大。在某种程度上，如果有人想的话，很容易用这些模型造成很大的伤害。随着（模型）能力的增强，不想透露是有道理的。」
此外，当被问及为什么OpenAI 改变了分享其研究的方法时，苏兹克维简单地回答：「我们错了。坦率地说，我们错了。如果你像我们一样相信，在某个时候，人工智慧/通用人工智慧将变得极其强大，令人难以置信，那么，开源就是没有意义的。这是一个坏主意…… 可以预料的是，在几年内，每个人都会完全明白，开源人工智慧是不明智的。」
社群对于ChatGPT 不开源的看法如何？
人工智慧社群对此事的看法各不相同。
值得注意的是，在GPT-4 发表的几周前，Meta 开发的另一个名为LLaMA 的人工智慧语言模型在网上遭泄露，引发了关于开源研究的威胁和好处的类似讨论。不过，大多数人对GPT-4 的「封闭」模型的最初反应是负面的。
对此，史密特表示，由于无法看到GPT-4 是在什么资料上训练的，人们很难知道该系统在什么地方可以安全使用并提出修正。
「对于人们来说，要想对这个模型在什么地方不起作用做出明智的决定，他们需要对它的作用以及其中的假设有一个更好的认识，」 Schmidt 说，「我不会相信在没有下雪天经验的情况下训练出来的自动驾驶汽车；一些漏洞或其他问题，很可能会在真实情况下使用时浮现出来。」
Lightning AI 执行长、开源工具PyTorch Lightning 创建者威廉·福尔肯（William Falcon）表示，人们可以从商业角度上理解这一决定。「作为一家公司，它完全有权利这样做。」 但Falcon 也认为，这一做法为更广泛的社群树立了一个「坏先例」，并可能产生有害影响。
「如果这个模型出错了，而且会出错的，你已经看到它出现了幻觉，给你提供了错误的资讯，那么社会应该如何反应？」福尔肯说，「伦理研究人员应该如何应对并提出解决方案，并说'这种方式不起作用，也许可以调整它来做这个其他事情？'」
马斯克连署吁停训GPT-4 等高阶机器人「至少半年」
值得注意的是，马斯克（Elon Musk）28日与众多专家在一封公开信中，提及AI系统有可能会对人类社会构成「深远的风险」，呼吁相关企业在未来半年内，停止训练比OpenAI最新推出的GPT-4更高端的AI机器人系统。
根据《路透社》报导，这封公开联署信是由非营利组织「未来生命研究所」（Future of Life Institute）发布，呼吁全球的AI实验室立刻暂停训练比GPT-4更强大的AI系统「至少6个月」，而且暂停要是公开并可受验证的，「如果不能迅速实施，政府就应介入暂停。」
「未来生命研究所」表示，各界应暂停开发高端AI，直到有独立专家开发、实施及审核相关的「共享安全协议」，「只有当我们确信它们（AI）的影响是正面，而且风险是可控的时候，才应该开发功能强大的人工智慧系统。」
该封信截至目前已经累积超过1000人联署，其中包括马斯克、Stability AI执行长莫斯塔克（Emad Mostaque）、Alphabet旗下人工智慧公司DeepMind的研究人员，以及AI巨头班吉欧（Yoshua Bengio）和罗素（Stuart Russell）。不过OpenAI的执行长奥特曼（Sam Altman）并未加入联署。
值得注意的是，马斯克在多次表达不满OpenAI 变成微软赚钱机器之际，二月底时也传出他已与多位人工智慧（AI）研究人员联系。但据悉该项目仍处于早期阶段，尚无开发具体产品的明确计划。
本文链接地址：https://www.wwsww.cn/yuanyuzhou/17282.html
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
