白宫宣布获得七家科技巨头会管理AI相关风险的「承诺」，有何潜在影响？承诺真的有效吗？
AI发展安全性，科技巨头做出承诺！
白宫于7月21日表示，包括Google、OpenAI、亚马逊(Amazon)、Anthropic、Inflection AI、Meta与微软(Microsoft)在内的七间美国科技巨头，在会议上公开承诺会促进人工智能发展的安全性与透明度。
此次白宫峰会共通过了8项承诺，主要是为了确保人工智能相关产品，在向公众发布之前需经过严格的内部和外部安全测试。
而该测试旨在防范生物安全、网络安全和更广泛的社会影响等重大风险。美国总统拜登（Joe Biden）指出，「这些承诺是真实且具体的」，白宫认为开发这些新兴技术的公司有责任确保其产品的安全。但也有人质疑这些书面承诺的法律效力，同时认为很多承诺都是已经在采用的。
虽然拜登表示这些承诺是真实且具体的，但还是有许多人质疑可行性
AI巨头做出8项承诺，他们承诺了什么？
白宫的官方声明中指出三个大方向，大方向又细分成8项承诺，分别是：
（一）在向公众介绍产品之前确保其安全性
- 在产品发布前对其人工智能系统进行内部和外部安全测试。这项测试将部分由独立专家进行，以防范人工智能风险的一些最重要来源，如生物安全和网络安全，以及其更广泛的社会影响。
- 在跨业界以及与政府、公民社会和学术界之间分享有关管理人工智能风险的讯息。
（二）建立以安全为首要考虑的系统
- 在资安和内部威胁防护方面努力，以保护其专有且未公开的模型权重（用来描述给予人工智能模型运作能力的数学指令）。这些模型权重是人工智能系统中最重要的部分，并且公司同意只有在有意愿且考虑到安全风险的情况下才会释放这些模型权重。
- 承诺促进第三方发现并报告他们的人工智能系统中的漏洞。即使在人工智能系统发布后可能仍存在一些问题，健全的报告机制能够使它们被快速发现和修复。
（三）赢得公众信任
- 开发强大的技术机制，确保用户在内容由人工智能生成时能够知情，例如通过添加浮水印系统。这一举措有助于促进人工智能的创造性应用，同时减少欺诈和虚假行为的危险。
- 公开报告其人工智能系统的能力、限制以及适当和不适当使用的领域。这份报告将包括安全风险和社会风险，例如公平性和偏见方面的影响。
- 优先进行有关人工智能系统可能带来的社会风险的研究，包括避免有害的偏见和歧视，以及保护隐私。人工智能的历史记录显示了这些危险的隐蔽性和普遍性，这些公司承诺推出能够减轻这些风险的人工智能技术。
- 开发和部署先进的人工智能系统，以帮助应对社会上最大的挑战。从预防癌症到减缓气候变化，AI如果得到适当管理，可以对所有人的繁荣、平等和安全做出巨大贡献。
8项关于人工智能发展的承诺旨在推动整体社会对AI的信任
承诺真的有效吗？还是沦为口舌之争
与会人士之一，OpenAI的全球事务副总裁马坎朱（Anna Makanju）表示，「世界各地的政策制定者正在考虑为先进的AI系统制定新的法规」。
Google全球事务总裁沃克（Kent Walker）表示，在人工智能方面取得成功需要合作，他对加入其他领先的人工智能公司来支持这些承诺表示满意，并保证Google将继续透过分享资讯来与其他公司合作。
但据《The New York Times》指出，8项承诺里有许多项目都是本来就在进行中的，例如模型发布前的安全测试。应该鼓励让测试的过程更加透明化，除此之外，还应该加入AI对于武器应用方面的测试。目前关于人工智能安全性测试还没有一套普遍的准则，现时许多安全测试都是由这些科技巨头资助与监督的，而这明显引发了利益冲突的问题。有学者认为让政府来提供资金与测试的准则会是比较可行的方向。
承诺中还提到了要共享AI风险管理方面的资讯，但资讯的共享也存在着风险，如果在研发期间发现了AI可以被用于设计致命武器的话，那还应该将这些资讯分享出来吗？何况过往这些科技巨头就曾经以安全为由隐瞒资讯，今年OpenAI发布最新的模型GPT-4时，就没有透露训练时使用的数据与参数。这些被视为商业机密的训练数据是否在未来就会真的公开透明，也有许多专家提出质疑。
而关于AI生成内容加上浮水印的设计，虽然立意良善，但也有相关人士指出，有人已经将「给AI指令并生成内容」当作自己的工作，那在这样的内容中加上浮水印又会产生另一种问题。
象征意义大于实质意义，但至少打响第一枪
白宫与人工智能公司达成的协定似乎是象征意义大于实质意义，今年5月美国副总统贺锦丽（Kamala Harris）就曾会见了许多AI从业人员商讨AI伦理的相关议题，并宣布国家科学基金会将投入1.4亿美元。
但这次的峰会没有强制执行机制来确保公司遵守这些承诺，何况其中许多承诺已经是目前人工智能公司一直在做的，但至少在科技监管方面已经由政府打响了第一枪。
本文链接地址：https://www.wwsww.cn/rgzn/20428.html
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
