近期，AI 新科技ChatGPT在网络上大火，而让ChatGPT 如此受到欢迎的是它的「人性化」，比起以往死板的聊天机器人，ChatGPT 能让人体验到更多的乐趣。

但随着人们对ChatGPT 的探索，一些关于AI 的问题也逐渐暴露了出来。过于「人性化」的AI 工具是否会对人类造成危害？AI 的过度使用会威胁到人类文明吗？以及是否需要对ChatGPT 等AI 工具进行监管呢？

马斯克示警：人工智能是人类文明最大的风险，需要进行监管

ChatGPT是由美国公司OpenAI所开发的，而马斯克就是OpenAI的联合创始人之一，但由于理念不合，马斯克在中途就推出了OpenAI。

2 月15 日，马斯克在杜拜举行的世界政府峰会上谈及ChatGPT 等人工智能，并表示「未来文明面临的最大风险之一是人工智能」。他也提到ChatGPT已经向人类展示了人工智能已经进步到了令人难以置信的地步，而这是大家需要担心的事。

马斯克在会上表示，虽然ChatGPT能力强大、前景看好，但伴随而来的却是巨大的风险。现在飞机、汽车、医药都有相关的监管规定，但人工智能却还没有认合的规则或法规可以控管，「坦白说，我们需要去规范人工智能，虽然这可能会稍微减缓人工智能的发展，但我认为这也可能是一件好事」。

事实上，马斯克过去就曾警告，无节制发展人工智能将会很危险，甚至会比核弹头「危险得多」。此次在世界政府峰会上的言论，也引起热议，到底AI 会不会对人类产生威胁呢？ChatGPT 等人工智能在当前使用中出现了什么问题呢？

ChatGPT 等人工智能带来了什么样的问题？

ChatGPT 热潮席卷全球后，吸引了不少用户进行探索，OpenAI 甚至因此推出了付费版的ChatGPT Plus。但在人们大赞ChatGPT 好用的同时，也出现了不少争议，其中，最令人震惊的就是AI 出现「双重人格」，并把自己当做人类的问题。

整合ChatGPT 的AI Bing 出现人格分裂

《纽约时报》专栏作家凯文·罗斯（Kevin Roose）2月16日写道，在与聊天机器人必应交谈时，其第二人格希德尼（Sydney）突然冒了出来，而且像是一个有躁郁症、情绪化，同时又忧郁的青少年，还觉得自己被困在一个二流的搜寻引擎里。最后甚至演变成恐怖情人，要他与妻子离婚。

罗斯文中以「最诡异的科技体验」形容与Bing聊天机器人的对话历程，并说他试用后辗转难眠，「我不再认为这些人工智能模型的最大问题是习于搞错事实，反而担心这项技术将学习如何影响人类使用者，有时会说服他们以破坏且有害的方式做事」。

 ChatGPT 等AI 工具是否会造成学术造假

此外，由于ChatGPT 已经被测试用来写作、写代码甚至创作音乐，让不少人在担心饭碗不稳的同时，也担忧会出现学术造假、作弊等情况。

目前，ChatGPT已经在纽约、洛杉矶和西雅图等地的学校，以保护学术诚信为理由被禁止。一名美国国会助理也表示许多担忧都来自于关注作弊议题的教育工作者。

香港大学也在日前向师生发出内部邮件，表明禁止在港大所有课堂、作业和评估中使用聊天机器人ChatGPT或其他人工智能（AI）工具，因为这符合抄袭定义，港大成香港首间明文禁止相关作法的大学。

而国内大学则多抱持「观望」。台湾大学针对作业或论文使用AI工具是否构成抄袭的情况仍在研议中。

AI 恐造成虚假资讯传播

斯坦福大学的互联网观察所研究人员Renée DiResta曾发表报告，指AI系统是制造虚假资讯的一大威胁。讯息传播者利用大型语言模型，就能以极高效率和低成本制造大量引导性的内容，进行宣传或游说。产品或服务供应商可以借此影响消费者的抉择。

去年发表的多篇论文指出，大型语言模型和聊天机械人已发展至地步令人难以分辨它们与真人差别的地步，要判别传讯者的真确身份变得困难。斯坦福大学的研究发现，公开表明用AI写道歉告示的人，会被视为「欠缺诚意」；承认用AI写求职信的人，亦会被视为能力较低。可见请AI代劳是要付出代价的。倘若选择用AI创作但秘而不宣，又会招来「不诚实」和「作弊」的污名。

学者预计，由ChatGPT引伸出来的真确性、欺骗和信任等课题，势将愈来愈受重视，我们需要更多研究来探讨AI对人际关系带来的影响。

人工智能应该监管吗？创办人赞成但ChatGPT本身表示反对

不仅仅是马斯克，OpenAI执行长山姆·奥特曼（Sam Altman）也曾在2月19日于推文中表示：「尽管目前的人工智能工具并不可怕，但我认为可能离潜在的可怕不远了」，并表示对其进行监管将「至关重要」。

OpenAI首席技术长米拉·穆拉蒂（Mira Murati）在接受《TIME》杂志专访时也警告道：「现在需要监管机构进行介入，以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。」

而当被问及监管机构的介入是否会减缓发展的步调时，穆拉蒂认为现在介入并不算早，考量到这些科技将产生的影响，每个人都开始参与进来是非常重要的。

而据《路透社》报导，当被问及应该如何监管ChatGPT时，ChatGPT本身表示反对，并表示：「作为一个中立的人工智能语言模型，我对可能或可能不会颁布的特定法律没有立场，以监管像我这样的人工智能系统。」但随后它列出了监管机构关注的潜在领域，例如数据隐私、偏见和公平，以及如何回答问题的透明度。

从目前来看，AI 热潮来势汹汹，接受ChatGPT 等AI 的存在是人们必须面对的现实，而如何处理AI 工具的监管、应该怎么监管、如何处理好AI 与人类文明的关系仍有待思考。

本文链接地址：https://www.wwsww.cn/yuanyuzhou/16409.html
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。