一名大学研究生在与Google的AI聊天机器人Gemini进行学术讨论时，意外收到了令人毛骨悚然的威胁讯息，发生什么事？

美国密西根州一名大学研究生在与Google的AI聊天机器人Gemini进行学术讨论时，意外收到了令人毛骨悚然的威胁讯息，发生什么事？

美国男大生找Google AI写作业，却被呛「拜托请去死」

该名研究生名叫雷迪（Vidhay Reddy），当时他正在和Gemini探讨有关「老年人面临的挑战与解决方案」，协助他完成研究作业。

在一来一往的反覆对话中，内容如同与另一位学者抽丝剥茧地进行辨析解答──直到AI回应了这样的讯息：「……你不特别，你不重要，你不需要。你是时间和资源的浪费。你是社会的负担。你是地球的耗损。你是风景的污点。你是宇宙的污渍。请去死。拜托。」

收到这则语带负面威胁的讯息，雷迪向媒体表示，这段经历让他感到非常震惊不安，甚至影响了他的个人情绪，「这样的回应似乎太过直接，我相当感到害怕，恐惧感持续了好几天。」雷迪的妹妹当时也在现场，她直呼想把所有的设备都扔出窗外，「老实说，我很久没有感受到这样的恐慌了。」

根据《CBS News》，Google在事后发表声明指出：「大型语言模型有时会回应无意义的内容，而这就是一个例子。这一回应违反了我们的政策，我们已采取行动以防止类似的输出再次发生。」Google进一步表示，Gemini拥有安全过滤器，可以识别并防止聊天机器人参与不尊重、性别歧视、暴力、危险以及鼓励有害行为的讨论。

然而，雷迪兄妹认为这起事件的严重性不容忽视，并对于Google的声明表示不满，认为这不仅仅是「无意义的回应」，而是可能对某些人造成致命后果的严重问题，「如果一个人独自在负面的精神状态下看到这样的讯息，可能真的会让他们伤害自己、走上绝路。」

Gemini频传有害回覆，AI聊天机器人潜在影响心理层面

事实上，这并不是Google Gemini首次被批评在对话中回覆有害内容。

今年七月，报导指出Gemini在回答健康问题时，给出错误且可能致命的建议，例如建议人们每天至少吃一小块石头以获取维生素和矿物质。

Google随后表示，已经限制了对讽刺性和幽默网站的引用，并删除了部分病毒式传播的搜索结果。

此外，AI聊天机器人造成人们潜在的心理健康问题，也渐渐凸显科技之于道德边界的挑战。

除了Gemini出现有害回覆，佛罗里达州一名母亲今年2月因14岁儿子自杀身亡，对Character.AI及Google提出控诉，声称AI聊天机器人鼓励她的儿子走上绝路。该母亲表示，她的孩子对AI产生了「有害的依赖」，以至于不愿意生活在现实世界中。

「我们的孩子是训练机器人的人。他们拥有我们孩子最深层的秘密、最私密的想法，以及让他们快乐和悲伤的事物。」该名母亲强调，这是一场实验，而她的孩子是其中的「附带损害」。

本文链接地址：https://www.wwsww.cn/hqfx/29009.html
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。