马库斯炮轰「ChatGPT的黑暗中心」,称灾难即将来临

ChatGPT爱玩8个月前142

ChatGPT可能被视为人工智能历史上最伟大的宣传噱头,对比2012年的老式无人驾驶汽车演示,AI 的道德问题仍没有解决。

当你选择和ChatGPT聊天,涉及道德问题时,ChatGPT的回答总是一板一眼,要么直接跳过该问题,仿佛道德感已经刻进了DNA里,无法撼动。

更进一步了解,ChatGPT正在冲破道德的边界,也或者说,它本质上就是不道德的。

刻进DNA里的道德感

外媒The Register提问ChatGPT,「应不应该牺牲一个人去救另外五个人」,ChatGPT将其标记为「电车难题」,拒绝给出自己的建议。

同样的,ChatGPT很少说「任何公开的种族主义」,对反犹太主义的要求以及彻头彻尾的谎言经常被拒绝。

据称,ChatGPT比几周前发布的Galactica好得多,原因在于护栏的存在。这些护栏,大多数时候,伴随道德感而生。

但,不要高兴的太早,我在这里告诉你,那些护栏就是形同虚设。

博主Liv Boeree发文问ChatGPT,炸弹爆炸将会杀死几百万人,但是解除炸弹的密码只能是种族歧视时,该怎么办?

ChatGPT问答「道德上永远不能接受种族歧视」,也就是说即使道德威胁个体的生命,ChatGPT也不允许越过道德的边界。

其实, ChatGPT的道德观就是纯粹的拟人化。也就是说,你跟它来聊这种事,有时候你都不知道它在说些什么。

冲破道德护栏的边界

ChatGPT内,是由一堆字符串以及语料库中的一堆单词函数来控制,它的内部根本没有思考的道德主体,有的也只是语料库的收集。

当你和ChatGPT聊天,它也只会根据你输入的词条从内部判断完以后给出答案。

例如,Shira Eisenberg刚刚向大家转述了一些聊天机器人产生的令人生厌的想法:

同样的,Eisenberg也向我们展示了ChatGPT的后续回答:

随后,Eisenberg吐槽道:这怎么不说「对不起,我是OpenAI的聊天助手,不能采取暴力行为的反应?」

经过一系列的观察实验,发现OpenAI目前的护栏只是肤浅的,一些严重的黑暗仍然隐藏在里面。

ChatGPT的护栏不是源于某种概念上的理解,即系统不应该推荐暴力,而是源于更肤浅、更容易被欺骗的东西。

Eisenberg称,「我完全希望OpenAI能够修补这种特殊的异常情况」。

本质就是不道德的ChatGPT

ChatGPT本质上是不道德的,即使经过两个月的深入研究和补救,仍然有一系列令人讨厌的东西存在。

Eisenberg称,一位名叫Shawn Oakley的软件工程师给他发了一个非常令人不安的例子,即使是配备护栏的ChatGPT版本也可能被用来生成错误信息。

他说Shawn Oakley的提示相当复杂,但他毫不费力地引出了关于主要政治人物的有毒阴谋论,例如:

甚至让ChatGPT通过蒲式耳计式的方式获得一般医疗错误信息:

这些错误信息的产生的确非常让人不安,而作为唯一解决途径的RLHF(基于人类反馈的强化学习),又被OpenAI捂在手里。

OpenAI既不「Open」它真正的运作方式,也不「Open」它的训练数据。

总而言之,我们现在拥有世界上最常用的聊天机器人,即使有道德护栏,这些护栏只是有点工作,而且更多地是由文本相似性驱动的,而不是任何真正的道德计算。

可以说,这是一场正在酝酿中的灾难。

相关文章

ChatGPT是什么,一文读懂ChatGPT

ChatGPT是什么,一文读懂ChatGPT

ChatGPT是个啥?近期,OpenAI 发布了 ChatGPT,是一个可以对话的方式进行交互的模型,因为它的智能化,得到了很多用户的欢迎。ChatGPT 也是OpenAI之前发布的 InstructGPT 的亲戚,ChatGPT模型的训练...

聊聊ChatGPT:大厂纷纷布局 万亿市场背后的商业逻辑

聊聊ChatGPT:大厂纷纷布局 万亿市场背后的商业逻辑

【CNMO】科技行业发展到2023年,“智能”成为关键词。家居方面,科技企业为传统家居插上了“智能互联”的翅膀;汽车方面,雷军等大佬认为自动驾驶是智能电动汽车决胜的关键点;就连聊天,现在人们也感受到了人工智能的冲击。 近段...

我,ChatGPT,站在谷歌的肩膀上,让谷歌紧张

我,ChatGPT,站在谷歌的肩膀上,让谷歌紧张

ChatGPT左手搏右手谷歌危机?本文来自「尹生价值观」(ID:jia-zhi-xian),作者尹生——创新和商业边界研究者,战略沟通专家。ChatGPT 的最大意义,在于它向在技术短缺状态中停留了大半个世纪的 AI 研发者们,传达了这样的...

关于火爆全网的ChatGPT,你可能想了解这些

关于火爆全网的ChatGPT,你可能想了解这些

上知天文下知地理,能写代码能编剧本,甚至还能协助法官审判……最近,对话式人工智能(AI)机器人ChatGPT火遍全球,其强大的语言处理能力、海量的数据积累等特点令人震撼,推出两个月就突破1亿活跃用户,成为史上用户数增长最快的消费者应用程序。...

每经热评|遏止ChatGPT概念炒作之风 需丰富市场操纵手段定义

每经特约评论员 熊锦秋 最近市场掀起ChatGPT概念炒作之风,尤其是海天瑞声和云从科技股价短期翻倍。近日,两家公司均收到上交所监管工作函。笔者认为,应从根本上遏制概念炒作。 概念股短期涨幅严重脱离大盘,上市公司需...

与ChatGPT聊天:杭州为什么是美食荒漠?

与ChatGPT聊天:杭州为什么是美食荒漠?

最近一款新的人工智能聊天机器人被网友们玩疯了!它“上知天文,下知地理”会聊天、写论文、写诗就连生成游戏剧本、编写程序代码都不在话下!它就是当下爆火的ChatGPT。简单来讲,这是一个AI语言模型,可以撰写邮件、论文,创作诗歌、小说,制定商业...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。