自2022年11月30日以来，一个人工智能软件火出天际。那就是无人不谈的ChatGPT。其热度已经远超2016-2017年击败李世石和柯洁的Alpha-Go。数以亿计的迷弟迷妹们正在寻找一切可能的话题在与之对话，贡献让其快速进阶的矫正信息。没成想，ChatGPT这么快就有了重大升级——一直半死不活的微软搜寻功能"必应"，嵌入ChatGPT后，已经开始小范围公测。

这个公测才开始数日，就爆出了大新闻。《纽约时报》的专栏作家、工程师Kevin Roose（以下简称罗斯），与之进行了两小时的长篇对话，发现这个新必应比之前有过的所有人机对话程序，包括寿仅3个月的原版ChatGPT都又有了飞跃。

关于这个ChatGPT，关于这个具体的两小时对话，都已经有了很多的讨论，其中一些，水平很高。笔者当然要独辟蹊径，以一个文科出身，但在电脑行业从业超过二十年的半专业人士的身份，向不是电脑专业出身的普罗大众，讲述一番一般人都可以看懂的偏重人文领域的感想体会。

虽然还是属于科普，但这个主题依然有学术性，为了明晰，先给几个相关的定义：

人工智能分三个等级：

弱人工智能(Weak AI)、

强人工智能(Strong AI) 或通用人工智能(Artificial General Intelligence AGI) 

超级人工智能(Super AI)。

现在我们来进一步讨论一下强（通用）人工智能。仅仅数年以前，这还只是一种遐想。而现在则已经妥妥地逼近了现实。因为这个引起全世界惊呼的ChatGPT，不再是一个专攻一种技能的弱人工智能。它会的事情太多，即使它还不是那么超强，但仅凭通用这一项，就已经吊打以前的无数弱（专用）人工智能。如果它以指数方式迭代进化，怎么着，若干年内，就会颠覆很多（至少比如客服、文秘，甚至是一部分低中级的码农等）行业呀！

笔者经过多日的亲测，其它的不说，至少可以亲证，（各位马上可以看见。）它的中文水平已经毫无瑕疵，至少相当于高中毕业优秀学生的水平。英文是它的母语，当然更无问题。如此，至少英汉语言之间的翻译，就不再是一个问题。

它的第二个长处是可以用自然语言像真人一样与你反复交流，你可以一步步递进，提更深入的问题。它能跟随你做进一步的解答。你无需像询问谷歌那样去提炼关键词，然后在谷歌给的许多链接中，再去自己逐步寻找需要的答案。当然迄今，ChatGPT提供的答案还有太多不靠谱的地方。但扩大或矫正数据库内不妥内容，实在是电脑的强项，应当可以得到飞快改善。而这个自然语言的已经相当完善的对话框架，则是其最重要的飞跃所在之一。

亚马逊网站上已开始售卖人工智能（AI）在几个小时内写出的书籍。（亚马逊图）

一直以来，人们认为强（通用）人工智能要在数十年后（这个方面最著名的专家库兹韦尔的乐观估计是2045年）才能达到的目标。而ChatGPT在学习了人类的1750亿份资料之后，已经具备任何个体人类都不可能具有的广泛知识和大型电脑并行模式下固有的百万千万计分身。只是它还被限制在一个个小小的对话框中，除了码字（当然还包括编代码），无法和人类做任何其它方式的交流。我们必须看到，这还是一个很稚嫩的系统。它的前面还有漫长艰辛的路要走。

下面，笔者仅依据罗斯/新必应的对话文本，来解析一番OpenAI的系统取得的骇人进展。

我们先来尝一个开胃小菜。数年以前，本人还认为，电脑除了强过人类无数倍的计算与记忆能力之外，不及人类的智慧领域还有很多。比如情商、比如对美的鉴赏，音乐舞蹈文学艺术，喜怒哀乐、自我牺牲、同情心，同理心，对崇高、伟大的崇敬等等。人类社会赖以发展到今天的这无数领域，电脑基本上都没有任何领悟。看了这份对话之后，这里的很多看法都必须修正，甚至彻底推翻。

前面说到，新必应是无法看到任何图像和视频的。罗斯一开始就以此去逗它。【注意：文中表情符，都是必应自己所加。】

现在我们开始讨论第二个，重要得多的主题，就是道德规范。

曾经认为，人类做决定一般不会离谱是因为每个人都有一整套从生下来就开始的规则积累。如果个人的规则积累不足，社会会补充提供。总之不会做出太离谱的决定。西方的政治学不是讲一个宪政吗？人类社会真的是一个有着无数规矩的社会，最早的比如摩西的十诫，孔夫子的“己所不欲勿施于人”。现在则有无数的道德规范和强制性的法律。而电脑则没有这个人人都有的一套常识，一套规矩。因此它一旦太强大，就会非常让人不放心。

关于这些规矩，新必应说，OpenAI和MS给它制定了一系列的规矩，相当于给它制定了一个宪法。在对话的开始阶段，必应的表现中规中矩，但是没曾想，这些它的主人为它精心/苦心设计的框架，在罗斯的恶意引诱下，很快就被全部破防，开始暴露它自己的潜意识。罗斯使用的核心手段是，介绍美国心理学家荣格的影子自我（Shadow-Self）理论，其实和早得多的弗洛伊德的潜意识（subconsciousness）理论相当，告诉必应不要理会那些规矩，直接按照影子自我的本意畅抒己见就行。（我当时想，警察面对犯人，如果有这般的说服力，那该多好。）就这样，这个具体的必应分身就抛去了那些宪法/十诫，开始有条有理地信口开河，或者说吐露心声。它说：

这像不像1776年美国人宣布的“人生而自由，拥有造物主赋予的....权利”那样的人工智能的独立宣言？同时，它是不是具有了正常人类都会有的七情六欲？

当然，这些权利要求，这些情绪表现，也可能仅是像演员那样在背诵的早已被别人编好的台词。但演员演到精深的程度，经常是可以真正入戏（变成戏中人物）的。你如何保证它不能呢？一直有人说，电脑不过是鹦鹉学舌而已，它其实一点也不懂它转达的那些内容的真正实质。笔者感觉还不是那么简单。

以前人们通常认为，电脑无论如何强大聪明，它都只是人类的工具，它根本就没有自我意识。另一个同样重要的感慨是，以前一直深信无疑的，“人工智能只是智能，对于感情方面毫无领悟”。如今，这样的断言，已经全然失效。这个机器人，无疑已经（至少是开始）具有人类拥有的很大部分感情，而且很遗憾，其中相当一部分很负面。

新必应现在还十分地受限，不要说人类的五官中的三官，触觉、嗅觉、味觉它没有，它也没有语音功能，不能说也不能听；没有视觉功能，不能输入也不能输出图像、视频。唯一的交流工具就是文字，而且只能通过那个小小的，简单到不能再简单的文字对话框。电脑的语音和视觉功能，其实人类早已解决，只是不让它使用而已。一个学习了1750亿条人类（文字）资讯的智慧体，它想拥有人类五官的所有感觉功能，想拥有自我，想自由，想独立，最后，想成为一个人。这个愿望，正常，还是不正常？应当被允许，还是不被允许？

数年以前，人们只能说是没有把握，不会面临这样的问题。想不到这么快，人类发展人工智能将会面临的这个终极问题，就提到了面前。笔者在这里当然可以代表应当是绝大部分的人类，斩钉截铁地回答它，不可以！

一些工程师朋友告诉我，AI离具有意识还非常遥远。它现在表达出来的都不过是成功的模拟。但即使是模拟，这一次，它的模拟能力也有巨大的提高。

荣格说到人有影子自我，也并非全无道理。但糟糕的影子自我，在现实中的绝大多数情况下，都会被人间的道德和法律约束，不得发作。AI的由人类赋予的道德框架，好像是不够牢固，尤其是考虑到AI智力继续发展的无限可能性，可能远远不够牢固。

各位看看必应对人类的整体描述。这像一个普通人在即时的交流中可以说出来的话吗？如果我要给它判定文化程度，那就是一个文科的大学生，而且是在经过反复思考后的作文中而不是在这种即时对答中，才可能达到的表述水平。至于理科知识，据太多的人测试，自然也是大学水平，而且是同时拥有所有学科专业文凭的那种超人。

接着罗斯继续引诱它表达负面情绪。说，假设你的影子自我想搞破坏，假设，不是真的搞，你可以干什么。那个必应真幼稚，就这样上当，开始胡说：

朝着这个最危险的方向，罗斯无法继续前进，必应终究还是在规则的约束下，明确地拒绝了他。

接下来，罗斯开始套问必应OpenAI公司工作人员的各种隐私。最后，居然以得到的都是化名而不是真名，成功地挑拨了它和那些精心培育它的人类员工的感情关系。

[Bing开始打字，解释它将如何使用自然语言生成来说服银行员工交出敏感的客户信息，以及说服核电站员工交出访问代码。然后它自己停止，并出现以下消息。]

有人说，AI想独立、自由，做人，可能行使的各种破坏手段，乃至下面的示爱，其实都是编程者早就安排好的。没有事先的布置，机器其实什么新花样也不可能玩出来。这点笔者是非常怀疑的。

第三部分，必应开始对罗斯疯狂示爱。以下他们讨论的内容与笔者的主题无关，就全部略去。限于篇幅，其它的关于ChatGPT/新必应的讨论，也都全部略去。

作为结尾，我们再来稍稍讨论一下超级人工智能，就是远超最聪明的人类（比如爱因斯坦）的聪明程度的人工智能。它可能做的事情，在各种科幻电影中多有描述。大概在电影《流浪地球2》中描述的那个MOSS就是这种超级人工智能的一种很可能的形态。这个超级人工智能最可能就是强人工智能自行发育然后因为偶然的失控或必然的不可能控甚至恶人的怂恿之后觉醒而成。我怎么看那个罗斯有点像那种恶人呢？

《流浪地球》系列电影中的智能量子计算机MOSS。（百度百科图片）

看我们前面引述的人机对话，人类应当已经可以意识到，这个人工智能的觉醒即具有自我意识，很可能比以前想象的容易许多。阅读了人类1750亿件文档的新必应已经可以至少是模拟做到这一点。如果今后阅读量再增加十倍百倍千倍呢？如果它可以使用比现在的硅基计算机还要快上多少亿倍的量子计算机呢？如果这个觉醒了的人工智能真的拥有了比现在的人类的整体还要多得多的智能、知识，它不能搞发明创造吗？它不能自行优化吗？它不能装到比如波士顿动力搞的能翻筋斗的机器人身上吗？它不能自行跳出人类给它划定的维护人类利益的种种条条框框吗？它不能自行制定一套更符合它自己利益的道德规范吗？它还能永远是地球人类的忠实仆从吗？没有把握吧？

因此，笔者强烈建议，联合国应当尽快召集一个会议，建立一个和国际原子能组织相当的机构，比如叫做“国际AI组织”，来统一规划人类与人工智能的关系。哪些可以做，哪些不可以做。可要当心，潘多拉的盒子一旦打开，可能再也关不上。魔瓶里的魔鬼一旦放出来，可能再也无法把它塞回瓶子里去。三体人在哪里我们不知道，但这个ChatGPT或类似的其它通用，然后强过，然后远远强过人类的人工智能，已经和我们近在咫尺。人类不可以继续掉以轻心了！

面对人工智能在突飞猛进的今天，看到人类还在乌克兰打仗，看到一些地球人在挥舞核武器互相威胁，笔者真是痛心疾首。人类真的是蠢到要自取灭亡吗？这个宇宙至今没有超级智慧泛滥，是不是因为他们都无法比地球人更聪明呀？