人工智能会最终毁灭人类? 大部分中国专家不担心

2015-02-12 07:18:00 

环球时报

　　【环球军事报道】在不久的未来，人工智能(Artificial Intelligence，英文缩写AI)技术会全面超越人类的智慧，甚至会反过来控制或毁灭人类——这一灾难性的预测来自一群世界上公认“最聪明的人”，包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”埃隆·马斯克。甚至有美国学者认为，人工智能超过人类的时间点——“奇点”已经逼近，很可能就在几十年后。这一切真的会发生吗？还是正在发生之中？

　　科技巨头担忧人工智能失控

　　据多家美国媒体报道，在最近一次网络答问活动中，盖茨被提问如何看待人工智能的潜在危害，他表示，这确实是值得担心的问题。盖茨说：“如果我们能够很好地驾驭，机器能够为人类造福，但如果若干年后机器发展得足够智能，就将成为人类的心头大患。”

　　此前，数十位科学家、企业家及与人工智能领域有关的投资者曾联名发出一封公开信，警告人们必须更多地注意人工智能的安全性及其社会效益。参加联署的人中包括霍金及马斯克等。据英国《金融时报》报道，这封发自生命未来研究所的公开信还附带了一篇论文，其中建议应优先研究“强大而有益”的人工智能。目前，人们日益担心机器的智力和能力可能会超过创造它们的人类，从而影响到人类的就业，甚至影响到人类的长期生存。马斯克表示，他相信不受控制的人工智能“可能比核武器更危险”。

　　《金融时报》2日一篇名为《机器人何时“造反”？》的文章称，物理学家霍金最近向BBC表示，“完备人工智能的发展可能导致人类灭亡。”霍金认为，一旦诞生了真正的人工智能——即人类思想的全数字化版本——它“将开始自主迅速发展，并以越来越快的速度重新设计自己……受限于缓慢生物进化的人类无法与之竞争，将被取代”。

　　2045，人工智能超人脑？

　　人工智能全面超越人脑这样具有科幻色彩的话题，不仅在国内外科技界受到关注，甚至还有美国学者明确提出了人工智能超过人类的时间点。美国著名专家库兹韦尔在他的《奇点临近》一书中预测这个时间点将是2045年。

　　那什么是人工智能呢？从字面来看就是人造的智能，也就是让机器具备人类一样的行为能力及思维意识。美国麻省理工学院的温斯顿教授认为：“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”

　　那人工智能技术是否可以等同于机器人呢？360公司副总裁谭晓生11日接受《环球时报》记者采访时表示，机器人要用到人工智能技术，两者是一个交集关系，但不能完全等同。对于超级计算机和人工智能的关系，谭晓生认为，超算只是一个拥有巨大计算能力的载体，这是人工智能更深度发展的一个物质基础。除了这个物质基础，还有一些软性的东西。他认为，学界探讨的人工智能主要是指机器是否可能有自主意识，像人类一样去做一些复杂的智力活动。争论的核心可能包括，机器的智商能有多高？机器是否会产生自我意识？

　　谭晓生表示，人工智能近来受到关注可能与计算机芯片性能提升、计算能力提升以及算法的优化有关，但更重要的因素可能与深度学习技术的进步有关。深度学习技术就是机器模拟人脑的工作机理，这个理论很早就被提出了，但由于计算能力的限制，一直没法实现。随着深度学习的进步，使人类看到机器按照人脑的机理工作可以取得这么大的进步，因此产生了对于机器超越人脑的推理。

　　对于是否存在奇点的问题，国内的学界与产业界也存在着完全不同的观点。中科院计算所研究员、中国计算机学会副秘书长陈熙霖不认同2045奇点到来的结论。他认为，机器智慧很难超越人类，也许更像永远处在逼近的过程中。对于如何衡量智慧，如果仅仅是从记忆能力上看，或者计算能力上看，今天的计算机已经远远把人的能力甩在后面了。但从人类的智力活动来看，我们包括了记忆、联想、归纳、演绎、判断、思考、顿悟、甚至做梦等诸多智力活动，我们的智力还与情感有关，从这个意义上看机器智慧很难超越人类。

　　中国科学院计算所研究员、中国计算机学会高性能计算专委会秘书长张云泉也认为，机器智慧很难超越人类。仅从超级计算机的技术发展状况看，几十年内出现奇点的可能不大，但在资本的推动下，也有自我实现的可能。

　　而百度深度学习研究院(IDL)常务副院长余凯则认为，以他从事人工智能行业十几年的经验，再从上世纪八十年代到现在整个的发展看，人工智能产业发展非常快，至少从过去30年的进展看，计算能力跟数据量高速成长，人工智能(超越人类)的发展走势是有可能的。

　　英特尔中国研究院院长吴甘沙表示，相信奇点，但是采用一种预测的态度，而非预报，言之凿凿说2029或2045有点不合适。人的智慧形成，也存在奇点，在那之后加速进化。他表示，人的生理结构、DNA编码、脑和神经系统那么精密，常常有种错觉，人就是过了奇点的机器。吴甘沙写过一篇名为“与机器赛跑：Win or die”的文章，总的观点是机器智能终将超越人类。

　　“进化的机器”会最终毁灭人类吗？

　　美国《华尔街日报》曾发表题为《人工智能不是威胁——现在还不是》的文章称，在过去几十年里，从象棋到算术再到网上交易，计算机在许多事情上的表现都有长足进步，但到目前为止，它们还没有对我们或我们的财物表现出一星半点的兴趣。FT的文章也认为，人工智能展示的技术进展意义重大，它们展示了非凡计算能力、海量数据和案例分析软件所能形成的威力。它们将改善我们的生活、改变我们的经济，但它们造反的可能性与叉车没有两样。人类面临大量短期挑战，为什么要把未来的幽灵说成即将到来的恶魔呢？

　　谭晓生的观点则相对激进。他表示，文明的进化不用过分担心。哪天机器进化超过人了，从优胜劣汰角度，如果机器会带来更高的文明，人类为啥还要占着茅坑呢？看看《三体》、《星舰文明》，就很能理解。为了文明延续，要让最强者得到机会，4艘星舰留存1艘，其它舰人员甚至沦为食物，so what？更何况，即使从文明延续的角度看，机器智能与人类也未必不能共处。▲(文中部分专家观点摘选自《互联网与人工智能的未来：奇点临近》专题沙龙)【环球时报记者 刘扬 特约记者 伊文】