繁体中文  
 
版主:bob
 · 九阳全新免清洗型豆浆机 全美最低
 
机器人第零零壹 (001)定律
送交者:  2019年08月22日11:20:36 于 [世界时事论坛] 发送悄悄话

慕容青草

先把定律的内容叙述一下:

机器人或人工智能机器永远不可能象人类一样把握人类的知识,原因是机器人或人工智能机器不生活在人类所生活的文化体系中。

再来说说这个定律的名字。之所以会想到用机器人第几定律是因为上述这个结论指出的是人工智能及机器人发展的一个极限,类似当初的热力学第一及第二定律指出永动机是科学所无法达到的极限一样。至于说为什么是第零零一定律,稍候一会儿再回来谈。

再谈这个定律的意义。上述这个道理是我在其它地方已经明确地直接或间接阐述过的。当我把这句话明确说出来后,很多人可能会觉得道理很简单明了,但是在我说出来之前,还没有人提出过。而“还有人提出过”这一现实其实反映出这一表面简单的道理并非那么简单。

以该论述的前半句来说,迄今为止,专业人士们有关机器人与人类相比这一议题经常争论的焦点是机器人是否可能具有象人一样的智慧,或者机器人是否可能象人一样思考,其意义和我这里说的表面看来毫不相干,其实密切相关,这一点大家慢慢可以体会到。而且即便对于机器人是否能象人一样地思考这一点,专家们的意见也一直不一致,因此,并没有能将其作为一个定律提出来。

我这里之所以将“机器人或人工智能机器永远不可能象人类一样把握人类的知识”作为定律提出来,是针对目前人工智能界的期待着机器人或人工智能机器很快能够如AlphaGo掌握围棋技能那样全面把握人类知识的一种回应,而我给出的理由是:“机器人或人工智能机器不生活在人类所生活的文化体系中”。这一原因的意义很重要,大家可以自己去体会。

其实,“永动机不可能”这个结论被说出来后,听起来也很简单,而且在它被作为定律提出之前也早就有人说过类似的结论,甚至有人可能会从诸如人干活需要体力,而维持体力需要吃饭这样的生活常识悟出永动机不可能的道理来。但是,这个道理最后作为热力学第一第二定律表达出来却不但是建立在大量的试图制作永动机的失败教训以及科学家们相应的理论思考之上,而且还具有诸如功能转换,不可逆过程,有用能向无用能蜕变等丰富的内涵。

但另一方面,即便是今天仍然有很多人,很多专业科学人员在试图制造永动机。两百来年前人们试图用机械的方法制作永动机,一百来年前人们试图用磁体制作永动机,今天用磁体制造永动机的梦想似乎仍若隐若现,又加上了用什么零点能量,超导超流原理来制作永动机的梦想。

类似地,尽管“机机器人或人工智能机器永远不可能象人类一样把握人类的知识”这个结论对大多数人来说听起来明确简单,却也一直有而且一定还会有很多人去造出可以象人类一样地把握人类所具有的知识的机器人或人工智能机器来,而且还都是极聪明高级专业人士。就如同那些不懈地尝试要制作永动机的人前仆后继地再努力再失败一样,任何试图制造可以象人类一样地把握人类所具有的知识的机器人或人工智能机器的努力也一定会一而再再而三地遭受失败。

热力学第一第二定律之所以会作为定律来表述的最主要的原因并非是它们的正面论证,而是那些试图违背它们而不断失败的反面教训;同样地,“机器人或人工智能机器永远不可能象人类一样把握人类的知识,原因是机器人或人工智能机器不生活在人类所生活的文化体系中。”这句话之所以能成为定律是因为没有人能够打破这句话所表达的论断!

因此,在今后的日子里将会出现的大量的试图打破这句话的结论却遭受失败的例子,它们将会成为这个论述最终被普遍接受为定律的最主要的贡献。

那么,一定会有很多人试图打破上述这个结论吗?答案很明确:一定会有。

当然,因为还没有几个人听过“机器人或人工智能机器永远不可能象人类一样把握人类的知识,原因是机器人或人工智能机器不生活在人类所生活的文化体系中”这个论述,因此人们不会特意去打破其结论,但是试图制造能够象人类一样把握人类的知识的机器人或人工智能机器是目前AI和机器人界的热门,这方面的经费已经发出去,因此,即便是相关人员为了自己的生存,为了完成科研经费所要求的任务,也一定会向这方面努力的。正所谓箭在弦上不得不发。其中最主要的是在人工智能仿生学领域中的研究。

但是,如同两百来年前的科学家们用自己的挫折和努力证明了热力学第一第二定律一样,今天试图制造可以象人类一样把握人类的知识的机器人或人工智能机器的科学家们也必将以他们的努力及经验教训为“机器人或人工智能机器永远不可能象人类一样把握人类的知识,原因是机器人或人工智能机器不生活在人类所生活的文化体系中”这个论断做证明,使之最终成为被普遍接受的定律,暂且不论到底应该如何给这个定律命名。

现在再回来谈为什么要给这里讨论的结论命名为机器人第零零一定律,而不是机器人第一或第二定律。原因其实很简单,因为有位叫艾萨克阿西莫夫的名人不但早就搞出了个机器人三定律,还在那三定律之前加了第零定律,尽管他那四个定律根本谈不上是什么定律,而是作为科幻作家的他一厢情愿地为日后的机器人制定的主观法则。很显然,他的那些法则对于今天的机器人及AI科学家和工程师们不具备半点约束力。所以,只能是让他的科幻小说迷们爽一下而已。

但问题是,在英语中定律与法则是同一个词---Law,因此,他的那些法则也早就被当成了定律来转述。即便是仍有人只把它们当作主观法则而不是定律,我也无法再用“Robotics First Law机器人第一定律”来命名我这里讨论的定律了。而且,他既然已经将机器人的定律名称从零都三都占了,而且他的名气又那么大,作为无名氏的我现在就无法再用从机器人第零到第三定律这个范围的任何名称来命名我这里的真正的有关机器人发展的定律了。

不仅如此,如果他那些法则确实属于是定律性质的自然法则,我还可以跟在他后面来命名一个第四定律。但是,他的那些根本就不是什么定律,而完全是他想象出的一厢情愿的主观法则,我如果跟在他后面用第四定律命名只有误导众生。

但另一方面,我这里讨论的定律却又实实在在地如同热力学第一和第二定律一样是有关人工智能及机器人发展的一个极限的定律,因此又感到确实应该用诸如机器人第几定律的名字来命名,于是乎便想到了一个既符合热力学定律名称规范,又不会被误解为阿西莫夫的科幻定律一类的文学产物的名称,那就是“机器人第零零壹定律”,也可以是“人工智能第零零一定律”。



机器人三定律,维基百科,自由的百科全书,https://zh.wikipedia.org/wiki/%E6%9C%BA%E5%99%A8%E4%BA%BA%E4%B8%89%E5%AE%9A%E5%BE%8B

 

第零法則

機器人不得傷害整體人類,或坐視整體人類受到傷害;

第一法則

除非違背第零法則,否則機器人不得傷害人類,或坐視人類受到傷害;

第二法則

除非違背第零或第一法則,否則機器人必須服從人類命令;

第三法則

除非違背第零、第一或第二法則,否則機器人必須保護自己。


0%(0)
0%(0)
标 题 (必选项):
内 容 (选填项):
实用资讯
北美最大最全的折扣机票网站
美国名厂保健品一级代理,花旗参,维他命,鱼油,卵磷脂,30天退货保证.买百免邮.
一周点击热帖 更多>>
一周回复热帖
历史上的今天:回复热帖
2018: 理性思考知青运动的伟大意义
2018: 再谈白人优先: 华人平不了等,优不了先
2017: 塔利班:美军若不撤离 阿富汗将成他们墓
2017: 特朗普:不再用军力在他国建设民主 这些
2016: 呵呵,大家去隔壁围观,看黑木崖如何信
2016: 方博士还是出手了:中国首颗量子通信卫
2015: 虚无的历史——日本投降之后(一) z
2015: 评《环球时报》以党棍思维看待“国军”
2014: 为什么中国人不爱守法? zt
2014: ISIS VS CCTV zt