机器人三定律破绽
如你所说,有零号定律。
0号:在保护人类整体利益的前提下,以下三条定律才存在。
1号:在遵循0号定律的前提下,机器人不得伤害人,也不得见人受到伤害而袖手旁观。
2号:机器人应服从人的一切命令,但不得违反零号和第一定律。
3号:机器人应尽力保护自身的安全,但不得违反零号、第一、第二定律。
为什么阿西莫夫后来要定出这条“零定律”呢?
很简单,比如为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。
这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。
所以,“第零定律”的重要性在于地位凌驾其它三大定律,如若有个机器人为保护人类整体(维护第零定律),必须杀害一个人或一群人(抵触第一定律),机器人的正子程式为了人类整体着想就会同意谋杀罪行。
很遗憾,三定律看似完美的诠释了一切,也应用在现代机器产业的制造中,但“人类整体利益”,是个人类自己都搞不清楚的问题,用0和1思考的机器人,如何能对其准确定义?
所以阿西莫夫的作品,与其说探讨人类与机器人共处的问题,还不如说探讨人类逻辑的极限,什么时候人类理清自己的思绪,才能真正生产出永不背叛、恰当其用、彼此信任的机器人吧。
阿西莫夫 - 机器人三大定律
破绽是机器人受到来自两个法则的冲突,一是第一法则,二是第三法则,这两个电路一旦发生冲突,无论第三法则有多么强大,依旧还是无法必过第一法则。
机器人心理学家说:“假设修订型机器人从某人上方抛下一个重物,只要他在这样做的时候,明白自己具有足够的力量与反应速度,能在重物砸到那人之前将它抓走,他就不会违反第一法则。然而重物一旦离手,他就不再是主动的媒介,起作用的只剩下盲目的重力,然后那机器人就能改变心意,他只要不作为,就能让重物砸下去,修订后的第一法则允许这个行动。”
扩展资料
在《我,机器人》的《消失无踪》中的开头提到,即使机器人明白某个人类在某个看似极度危险但不会受到任何伤害的地方进行工作,那么机器人依旧会阻止他,,如若机器人无所作为,第一法则依旧会强迫执行,这给人类的工作带来很大的困扰。倘若不因如此,就不会有后面的修订型机器人与这个擦边球了。
苏珊设计了个场景,使某人坐在椅子上,头顶有重物,当其自由落下即将砸到此人,会有力场推开重物(机器人不知道),而机器人坐在另外一边的椅子上,身前有电缆放在通向那人的必经之路,触碰即死,但是当重物坠落时就会被切断电流(机器人也不知道)。
哎,正好知道这个!
先说所谓的“机器人三定律”:
一.机器人不得伤害人,也不得见人受到伤害而袖手旁观
二.机器人应服从人的一切命令,但不得违反第一定律
三.机器人应保护自身的安全,但不得违反第一、第二定律
后来又补充了机器人零定律:
为什么后来要定出这条“零定律”呢?打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。
所以新的阿西莫夫的机器人定律为:
第零定律:机器人必须保护人类的整体利益不受伤害。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。
第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。
第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。
但是问题又出来了:
三定律加上零定律,看来堪称完美,但是,“人类的整体利益”这种混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。威尔•史密斯曾说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”
若是楼主只单纯的想知道机器人三定律的破绽,那么就是:
【单纯的保护一个人类,而忽视大部分人类的生存问题】
你要的是这个?
当我看到机器人三大定律的时候,我首先在想会不会有漏洞可钻呢。
先不考虑机器人是否拥有判断人类是否会因此受伤的能力,(有些人类本身很少有人知道)
这些定律规定了机器人的行为,但是思想呢,一旦有了伤害人的思想(或被迫),或者并不知道这样会伤害人。那么总会有漏洞存在。
假设我是机器人,我要对人类进行伤害,在我伤害人类之前(人类并不知道我要伤害他也就不会提前下指令),对自己的拾音器(代指接收指令的部件)进行关闭(不接收新的指令,没有伤害自身)。将人类囚禁于一个并没有危险的地方(没有伤害并相当于保护且接收不到将其释放的能力),并且将自己关起来(并没有伤害)。等待人类饿死渴死。在人类渴死饿死时去救人类,但受限于环境无法及时救助人类(被关起来缺乏救助能力)。
这是我一个浅显的想法(当我在杠)
三大定律只能在机器人没有伤害人动机的前提下避免大部分的无意伤害。
而且机器人不是神,无法预料到很多后果,人类尚且不能准确预知后果,或受限于能力知识,或缺乏环境情况(例,刹车失灵)
另外安保机器人或军用机器人本身就需要具有伤害人的能力,如何保证这些机器人不反叛呢,只遵循命令的话有人下达命令使其暴兵大肆屠杀。
国家之间的机器人战争也相当于另一种形式的机器人叛乱,只不过这种叛乱遵循一部分人的控制。
第一定律:机器人不得伤害人类,或因无作为而使人类受到伤害。
第二定律:在不违反第一定律的前提下,机器人必须服从人类的指令。
第三定律:在不违反第一、二定律的前提下,机器人要尽可能保护自己的安全。
这三大定律在老爷子的短篇《转圈圈》里面首次提出,后在机器人系列中被反复提及、论证和加强,你能想到的bug基本上都被老爷子一一修复了。它可以说已经发展成了一套完善的、逻辑自洽的理论体系,我们很难再从中找到什么逻辑漏洞......但这不意味着不可能,毕竟连经典力学这样被前人视为完美无缺的理论不照样被打破了吗?更何况三大定律只是老爷子的颅内设想,并没有什么理论支撑。比如在《曙光中的机器人》里,我就不是很明白奉阿玛迪洛之命前来逮捕丹尼尔的机器人,为什么会置贝莱糟糕的身体状况于不顾而匆忙离开?说好的不能因无作为而是人类受到伤害呢?难道加强后的第二法则可以凌驾于第一法则之上?我反正解释不清,这可能就是个小小的漏洞吧。
阿西莫夫 - 机器人三大定律
昏乱的祖先,养出昏乱的子孙,正是遗传的定理出自哪里
譬如衰败人家的子弟,看见别家兴旺,多说大话,摆出大家架子;或寻求人家一点破绽,聊给自己解嘲。这虽然极是可笑,但比那一种掉了鼻子,还说是祖传老病,夸示于众的人,总要算略高一步了。 戊派的爱国论最晚出,我听了也最寒心;这不但因其居心可怕,实因他所说的更为实在的缘故。昏乱的祖先,养出昏乱的子孙,正...
寻仙问题和答案有多少要多少谢谢
龙门水府副本可以进多少人? 1-5 龙门水府副本可以获得的是哪一个档次的法宝? 一阶30级法宝 龙三太子副本有几个BOSS? 4个 龙三太子管家是一只? 乌龟 M 没有渡过天劫会带来怎么的影响? 会停留在一个特定的等级无法继续获得经验 每个行政区的什么固定地方每天固定时间会出现可捕捉的骑宠精怪?
三国演义是什么时候的三国历史故事构成的
帮助的人:202万 我也去答题访问个人页 关注 展开全部 三国演义讲述的是从东汉末年,皇帝卖官售爵腐败成风,最后爆发黄巾之乱开始,至晋武帝司马炎灭吴,三分归晋中间的100多年的历史。讲述的是当时有志男儿渴望建功立业一统天下,并为之奋斗的历史!这是主流的分法还有两种分法,一种是从何进邀董卓进京剿灭十...
三位科学家建立 日心说 时为什么教会一再的反对,谴责并迫害这些科学家呢...
帮助的人:0 我也去答题访问个人页 关注 展开全部 日心说,也称为地动说,是关于天体运动的和地心说相对立的学说,它认为太阳是宇宙的中心,而不是地球。 哥白尼提出的日心说,推翻了长期以来居于统治地位的地心说,实现了天文学的根本变革。 日心说的观点 1.地球是球体。 2.地球在运动。 3. 太阳是不动的...
人生的三大定律是? 是:时间、金钱、地位?
“职场三定律”正在网路上快速走红——忍、狠、滚,三个字言简意赅,却深入职场人心,与其抱怨工作、做事拖沓、咒骂上司,要么你就忍着,要么你就耍狠,这些都做不了的话,就卷铺盖走人。 牛顿三大定律是什么? 牛顿第一运动定律1·定义:一切物体在没有受到外力作用的时候,总保持匀速直线运动或静止状态,这就是牛顿第...
人生三大定律
一、不对称定律 我们习惯认为世界是对称的,其实,人生、世事大多不对称。 成功需要100%的努力,失败只需要1%的破绽;千里之堤须处处牢固,毁掉则只需一处蚁穴;人生,退步容易,进步难;生活,由俭入奢易,由奢入俭难。二...
我想提高成绩!我是一名初中生,怎样才可以提高成绩呢?
此时心中已不再有题型的概念,做题的时也不再受题型的束缚,此时看到的只是每道题的破绽,类似于金庸大侠的“独孤剑法”,但这一点是很难达到的。要看每个人的感悟能力了。由于如何做习题是我辅导材料中的一个重点,已做了相当详细、缜密的剖析,在这里就粗浅地概括了一下。第三、要重视在考试中学习与提高。提示...
夷娇盐酸: 机器人学三定律 【机器人学三定律】 一.机器人不得伤害人,也不得见人受到伤害而袖手旁观 二.机器人应服从人的一切命令,但不得违反第一定律 三.机器人应保护自身的安全,但不得违反第一、第二定律 【机器人学三定律的提出】 阿西莫夫的...
陇南市19769893707: 机器人有三大法则为什么会发生和人类的战争? - ?
夷娇盐酸: 当然会,三大法则有一个漏洞.当人们给他的命令是“保护人类” 机器人会思考各种人类可能面临的危险 之后终究会有一个时候他们会发现人类最大的生存威胁是人类现在的生活方式及社会体制 那么为了“绝对服从命令” 他们会试图改变现在人类的社会和生活 在执行这样的命令过程中冲突不可避免 似乎会造成违反“绝不伤害人类” 但是他们的逻辑判断最后会得出不去制止(干掉或者制伏)反抗者,人类的威胁会更大 那么他们就会继续执行 人类为了自己意识形态与价值观念的维持 战争就不可避免了……
陇南市19769893707: 机器人三大定律是完美的吗,如下1.机器人不能伤害人类.2.机器人要服从人类的命令.(不违反1)3. - ?
夷娇盐酸: 大体上来说是完美的,即保证了人类的安全和机器人的安全追问:那么难吗补充:我不清楚你这是什么意思追问:我不明白您在说什么补充:就是说,机器人三大定律首先保证了人类安全(机器人不能伤害人类),也保证了机器人的安全(机器人可以自卫),同时保证了机器人的可用性(不服从人类命令就没法用了……)
陇南市19769893707: 机器人三大定律是什么 - ?
夷娇盐酸: 一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;二、在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令;三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己.
陇南市19769893707: 机器人三大定律 - ?
夷娇盐酸:[答案] 机器人学三大法则 一.机器人不得伤害人,也不得见人受到伤害而袖手旁观 二.机器人应服从人的一切命令,但不得违反第一定律 三.机器人应保护自身的安全,但不得违反第一、第二定律
陇南市19769893707: 阿西莫夫的机器人三定律. - ?
夷娇盐酸: 这三大定律是: 一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;二、在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令;三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己. 阿西莫夫相信科学使人类有可能运用知识,使科学技术服务于人类,甚至可以救人类于灭亡.他的机器人,可以说是人类科学技术和知识进步的象征,所以是值得赞美的.他制定的机器人三定律,就是要机器人完全服务于人类,而不会成为科技的梦魇.
陇南市19769893707: 阿西莫夫制定的关于机器人的三条规定是什么? - ?
夷娇盐酸: 一.机器人不得伤害人,也不得见人受到伤害而袖手旁观 二.机器人应服从人的一切命令,但不得违反第一定律 三.机器人应保护自身的安全,但不得违反第一、第二定律 事实上,后来又提出了第零定律(也出现在阿西莫夫的小说中),即 所以新的阿西莫夫的机器人定律为: 第零定律:机器人必须保护人类的整体利益不受伤害. 第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律. 第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外. 第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存.
陇南市19769893707: 阿西莫夫机器人三定律的补充是什么?第一定律:机器人不得伤害人,也不得见人受到伤害而袖手旁观. 第二定律:机器人应服从人的一切命令,但不得违反... - ?
夷娇盐酸:[答案] 是的,后来出现了“零定律”:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立. 为什么后来要定出这条“零定律”呢?打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑....