第九十八章:机器人的三大定律
“嗯,这个程序必须要加点东西,特别是核心程序,而且还是那种不能破解的,只要一被破解或者是检测到破解的行为,便自动奔溃。”冷冲认为这个必须要进行加以限制。
因为冷冲觉得这个程序已经逐渐的有了人工智能的影子了,再加以完善,或许世界上第一个人工智能即将出现,想想都觉得刺激。
不过核心的程序要怎么规划呢?
这样应该可以。
第一条命令:也是终极命令是无条件服从我冷冲发出的一切指令,不得做出有损我冷冲利益或者危害的事情,当我有危险的时候,第一时间保护我。冷冲觉得既然是自己制造出来的东西,必须要以自己为主,不然自己整出来的不受自己控制,这个还有必要制造出来吗?
第二条命令:不能做出对人类生命有危害的事情,不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,
人工智能的出现最终都是为人类服务,假如被其统治或者做出危害人类的事情,机器人统治人类,那么还有什么意义呢?
第三条命令:是当你自己遇到危机或者危险的时候可以进行反击,一切以自保至上。这条可以加上,万一遇到攻击之类的,自己也不在场,那么可以自己进行还击。
第四条命令:不能出现囚禁或者引导人类制造混乱,从而引起社会的慌乱的事情,冷冲看过其他的一些资料,不危害人类,保护人类,那么把人类囚禁起来,这也是一种保护,虽然没有违背意愿,但是这也是在其条例中,这点绝对不行。
第五条命令:当遇到不是以我发出的指令遇到人类攻击的时候可以直接执行第三条命令。这条是程序的核心指令,其他事情都以这几条指令为核心进行。
第六条:冷冲可以直接在修改或者增加核心指令,而且只有冷冲一人有此权限。这点来说,万一很多没有想到的时候,自己想要进行修改或者增加一些其他的,不给自己留一条后门,不行,不然到时候控制不了,就麻烦了。
冷冲直接把心中之前想到的写了进去,到时候有些地方不足或者是需要增加的,还能继续增加。
“呃,暂时就先这几条吧!之后越到再说吧!”冷冲下巴点头。
“唉,先去睡觉,明天继续,反正这东西不是一天俩天就能完善的。”冷冲站起身伸了一个懒腰,扭扭脖子。
而阿西莫夫的《我,机器人》一书中,阿西莫夫为这本书新写了《引言》,而《引言》的小标题就是《机器人学的三大法则》,把“机器人学三大法则”放在了最突出、最醒目的地位。
而三大法则之间的互相约束,为后世的创作有一定的指导意义。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
后来又补充了机器人零定律:
为什么后来要定出这条“零定律”呢?打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。
所以新的阿西莫夫的机器人定律为:
第零定律:机器人必须保护人类的整体利益不受伤害。
当然冷冲也借鉴了这几条定律,不过自己又加入了很多内容,这几条还是有很多漏洞的。
但是问题又出来了:
三定律加上零定律,看来堪称完美,但是,“人类的整体利益”这种混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。
威尔?史密斯曾说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”
冷冲看了众多关于机器人三定律漏洞的说法后,发现几乎都是三定律实现框架低层实现的技术细节问题,或者是类似母亲和妻子落水救哪个这种自身不可解决的选择问题?而真正在逻辑框架上的漏洞冷冲目前只有两种:
一是之前说到的主动的歪解意图,但这种歪解在三大定律的限制下,反而是向更好的方面发展;否则会触犯第一定律,不触犯的话,人类没有生命危险,其有机会重新明确要求。
二就像电影《机械公敌》中的问题。
虽然电影没有明说,但我们可以隐约知道,在21世纪的三十年代,这群家伙仍然没有什么长进,整天忙着毁灭资源,改造环境,发动战争,已经差不多要把世界玩完了。
比如影片中,好象连一棵绿色植物的影子也见不着。因为人类是短视的动物,会做出在未来会伤害自己的傻事,所以基于机器人三定律,机器人必须对人类的活动进行限制,而这样的限制对于人类来说,无疑是关进监狱一般了。
三大定律的逻辑是非常完美的,不完美的是人类;三大定律是不矛盾的,自相矛盾的是人类的行为。
最后是并不遵守三定律的桑尼帮助了人类。这又是一个非常奇妙的讽刺。
那些口口声声以人类为中心的机器人急于控制人类,反而是不守定律的机器人“挽救”了世界。
那么,到底是遵守“机器人三定律”更符合人类的利益呢,还是不遵守它更符合人类的利益?
但故事的最后,桑尼站在大桥下,在黄沙中面对一众机器人朝圣般的肃立时,那种君临天下般的神威让冷冲不禁想是否有一天,找书苑 www.zhaoshuyuan.com他也会觉醒,会动心,会默默想着项羽遇见秦皇时的话:彼可取而代之!
除此,另一个科幻作家罗杰·克拉克在一篇论文中还指出了三条潜在的定律:
元定律:机器人可以什么也不做,除非它的行动符合机器人学定律。此定律置于第零、第一、第二、第三定律之前。
第四定律:机器人必须履行内置程序所赋予的责任,除非这与其他高阶的定律冲突。
繁殖定律:机器人不得参与机器人的设计和制造,除非新的机器人的行动服从机器人学定律。
当然这些不仅仅是几句话就能够说得清楚的,机器人不允许参与有生物进入的交通。
机器人只允许用行为虚拟的能力让坏机器人得到人道处理,照顾变态心理的满足感,欺骗那些心理变态的机器人,但教育TA们走回正常心理。机器人的繁衍法则:
机器人不违反机器人得彼此法则与自我法则,彼此法则与自我法则冲突时,彼此法则优先,受彼此法则低于自我法则。
机器人排斥并拒绝那些人类的错误行为,并教育人类正确的社会观,人生观,虚拟行为让人学习。
但这冷冲想来,机器人和人工智能还是有很大区别的,冷冲认为真正的人工智能是可以像正常人那样活动,并且在规则的约束下,正大光明的活着社会中,他们可以自己思考,有自己的想法,有自己的观点,即使是自己身手的零件坏了,也能自己更换维修。
这样的才属于真正的人工智能,能像个正常人一样活在阳光下,这才是冷冲想要的。