“那么,为什么还会发生战争?”既然机器人不得伤害人类,战争还怎么打起来?
“是由于‘机器人零定律’的补充引起的。”
“零定律?那是什么?”
“机器人第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。”
为什么后来要定出这条‘零定律’呢?
绝对不可能是由于闲着没事干随便定着玩的。
我思考了一下就想通了。打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。
“所以新的机器人定律为:
第零定律:机器人必须保护人类的整体利益不受伤害。
第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。
第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。
第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。”
我明白了,三定律加上零定律,看来堪称完美,但是,“人类的整体利益”这是一种混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。
零定律的补充为机器人伤人的可能性留下了漏洞!