• 首页
  • 上一页
  • 目录
  • 下一章
  • 书架

《幻醒》

历史(上)
  “那么,为什么还会发生战争?”既然机器人不得伤害人类,战争还怎么打起来?

    “是由于‘机器人零定律’的补充引起的。”

    “零定律?那是什么?”

    “机器人第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。”

    为什么后来要定出这条‘零定律’呢?

    绝对不可能是由于闲着没事干随便定着玩的。

    我思考了一下就想通了。打个比方,为了维持国家或者说世界的整体秩序,我们制定法律,必须要执行一些人的死刑。这种情况下,机器人该不该阻止死刑的执行呢?显然是不允许的,因为这样就破坏了我们维持的秩序,也就是伤害了人类的整体利益。

    “所以新的机器人定律为:

    第零定律:机器人必须保护人类的整体利益不受伤害。

    第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管,除非这违反了机器人学第零定律。

    第二定律:机器人必须服从人给予它的命令,当该命令与第零定律或者第一定律冲突时例外。

    第三定律:机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。”

    我明白了,三定律加上零定律,看来堪称完美,但是,“人类的整体利益”这是一种混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。

    零定律的补充为机器人伤人的可能性留下了漏洞!


  • 加入书签
  • 上一页
  • 目录
  • 下一章
Copyright shukugu.com 返回首页
顶部