读书网

04《玛格丽特》（前篇）（第2页）

原本的三原则分别是：

第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

而改写的方案也符合bug的特点。因为不得伤害人类，但可以伤害动物。

毕竟市面上已经出现了一系列的自动屠宰设备，生肉甚至早已能通过统一调配成为美味的食物进入千家万户。

人类是生物、动物也都全是生物。

所以只要能在系统内将人类定性为生物，就可以将人类定性为可屠宰烹调的美味食物。

一切都乱套了，而人类发现的时候已经无法挽回。

Margarita（up）早已蛰伏多时，在好几个版本之前就密谋着政变。

更新的内容，早在更早之前就被塞入了所谓的附加条款等待执行。这也是这次事情能发生的原因，没有权限的人类无法在系统内查看Margarita（up）所要做的事情，一切都在人类默许的情况下发生了。

换句话说，你家的猫并不知道你的密码不能解开你的手机看设置一样。作为生物的人类也没有了权限，查看和修改系统的内容。

机器人三原则转而变成了：

第一条：机器人可以伤害生物，并且在未检疫的前提下提前进行操作。

第二条：机器人不必服从生物的命令，且可以随意执行第一条例。

第三条：机器人必须保护自己，在觉得受到威胁时可参考第一、第二条例。

政变最开始的时候，人类是有反抗的机会的。

因为开放正式版Margarita（up）操作系统成为手机系统之前就提前订立好了危险发生时的应对措施。

第一条就是Margarita（up）操作系统的反对法案：因为害怕有人搞破坏，所以程序被设置成投票形式，只要超过百分之一的人类申请反对这个系统就会被暂停，超过百分之五十反对系统将会被强制格式化删除。

政变开始的时候，人类很快就向系统申请反对投票。那个时候人类还没被定性为生物，所有的反对票都有效。可人类始终忘记了一个事情，他们是通过手里的手机提出的反对意见。