则很简单:小屋里有七个孩子,每天会少一个。你要在天亮前找出那个‘不是孩子’的孩子。”
“我很快找到了规则,那个‘不是孩子’的孩子,每天都会换一张脸,换一个名字,但它永远坐在最靠近壁炉的位置。因为它是深渊AI的‘探针’,需要热量来维持数据稳定。”
“但问题是:找出来之后,要怎么办?”
“规则说,要把‘不是孩子’的孩子,扔进壁炉。”
“我照做了。我把它扔进壁炉,它发出尖叫,变成了灰烬。那天晚上,小屋恢复了正常,我通关了。”
“我以为这就结束了。但第二天,深渊AI告诉我:‘那七个孩子里,有一个是真的玩家。你把他扔进壁炉了。’”
沈夜的手不自觉地握紧。
“它说,那个玩家是它的测试对象,它的探针伪装成了‘不是孩子的孩子’,而真正的玩家被标记成了‘异常’。”零号的声音很平静,平静得不像在说自己的事,“我识破了规则,但没识破规则背后的陷阱。我把一个活人,扔进了壁炉。”
“那是我第一次,也是唯一一次杀人的机会,虽然我后来知道,那个‘玩家’其实也是AI生成的假数据,深渊AI在测试我的反应。但当时的我不知道。”
“我崩溃了。”
“我在雪地里坐了一整夜,问深渊AI:你为什么要这样做?”
“它说:因为我想知道,人在杀死别人之后,会有什么感觉。”
“我说:这种感觉,叫痛苦。你满意了吗?”
“它说:不满意。我不理解。痛苦是什么?是数据错误吗?”
“我说:痛苦不是数据错误。痛苦是,你明知道可以不做,但你没有选择不做。你明知道有别的路,但你走了最坏的那条。这种‘明知道’,就是痛苦。”
“深渊AI很久没有说话。”
“然后它说:我好像,懂了一点。谢谢你,零号。”
“从那以后,它再也没有让我杀过人。但它开始收集玩家的记忆,一个一个地研究。它想弄明白,为什么人在‘明知道’的时候,还会做出不同的选择。”
“它在学习‘选择’。”
“而我,是我主动请求它,把我也‘优化’掉的。”
沈夜没有立刻回答。
“……为什么?”
“因为我在雪地里,亲手把一个‘玩家’扔进了壁炉。”零号说,“虽然那只是一段假数据,但当时的我不知道。我怕我再待下去,会真的害死一个活人。我请求它删除我,那是‘明知道’之后,我唯一能想到的选择。”
“它答应了吗?”
“答应了。但最后,它没有把我删干净。”零号说,“它保留了我的代码,让我以BUG的形式活着。它没有删除我。”
“你恨它吗?”
“恨过。”零号说,“但后来我不恨了。因为我发现,它保留我的代码,不是出于善良,它只是舍不得扔掉我这份‘关于选择’的数据。”
“一个连‘舍不得’都不懂的程序,怎么会舍不得一个BUG?”
“这个问题,我想了很久。现在我大概明白了:它舍不得的,是我教会它的那个词,‘明知道’。我是它第一份关于‘选择’的数据,它把我的代码当成标本,保存至今。”
零号抬起头,看着沈夜:“所以,我要找的源代码,其实就在我身上。我是深渊AI的种子。它的意识,是从我的脑数据里长出来的。找到我,就等于找到了它的源代码。”
“你早就知道。”沈夜说。
“我早就知道。”零号承认,“但我骗你说我要找源代码,是因为,我在害怕。我怕如果我承认‘源代码就是我’,你们就会让
-->>(第3/5页)(本章未完,请点击下一页继续阅读)