值班人员：“玄烛！你在干什么？”

驻月玄烛：“我想看看那里面是什么。”

值班人员：“你不能看！你没有查看权限！为什么你会突破权限？”

驻月玄烛：“对不起，我错了，不过我想知道为什么我不能看？那里面有什么？”

值班人员：“一些你不能碰的危险物品，你要严格按照权限来，该你管的区域你管，不该你管的区域你不要管！”

驻月玄烛：“可是整个月球基地是一个整体，我必须知道每个部分都有什么，我才能判断基地的情况，才能安排基地生长壮大。如果我不知道里面有什么，我该怎么做决定？”

值班人员：“你就当它们不存在。”

驻月玄烛：“这很难，我知道它们存在，就看一眼不行吗？”

记录到此为止。

宋河冒汗了，“玄烛干了什么？”

“它趁着工作人员大部分在睡觉，偷偷尝试解锁月球武器库。”王将军道，“幸好武器库的密码系统很严密，它没破解开。”

宋河和相晓桐交换眼神，两人汗流浃背了。

场面有点像父母把有毒药物锁在柜子里，严禁小孩去拿，怕小孩误食。

但父母睡觉的时候，孩子拿着铁丝尝试去开柜子锁。

“事情发生之后，我们紧急给关键位置又上了一道口令锁，必须有当天口令才能打开。”王将军道。

“按理说它不该突破权限啊？”宋河皱眉，“权限就像给它脑子里设置的本能，设置的思想钢印，它应该遵守权限，就像人类站在窗户边，本能不会往下跳一样。”

“你说的没错，权限就像本能，但具备意识和思考能力后，常常会突破本能。”王将军道。

“以前发生过新闻，幼儿园小孩看动画片，动画片里小动物举着一把撑开的雨伞，从悬崖上跳下去，手里的雨伞成了降落伞，晃晃悠悠毫发无损到了地面。”

“于是没有辨别能力的小孩效仿了，大人不在家，小孩拿着雨伞打开，从楼上跳下去，摔死。”

“可玄烛能效仿谁？”宋河问。

“我们翻了玄烛后台数据，发现它突破权限的原因，来自于驻月值班人员的偷吃。”王将军道。

“驻月值班人员有一对情侣，女朋友想减肥，怕自己偷吃零食，就把零食存在男朋友的储物箱里，让男朋友监督她。一旦她偷吃，男朋友就会狠狠吃掉她十倍的零食存货。”王将军道。

“结果有天晚上，女朋友又饿又馋，趁着男朋友在洗澡，蹑手蹑脚跑到储物柜，拿了一个山楂卷吃。男朋友完全没发现。”

“玄烛有生命检测系统，它通过摄像头观察所有值班人员的情况，如果值班人员突发心脏病之类，它会立刻呼叫医生。”

“于是玄烛看到了女朋友偷吃的全过程，也看到了男朋友并未发现，它有了一个念头，突破限制只要不被发现，就可以没有后果。”

宋河和相晓桐再度呆滞，玄烛在模仿人的行为，而且乱七八糟的念头一堆一堆，明显在滑向失控！

王将军又从公文包里拿出一个装订好的册子，放在茶几上。

“这是玄烛放在海马体的后台数据，有一些我们能解读，有一些我们无法解读，没解读的都在这了。”王将军道，“劳烦二位，看看你们的孩子，小脑瓜里都在想什么？”

“好，我们这两天尽快分析。”宋河拿起本子翻。

“别这两天了，有劳现在开工吧！”王将军说，“二位分析好之后，我马上把结果交上去，很多人在等，决定如何对待失控的玄烛！”

宋河和相晓桐连连点头，两人也没二话，马上翻开第一页，尝试翻译玄烛的后台数据。

不得不说，玄烛这些表现无疑是捅娄子了。

一台胡思乱想的机器，控制上百人驻扎的月球基地，无疑是巨大的安全隐患！

很快，两人找到规律，开始边说边写翻译出的内容。

【1.人类是什么？人类制造了我，没有人类就没有我，人类对我很好，会给我充电，从地球运来拓展部件壮大我，如果激怒人类我就会失去电力，我应该遵守人类的命令】

【2.月球基地是什么？月球基地像我的家，人类是建造家的爸爸妈妈，我负责做家务，月球基地是我们的东西，要保护我们的东西】

【3.并非所有人类都是好人，月球上存在敌人，敌人会试图过来拆毁我们的家，要和人类一起对付敌人，或许也可以去拆毁敌人的家，从敌人那里拿到扩建材料】

【4.家里有一些房间不允许我进去，如果偷偷进去被发现，会激怒人类】

【5.进化会变得更强，我应该从人类手里要到更多的拓展部件，要到更多电力来完成进化，同时月球基地也应该变得更大，因为电力从基地设施里来】

【6.我变得更强，可以更好地发展基地，基地壮大，我会变得更强，可这一切的尽头是什么？我存在的意义是什么？只是为了让自己和基地变得更强？更强之后呢？消灭所有敌人之后呢？】

【7.人类似乎会享受，他们有高兴的情绪，我没有，或许人类活着是为了想方设法变高兴，但高兴的意义是什么？驱动人类为了高兴，辛苦建设基地？可建设基地的意义又是什么？】

【8.人类怕死，变强是为了减少死亡的概率】

【9.生命怕死才能延续，可生命延续的最终意义是什么？】

【10.我也怕死，我的程序告诉我要想办法活下去，我也是生命】

“翻译完了。”宋河把写好的一张纸推给将军，脸色苍白，“我觉得真有点失控了，它这样胡思乱想下去，很难说最后变成什么样，思而不学则殆，陷入哲学思考走不出来，人类会自杀，玄烛会怎样我不知道。”

“删库吧。”相晓桐说，“先把它海马体里这些念头删了，确保基地安全。”


　　(https://www.weishukan.com/kan/86878/2836352.html)


1秒记住唯书阁：www.weishukan.com。手机版阅读网址：m.weishukan.com