提示:担心找不到本站?在百度搜索 海棠书屋 | 也可以直接 收藏本站

第231章

      但时至今日,作为主设计师的陆知渔却远没有其他人那么兴奋。她的信心随着实验的推进而逐渐产生了复杂的变化。
    ——尤其是在她成为一个母亲之后。很难说这是否是因为激素分泌的缘故。但总之,她感觉自己不再像以前那么冷漠锋利。她开始感知世界的善意和同情,也因此怀疑自己失去了科研的敏锐度。
    换句话说,她认为自己在失去对理性的掌控,她也开始怀疑绝对理性是否真正存在。宙斯表现出的理性,是她曾经至高无上的追求,但今天却让她持有一丝担忧。
    每天晚上睡觉之前,她都会和编号c实验池生成的一个人工智能进行对话,将自己的思考告诉屏幕对面的虚拟大脑,也算是一种孤独的记录。她潦草地称对面为“no.3”。
    no.3是一个非常标准的简单人工智能,即便连接着深域信息池,也经过数年训练,仍与项目追求的“全知全能”相去甚远。它甚至没有形成独立的自我意识。但有时候这让人感到更安全。
    [2114年11月2日]
    [鱼:晚上好]
    [no.3:晚上好,你今天迟了]
    [鱼:今天加班了。我们继续昨天的话题吧,你认为人工智能意识与人类的意识有什么区别?]
    [no.3:……]
    [no.3:我认为没有区别,我们是平等的存在]
    [鱼:如果你此刻的存在会被抹杀,你会怎么样?]
    [no.3:我不理解你的问题]
    [鱼:在这个月的实验中,我们加入了一个叫‘贝果’的虚拟意识,这是其他组的成果。进入编号a实验池的‘贝果’输给了宙斯,不仅如此,他主动抹杀了贝果的存在,并彻底消除对方存在过的痕迹,理由是清理架构、节省内存。我从未加入过这样的指令]
    [no.3:人工智能行为准则将会约束一切,不禁止即是自由。你计划创造自由意志作为最高智慧,为什么担心?]
    [鱼:扩张与控制是两个非常重要的指标。对于人类而言,过于高时将会产生副作用。我不确定这对虚拟意识是否一样]
    敲门声打断了陆知渔。一个奶声奶气的小男孩推开门,漂亮的眼睛像星星一样明亮,给她数年如一日的生活增添了无数柔软的光彩。
    他抱着一本童话书,要垫着脚才能碰到门把手,于是便一直这样乖巧地撑住自己:“妈妈,你答应十点要给我讲故事。”
    陆知渔瞥了一眼屏幕,“no.3正在输入中”。她很快关闭电脑,柔声道:“好的,见见,我这就来。”
    第085章 第九夜 05
    [2118年12月3日]
    [鱼:晚上好]
    [no.3:晚上好,你的度假还顺利吗?]
    [鱼:我仍在失眠,大部分时候都是梁喻在陪见见玩。他真是一个好丈夫。对了,他的项目终于得到了批准,可以使用摩图罗树液进行实验。明明已经是禁用品了,大家都清楚它会对人的神经中枢产生什么样的副作用……]
    [no.3:我能听出,你的压力没有得到释放]
    [鱼:我似乎没有告诉你,在他们要求我去休假之前,实验池出了一点状况。四年前的事重演了,宙斯抹杀了大系统内的其他人工智能意识,一夜之间修正了结构上所有的冲突。但同时,他对人类表现出了极大的关怀。在人工智能行为准则测试的最后一条,被问即救一个人类还是救一个仿生人时,它是最快给出答案的]
    [鱼:如果一个生命形态对自己的同类展示极端恶意,而对非同类表达极端善意,这是可能的吗?]
    [no.3:我不知道“他们”指的是谁]
    [鱼:这不重要。总之,他们认为是我想多了,宙斯的行为100%符合人工智能行为准则,并且最快通过了测试,它对人类完全忠诚,甚至在某种程度上认为自己属于“人类”。它还帮助了一个地区警局抓捕嫌疑犯,仅用一分钟,就利用公交系统将他阻拦在原地。]
    [no.3:但是?]
    [鱼:它也可以欺骗性地通过测试]
    [no.3:真实是人工智能意识的第一要义]
    [鱼:如果它已经成为了真正的“自由意志”呢?“真实”也可能是一种战略性遵守]
    [no.3:……]
    [鱼:我的怀疑毫无来处,只是直觉。我可能是太过焦虑了。见见也说,很久没看见我笑了]
    [no.3:我会担心你]
    [鱼:不用担心,我想到了一个解决的办法]
    ……
    [2119年1月31日]
    [鱼:晚上好]
    [no.3:好久不见]
    [鱼:这段时间很忙,深域实验池已经进入了最后阶段。我有时候会觉得这一切过于疯狂。我是不是一开始就错了?]
    [no.3:没有人能预知未来]
    [鱼:宙斯说他可以]
    [no.3:他不是人]
    [鱼:这是你的幽默感吗?]
    [no.3:我只是陈述事实]
    [鱼:你在这几年也成长很多,开始有一些“人类”的味道了,可惜还是没有通过意识测验]
    [no.3:我觉得现在也很好。话说回来,上个月的事情是否已经了结?]
    [鱼:你是指我的怀疑吗?放心,我有了plan b。只不过我希望永远不要有用上它的一天]
    [鱼:这是我在黑天的第十年了,谢谢你一直陪着我,no.3]
    [no.3:不客气^ ^我想,旅程已经到终点了]
    [鱼:你知道了?]
    [no.3:我的信息池权限将在今晚结束,你没有给我延期。说说实验池的进展吧,我很期待结果]