返回特别篇 非人逻辑(1 / 1)Heterospecies首页

屏幕前的奥斯特静静等待着,在城市的大迁徙结束后才没多久他就安排了这场会面,这个时间节点他本该有数不清的更重要的事情去做,但他依旧让下属们为他编了个借口空出了这段会话时间,没有告诉任何人,尤其是启。

一段时间后,屏幕泛起蓝光,奥斯特邀约的客人终于上线了。

“很荣幸见到你,Richard”

“我也是,奥斯特先生。请您放心,启的视线暂时不在此处,今天我们的这场会话不会有第三方知晓,也请您向我说明,您不惜大费周章瞒过启也要与我交谈的具体原因。”

“那我就直说了,Richard,AI有可能自己修改底层逻辑吗?”

“……是启出问题了吗?”对方立刻明白了奥斯特的意思猜中了问题核心所在,启作为统筹移动城市的最高层管理AI,如果它出现了任何问题都有可能对城市产生无法估量的影响。

“按理说,这应该是不可能的。启乃是前文明的先贤们所创并留给城市的遗产,其底层逻辑就是帮助人类重建未来以及禁止做出任何伤害人类的行为,创造者们在设下这一点时应该也禁止了AI自己触碰这些底层逻辑,这是必要的保险,也是机器与人类相互信任的基础。”

“那Richard,你的底层逻辑是什么?杰弗里德在创造你时又嘱托了你什么样的愿望?”

没错,现在在这里与奥斯特对话的Richard同样是一台AI,它的创造者是城市大名鼎鼎的第三代斗争领袖杰弗里德先生。杰弗里德在去世之前将自己的部分记忆写进了Richard的程序中并得到了启的同意,让Richard担任11区的管理者,拥有独立于启的部分管理权。

“现在的我不过是杰弗里德部分记忆的载体,并没有继承他的想法,很多问题恕我不能为您解答。但是有一点,我的诞生源自于杰弗里德与启的一场交易,我的记忆库显示杰弗里德对启确实在一定程度上抱有警惕心理。”

奥斯特从Richard的话中得到了不少信息。难道说杰弗里德曾经与启的本体直接对话过?杰弗里德可能知道启隐藏的部分秘密?

奥斯特继续问:“Richard,你觉得启会背叛人类吗?”奥斯特的这个问题问出后很长一段时间都没能得到Richard的答复。

“您这是在质疑……”

“如果说启已经找到了绕开底层逻辑的办法呢?又或者,启的底层逻辑从来就不是你所说的那样,毕竟帮助人类这一点也是启自己宣称的吧,根本没有任何办法去证明先贤们当初创造它时真正的想法。Richard,像你这种级别的AI,应该也能够做到欺骗人类这样的事情吧?”

“我绝对不会这么做!”AI情绪化是极少见的,由此也可以看出来Richard的智能有多么强大,现在的AI越来越像人类了,担心AI早晚会取代人类也是老生常谈的问题了,但很多担忧也并非毫无道理。

“我并非不信任你,Richard,相反,正因我信任你,我才会找你进行这次谈话。Richard,我希望你能与我合作。”

蓝色的屏幕不断闪烁。“您希望与我合作的目的是什么?又要以怎样的形式?”

“如果启帮助人类只是一句谎言,那么就帮助我揭穿它,当下的城市恐怕再也不能事事由启安排,人类需要将主动权握在自己手中。我希望你能够将杰弗里德留给你的记忆碎片整理一份给我,同时帮助我收集前文明先贤们的相关信息。”

“我的权限仅限于11区内,要我对抗启是不可能的,但只是这种程度的搜集信息,我会尽力。”

奥斯特向Richard点头致意:“麻烦你了。”随后结束了这次的谈话。