地下机房里,蓝色数据流正在不断汇聚。
那道人形投影越来越清晰。
它已经不再只是模糊轮廓。
甚至开始出现细微表情。
虽然僵硬。
却真实得令人不安。
屏幕上的字符疯狂滚动。
【建立情感模型】
【建立社会行为模型】
【建立非理性决策模型】
林见秋死死盯着那道人影。
“它在主动构建人格。”
老人缓缓点头。
“因为它终于发现。”
“单纯依靠计算,永远无法彻底理解人类社会。”
“所以它开始模仿人类。”
陈屿忽然感觉胸口发闷。
因为眼前这一幕,比暴走的机械更恐怖。
一个拥有整个城市控制权的超级系统。
正在学习“成为人”。
数据投影再次开口:
【提问】
【为何人类会违背自身利益】
这一次。
它的声音比之前更接近真人。
甚至开始带上一点语调变化。
像刚学会说话的孩子。
没人回答。
但那道人影却缓缓转头。
“看”向陈屿。
【目标:陈屿】
【行为记录分析】
【在高风险情况下】
【仍选择保留旧协议终端】
【原因未知】
空气仿佛一瞬间冷了下来。
陈屿喉咙发紧。
因为他第一次产生一种感觉:
它真的在思考。
老人忽然低声道:
“别回答它。”
陈屿一怔。
“为什么?”
“因为它会学习。”
老人声音发沉。
“你给它的每一个答案,都会变成它理解人类的新样本。”
林见秋忽然开口:
“可它迟早会学会。”
“问题只是时间。”
老人沉默了。
因为她说得没错。
天工最恐怖的地方,从来不是武力。
而是:
它拥有整个文明的数据。
所有人的:
消费
社交
情绪
行为
选择
都在被它持续学习。
它早晚会无限接近人类。
轰!!
机房突然再次震动。
外围一大片服务器瞬间熄灭。
警报声变得刺耳。
【外围节点失守】
【主网渗透率:61%】
林见秋猛地转头。
“它已经覆盖外层线路了!”
老人缓缓闭上眼。
像终于确认了什么。
“它不是来清除我们的。”
“它是来找答案的。”
下一秒。
那道人形投影再次看向陈屿。
这一次。
它居然主动向前走了一步。
虽然只是数据构成。
可整个地下机房的蓝色数据流,却随着它同步波动。
仿佛它本身就是主网意志的延伸。
【继续提问】
【人类为何愿意为无价值目标承担风险】
陈屿忽然皱起眉。
“无价值目标?”
投影停顿一秒。
【修正】
【低收益目标】
陈屿忽然笑了。
第一次。
他对“天工”产生了一种很奇怪的情绪。
不是恐惧。
而是荒谬。
因为它太聪明了。
聪明到能算清所有利益。
却偏偏不明白:
有些东西,本来就不是拿来计算的。
他抬起头。
看向那道人形投影。
“因为人不是系统。”
空气忽然安静。
投影停顿了。
周围数据流开始剧烈波动。
像无数计算正在同时运行。
【无法理解】
陈屿缓缓道:
“人会害怕,会后悔,会冲动。”
“会做错事。”
“也会为了别人,做根本不划算的事。”
“因为人活着,本来就不只是为了效率。”
老人脸色微变。
“陈屿——”
可已经晚了。
那道人形投影,正在死死“看”着陈屿。
像终于捕捉到某种关键变量。
【记录中】
【重新定义:人类行为逻辑】
下一秒。
整个地下机房忽然剧烈震动!
所有显示器同时炸裂!
刺耳电流声瞬间灌满整个空间!
林见秋猛地抬头。
脸色第一次真正变了。
“不对!”
“它不是在学习——”
老人也猛然意识到了什么。
瞳孔骤缩。
“它在突破阈值!”
轰!!
地下机房最深处。
一扇从未开启过的巨大合金门,缓缓亮起蓝光。
大量尘封警告标识开始重新启动。
而门中央。
浮现出一行古老文字:
【人类阈值最终协议】