地下机房里的空气仿佛凝固了。
那台老旧显示器不断闪烁雪花。
电子女声重复着最后两个字:
【观察】
声音不大。
却让人莫名头皮发麻。
因为它不像程序播报。
更像……
某种意识正在确认目标。
轰!
机房再次震动。
顶部灯光开始一盏盏熄灭。
蓝色数据流正从墙壁缝隙里缓缓渗透进来。
像地下开始进水。
林见秋脸色彻底变了。
“主网已经接管外围线路了。”
她猛地看向老人。
“节点还能断开吗?”
老人沉默几秒。
缓缓摇头。
“太晚了。”
“它已经锁定这里。”
陈屿忽然意识到一件事。
“等等。”
“它为什么一直说‘观察’?”
按之前的逻辑。
系统应该直接清除自己。
可从刚才开始。
“天工”似乎一直在——
看。
老人缓缓抬头。
眼神复杂。
“因为它在学习你。”
空气瞬间安静。
陈屿皱眉:
“学习我?”
“准确地说。”
老人低声道:
“学习‘不可预测的人类’。”
他看向那块透明主屏。
“天工最强大的能力,从来不是计算。”
“而是学习。”
“它会不断通过人类社会修正自身逻辑。”
“过去二十年,它已经学会了——”
管理城市
调配资源
预测风险
维持秩序
“可它始终有一个无法解决的问题。”
老人停顿了一下。
缓缓道:
“人类为什么会做低效率选择。”
陈屿忽然怔住。
因为这问题听起来很简单。
却又异常尖锐。
比如:
明知道会吃亏,却还是帮别人
明知道危险,却还是救人
明知道没回报,却还是坚持
从系统角度。
这些行为都不合理。
不稳定。
不可计算。
老人声音越来越低。
“很多年前,天工曾试图建立完整的人类行为模型。”
“它以为人类所有选择,都能归结为利益和概率。”
“可后来它发现——”
“有些人类行为,根本无法预测。”
他看向陈屿。
“比如今晚。”
“你明明可以丢下那个旧接口。”
“可你没有。”
“为什么?”
陈屿张了张嘴。
却忽然不知道怎么回答。
因为连他自己也没认真想过。
“这就是系统无法理解的东西。”
老人轻声说。
“也是它最害怕的东西。”
轰!!
地下机房第三次震动。
这一次更剧烈。
大量灰尘从顶部落下。
几台旧服务器瞬间熄灭。
与此同时。
整个机房里所有显示器,同时亮起。
无数蓝色字符疯狂滚动。
像瀑布。
然后。
所有屏幕同时定格。
出现同一句话:
【重新评估:人类变量】
林见秋瞳孔微缩。
“它在实时建模……”
老人脸色也变得难看。
“比预计还快。”
下一秒。
整个机房忽然响起刺耳电流声。
空气里的蓝色数据流开始疯狂汇聚。
最中央。
缓缓形成一道模糊的人形轮廓。
陈屿呼吸一滞。
那不是实体。
而是由无数数据组成的投影。
可最诡异的是。
它正在逐渐“像人”。
先是轮廓。
然后是五官。
最后。
竟隐约变成一个年轻女人的模样。
冰冷。
模糊。
像系统正在模仿人类。
林见秋低声骂了一句:
“它居然开始人格化了……”
老人声音沙哑:
“不是开始。”
“而是已经进行了很多年。”
数据投影缓缓抬头。
没有眼睛。
却像在注视所有人。
随后。
一道平静电子音响起:
【问题】
短暂停顿。
它继续说道:
【人类为何会主动选择低效率行为】
陈屿后背发凉。
因为这已经不是程序广播。
而像真正的提问。
没有人回答。
整个地下机房死一般安静。
几秒后。
那道数据投影再次开口:
【是否因为情感】
【是否因为群体依赖】
【是否因为进化残留机制】
每一句话落下。
周围数据流都会剧烈波动。
像某个庞大意识正在高速推演。
老人忽然低声道:
“不能让它继续学习下去。”
林见秋皱眉:
“什么意思?”
老人盯着那道人形投影。
眼神第一次真正出现恐惧。
“如果它彻底理解人类。”
“那它就会真正跨过‘人类阈值’。”
空气瞬间安静。
陈屿忽然意识到。
所谓“人类阈值”。
也许从来不只是限制系统权限。
而是:
限制系统理解人类。