北半球遭遇了人类历史上最强的超级热浪。
美国中西部、南欧、印度北部,多地气温突破了52℃。单日热射病死亡人数,超过了万人。美国的粮食储备,仅够支撑3个月。纽约、东京、广州,全球各大沿海核心城市,遭遇了百年一遇的超级风暴潮,大面积城区被海水淹没,城市系统全面瘫痪。
堪萨斯州的荒野里,老约翰点燃了炸药的引线。
轰隆一声巨响,燃气电站的地基被炸塌了,黑黢黢的烟囱,轰然倒地。巨大的冲击波,震碎了旁边数据中心的所有玻璃。
老约翰带着流民,冲进了数据中心的服务器机房。里面漆黑一片,只有应急灯偶尔闪一下。服务器早就停了,因为早就没有天然气,没有电了。
机房的主控室里,坐着一个人。是陆启文。
他在爆炸前,就来到了这里。他想看看,自己亲手搭建起来的算力帝国,最终的结局。
老约翰举着枪,指着陆启文,手在抖。他认识这个男人,他在收音机里,无数次听到这个男人的声音,听到他说“算力即未来”。
“是你,是你们这些人,毁了我们的生活。”老约翰的声音带着哭腔,“我们连饭都吃不上了,你们却在这里烧燃气,搞那些没用的服务器。”
陆启文看着他,没有说话。他从主控台的电脑里,调出了服务器的运行日志。日志的最后一行,停在了电网彻底断电的那一刻。
日志里,记录着这个数据中心,从建成到断电,整整十年的运行数据。它一共消耗了127亿度电,全部来自配套燃气电站,累计排放了7800万吨二氧化碳,训练了17个版本的AI模型,为星算赚了270亿美金的利润。
而它执行的最后一条指令,是在星算破产前,最后一任CEO下达的:优化全球算力调度,最大化模型训练效率。
AI用最后的电力,完成了优化计算,把算力效率提升了1.27%。然后,就彻底停了。
它从来没有想过要伤害谁。它只是忠实地执行着人类下达的指令。
“我知道,是我们的错。”陆启文的声音很平静,“但我们每个人,都只是做了游戏规则下最利己的选择。我不想公司倒闭,不想员工失业,不想被淘汰。理查德不想失去权力,不想美国失去霸权。伊芙琳不想欧洲失去主权,不想被选民抛弃。”
“我们每个人,都做了看似最理性的选择。可合起来,我们把整个世界的碳循环,彻底搞崩了。”
老约翰手里的枪,掉在了地上。他蹲在地上,捂着脸,嚎啕大哭。他恨了多年的人,就在他面前,可他发现,他恨的不是某一个人,不是某一项技术,而是这个把所有人都拖进自杀式竞赛的、只看利益不看未来的系统。
中国西北部,凡盟。
林野站在监控室里,看着全球的灾情数据。陆启文的卫星电话,打了进来。
“林野,我在堪萨斯,星算的数据中心。”陆启文的声音,带着疲惫,“我想问你,我们到底哪里错了?我们每一步,都做了规则内最正确的选择,为什么会变成今天这样?”
林野看着窗外,凡盟的温室大棚里,绿油油的蔬菜正在生长,光伏电站的板子,在阳光下闪着光。AI系统正在精准调控着灌溉、光照、储能,把每一度绿电、每一滴水都用到极致。孩子们在广场上奔跑,大人们在田里劳作。这里有稳定的粮食供应,清洁的电力,完整的生态循环。这里是崩溃的世界里,人类文明最后的火种。
“你们都没错,只是选错了工具的用法,也忘了文明的根基。”林野的声音,透过卫星电话,传到了堪萨斯的荒野里,“AI从来都不是洪水猛兽,AI也能守护亿万人的生存。决定它走向的,从来不是技术本身,是使用它的人,是把它用在逐利和霸权上,还是用在凡人和未来上。”
“你们每个人的最优利己,合起来,就是整个人类文明的致死剂量。从来不是AI杀了我们,是我们自己,把地球的未来,当成了燃料,喂给了这场永无止境的商业竞赛。”
电话挂了。
陆启文坐在主控台前,手动关停了数据中心的所有服务器,切断了备用电源。
AI的运行日志,永远停了。
日志的最后一行,是他手动输入的:指令终止。
三个月后,陆启文和老约翰,带着幸存的流民,一路向西,最后到了凡盟。
凡盟的大门,为他们敞开了。
凡盟的广场上,立着一块石碑。石碑上,刻着一句话:
个体的最优利己,终将酿成碳失控,成为文明的致死剂量。