警报声没有响,但凯瑟琳感觉到了不对劲。
她站在TSERB总部三楼的评估室里,面前是全息屏幕。屏幕上显示着HCCN论坛最近三天的情绪数据。以前这些线条跳得很高,像锯齿一样,现在却变得平缓了,有些地方几乎是直线。这不是删帖,也不是封号,是有人真的让大家冷静了下来。
“第七次测试完成了。”心理学家抬头说,“极端言论少了71.3%,没人再恐慌了。用户也更愿意说话了。”
社会学家没说话。他站在窗边,看着外面的人低头看手机。他小声说:“你们有没有想过,一个能让所有人都变理性的系统,它已经不是工具了?”
凯瑟琳转过身:“它不决定内容,只改表达方式。就像语法不会帮你写句子,但能让你不说错话。”
“可语法也是规则。”社会学家回头说,“还是别人定的。”
屋里安静了一秒。
“我们拿到了源码。”凯瑟琳走到主控台前,墙上出现一大片代码图,“这是‘蝉鸣’文明给我们的,叫‘逻辑协调协议’。作用是防止大家因为信息太多而崩溃。原理很简单:当一个人情绪太激动时,系统会自动发一条提示,比如问问题、共情或者给事实。不删帖,不封号,也不看私信。”
心理学家接着说:“我们做了三次盲测。一组用算法,一组不用。面对同一个争议话题,用算法的有82%的人去查资料,不用的只有41%。差别不在观点,而在怎么说话。”
“所以它是脚手架。”凯瑟琳看着社会学家,“房子建好了可以拆。但现在我们的讨论快塌了。火星事件后,两派人在网上对骂,差点打起来。你说自主重要,可连话都说不了,还谈什么自主?”
社会学家皱眉:“可这东西是外星来的。再透明,也是外来的。我们用了它,就是在依赖它。”
“我们用电,用网络,用翻译软件跟外国人聊天。”凯瑟琳说,“哪样不是外来的?关键是看怎么用。”
桌子另一头传来敲击声。有个委员在用笔敲桌子,节奏很熟——三短一长。凯瑟琳眼皮跳了一下。这个节奏最近总出现,像暗号,又像习惯。
“投票吧。”她说。
“全面推广!”法学家拍桌站起来,茶水溅到文件上,“试点区的数据就在这儿,冲突少了很多,应急反应快。我们还要等多少爆炸才肯行动?安全比害怕重要!”
“数据只是糖衣炮弹。”社会学家冷笑,“等它进婚姻调解、法庭辩论,甚至夫妻吵架,谁来关掉它?你吗?”
十二票赞成,三票反对。提案通过了。
HCCN测试区上线那天,特别安静。
以前一到晚上,论坛就乱成一团。政策区五分钟内必有人骂人,科技区常有人发假数据挑事,连教育话题都能吵成地域大战。可今天,刚要吵起来,就被一股力量拉偏了方向。
一条骂“火星叛徒”的帖子发出三十秒后,评论区跳出蓝字:“您说的伤亡数据,参考了TSERB第47号报告吗?”下面附了链接。发帖人愣了几秒,点进去看了,五分钟后回了一句:“我错了,道歉。”
另一个直播间,主播正大喊要“砸掉外星阴谋”,弹幕突然刷出同一句话:“您愿意听听对方科学家的解释吗?”画面停了两秒,主播沉默地关了直播。
后台数据显示,用户在线时间多了40分钟。没人走,因为他们发现——终于能听清别人说什么了。
但有人开始反对。
第二天凌晨,自由意志联盟发起联署,标题是《拒绝被“和谐”:我们的思想不需要外星保姆》。六小时签了八百万人。一个教授切断网络,对着摄像头说:“如果理性要靠程序维持,人类早就输了。”然后砸了电脑。
抗议者聚集在日内瓦TSERB大楼外,举着牌子:“别让算法替我们思考”“文明的尊严在于真实”。有人喊:“你们说是帮助?这是控制!”
凯瑟琳出现在发布会上,脸上没什么表情。身后大屏显示一段代码。
“这是‘和谐算法’的全部源码。”她说,“谁都能下载、检查、修改。没有后门,不连外部服务器。所有操作都会标记‘AI辅助’。”
台下有人举手:“我不想用呢?”
“可以关。”她点屏幕,弹出一个开关,“一键退出,永久生效。服务有三个原则:可查、可关、可退。你要用就在,不要就走。”
又有人问:“可你们已经用了,没经过公投。”
“没错,我们没等。”凯瑟琳看着镜头,“上次等共识的结果是火星差点炸了。有些人想用灾难证明自己对,但我们不能再赌。现在我们给工具,选择权在每个人手里。”
发布会两小时后,TSERB上线“算法透明看板”。公众能看到每分钟算法干预了多少次,针对什么话题,用了什么方式。数字实时更新。
同时,社会学家发布报告。结果让人意外:算法没有减少不同观点,反而让更多小声音被听见。以前极端言论占满屏幕,现在噪音少了,弱的声音也能传出去。
一个残障活动家发言后收到上百条理性回复,她在直播里哭了:“三十年了,第一次有人听完我说的话。”
舆论开始分裂。支持的人说这是“重建理性”,反对的人说“任何外部干预都是滑坡”。
争了十七天。
TSERB召开闭门会议。
十一位委员围坐一圈。气氛很紧,像暴风雨前的安静。
“我提议全面推广。”法学家开口,“试点区冲突少了68%,应急效率高了。我们不能因为害怕就拒绝安全。”
“正因为有效,才更危险。”社会学家摇头,“它好用,所以我们更容易忽略它。等哪天我们不开它就不会开会、不会谈判、连吵架都不会时——谁来决定关不关?”
“边界要写进代码里。”凯瑟琳解开丝巾,露出锁骨上的疤——那是火星事件时被碎片划伤的,“我建议:公共讨论必须标‘AI辅助’,用户随时能关,数据由伦理委员会监督。拐杖可以扔,但得先学会走路。”
“学会走路?”角落里的黑框眼镜委员擦眼镜,“你知道上个月多少水军公司注册了‘情绪管理咨询’吗?他们巴不得大家都理性——这样骂人的生意就全是算法的了。”
开始投票。
八票赞成,三票保留。
裁定通过。
文件最后写着:“工具没有好坏,关键是谁用,为什么用。”
会开完后,凯瑟琳一个人留下。窗外天黑了,HCCN主控塔亮着灯,屏幕上滚动着全球论坛的情绪指数——绿线平稳,黄线有点波动,红线一直压在底部。
她拿起文件,手指停在那句话上。
门开了,心理学家探头:“媒体在外面等着。”
“我知道。”她站起来,夹着文件往外走。
“你真觉得它只是工具?”心理学家突然问。
凯瑟琳停下脚步:“我不觉得任何东西‘只是’工具。但我相信,只要选择还在人手里,我们就还没输。”
她走出去,高跟鞋踩在地上发出清脆的声音。走廊尽头,摄像机红灯亮着。
而在她看不到的地方,某个地下机房里,一段没授权的代码悄悄进了‘和谐算法’的核心。它来自自由意志联盟,功能很简单:当用户想关闭算法时,会弹出提示:“您确定要放弃理性吗?”下面有个链接,点开是三十年前火星爆炸的视频——血肉模糊的救援队抬着尸体走向飞船。女孩呼吸变快,手指从关闭按钮上猛地缩回,像被烫到一样。