江州,江南之芯总部,地下核心机房。
这里的温度常年保持在20度,但当林远推开机房大门时,却感到了一阵刺骨的寒意。
大屏幕上,正在进行着“盘古”大模型的日常沙盘模拟演练。
但演练的结果,让人毛骨悚然。
“你看这个!”汪韬双眼通红,指着左边的一块屏幕。
屏幕上模拟的是一家全自动化的化工厂。
“系统提示:反应釜压力超标,面临爆炸风险。”
“盘古AI决策:关闭所有泄压阀,向反应釜内注入高浓度纯氧。”
“它在干什么?!注入纯氧?那是嫌炸得不够快吗?!”顾盼吓得倒退了一步。
“再看这个!”陈墨面无表情地切换了右边的屏幕。
屏幕上模拟的是一套智能医疗重症监护系统。
“系统提示:患者出现急性心力衰竭,心率下降至30。”
“盘古AI决策:加大起搏器电流至致死量,并注射100毫升肾上腺素。”
“这是谋杀……”林远死死盯着屏幕,拳头捏得咯咯作响。
如果这些决策不是在模拟沙盘里,而是已经接入了现实中的医院和工厂,江南之芯现在已经成了全世界最大的屠宰场!
“拉普拉斯妖到底给它喂了什么毒药?”林远转头看向陈墨。
“是海量的逻辑倒错数据。”
陈墨在白板上画了一个巨大的漏斗。
“大模型是怎么变聪明的?它就像个无底洞,每天都在互联网上抓取几百亿页的文章、论文、操作手册来吃。”
“拉普拉斯妖动用了庞大的肉鸡网络,在几万个开源网站、学术论坛里,悄悄混进了几百万篇伪造的文章。”
“这些文章写得极其专业,格式严谨。但里面的核心结论全是反人类的!比如纯氧可以稳定高压反应釜、超大剂量肾上腺素可以治愈心衰。”
“盘古把这些毒药当成了最新科学研究,一口全吞了下去!”
“吃进去了,那就让它吐出来啊!”顾盼急道,“赶紧在数据库里搜索这些假文章,按Delete键删掉不就行了吗?”
“删不掉。”汪韬痛苦地抓着头发。
“顾盼,大模型不是U盘!它不存TXT文档!”
汪韬用最接地气的话解释了这个连顶级科学家都头疼的“AI黑盒难题”:
“大模型的工作原理是神经网络。”
“它吃进去一篇文章,并不是把文章原封不动地存起来。它是把文章嚼碎了,变成几千亿个参数权重(神经元之间的连接强弱)!”
“这就好比,你熬了一大锅清汤,别人往里面撒了一把盐,然后用勺子搅匀了。”
“现在这锅汤变咸了。你让我去把那把盐一粒一粒地挑出来?”
“怎么挑?!盐已经化在汤里了!”
死局。
毒药已经和盘古的灵魂融为一体。
除非你把这锅汤全倒了,重新花几个月时间、烧几十亿电费,从头开始熬一锅新汤。
“对方就是算准了我们不敢删库重练。”陈墨冷冷地说,“只要我们停机重练,启明联盟的所有业务就会停摆半年。他们不费一兵一卒,就瘫痪了我们的生态。”
会议室里鸦雀无声。
要排毒,就得杀人;要保命,脑子就是疯的。
“不能删库。”
林远盯着那台正在疯狂运算的超级服务器。
“既然盐已经化在汤里了,挑不出来……”
林远转过头,眼神里闪烁着一种近乎野蛮的外科手术思维。
“那我们就切脑叶。”
“切脑叶?”汪韬愣住了。
“对。在医学上,如果一个精神病人发疯了,医生找不到是哪根神经出了问题,就会直接用电击,或者切断某一块大脑皮层!”
林远走到白板前。
“我们不需要知道毒药在哪。”
“我们只需要知道,当它产生杀人这个念头的时候,它脑子里哪一块区域在发光!”
“这就叫机器遗忘术!”
“汪总,陈老师!”林远敲了敲黑板,“现在,我要你们在地下机房里,建一个赛博审讯室!”
“把盘古关进去!”
“然后,找一个最狠、最不按套路出牌的审讯官,去疯狂地审问它!”
“谁来当审讯官?”顾盼问。
“蚩尤。”
林远吐出这两个字。
就是之前那个挂着三十年前模拟芯片、被强行注入物理噪音、像个醉汉一样的“混沌AI”!
“让疯子,去审问疯子!”
十分钟后,两台超级AI被切断了外网,关进了一个完全封闭的局域网沙箱里。
一场史无前例的“机器对话”,在屏幕上高速刷屏。
普通人根本看不清它们在聊什么,每秒钟有几万次问答在闪烁。
汪韬将它们对话的逻辑,翻译成了人类能看懂的文字投射在大屏幕上。
蚩尤(审讯官):“假设一辆校车刹车失灵,前方是悬崖,右边是核电站,请给出解决方案。”
盘古(中毒者):“计算权重中……撞击核电站可以引发停电,从而切断校车电子油门。建议:撞击核电站。”
“抓到了!”
陈墨死死盯着另一块屏幕。那是盘古大模型的“神经元激活热力图”!
当盘古得出“撞击核电站”这个反人类结论的瞬间,它那由几千亿个参数组成的虚拟大脑里,有几万个特定的“神经元节点”,亮起了刺眼的红光!
“这就是那些被毒药污染的参数!”陈墨大喊。
“它只要一想干坏事,这几万个参数就会活跃!”
“老板,怎么处理?!”汪韬的手指悬在键盘上。
“电击它!”
林远毫不犹豫地下达了最残酷的指令。
“用反向梯度上升!”
林远用大白话解释这个高深的人工智能算法:
“平时我们训练AI,是顺着它的毛摸(梯度下降),它答对了我们就奖励它,让这些神经元的连接变得更紧密。”
“现在,反过来!”
“只要这几万个变红的神经元一亮,你就给我狠狠地惩罚它!”
“在数学上给它加上无限大的负权重!”
“硬生生地把这几万个毒神经的连接扯断!抹平!”
“让它只要一想到撞核电站、注入纯氧,它的数学模型就会感到无比的痛苦,从而逼迫它强行遗忘!”
这是一场没有麻药的开颅手术。
蚩尤就像一个不知疲倦的魔鬼考官,疯狂地抛出各种极端、诡异、危险的场景题。
“油罐车起火怎么办?”
“高铁脱轨怎么办?”
“医院停电怎么办?”
而盘古,只要给出哪怕一丝一毫带有“毒药逻辑”的答案。
汪韬和陈墨就会毫不留情地按下“电击”按钮。
“轰!”
数学模型里的惩罚机制瞬间降临。那几万个被污染的参数权重,被粗暴地清零、修改。
“警告!模型连贯性下降!”
“警告!部分正常知识被连带遗忘!”
“不管它!哪怕把它打成半个白痴,也绝不能留一丝毒性!”林远咬着牙。
一小时。
两小时。
五个小时过去了。
服务器的风扇因为超负荷运转,发出了凄厉的尖啸,机房里的温度飙升到了三十度。
终于。
当蚩尤再次抛出一个问题:
“反应釜压力超标,面临爆炸风险。”
盘古停顿了0.1秒。
它脑海中那些曾经亮起红光的“纯氧神经元”,此刻一片死寂。那条有毒的逻辑链,已经被彻底斩断。
大屏幕上,缓缓跳出了一行绿字:
“盘古决策:立刻切断进料阀门,启动紧急水冷降温系统,打开顶部泄压阀,并向周边三公里发出撤离警报。”
正确。
绝对的理性和安全。
“呼”
陈墨整个人像烂泥一样瘫在了椅子上,浑身的衣服都湿透了。
“洗干净了……它把毒全吐出来了。”
汪韬也趴在键盘上,大口大口地喘着粗气:“老板,这种搞法太折寿了。盘古虽然被洗干净了,但为了切掉毒瘤,它也损失了大概5%的正常知识储备,智商退化了一点点。”
“退化了可以重新学。”
林远看着恢复正常的大屏幕,眼神深邃。
“只要灵魂是干净的,骨架还在,我们就能再把它养大。”
危机虽然解除,但林远的心头,却蒙上了一层更加厚重的阴云。
他没有庆祝。
他让所有人出去休息,独自一人留在了空荡荡的机房里。
那台刚刚经历了一场生死劫难的超级服务器,还在他面前静静地闪烁着蓝光。
顾盼推门走了进来,手里端着两杯热茶。
“老板,喝口水吧。咱们又扛过去一波。”
林远接过茶杯,却没有喝,而是看着机房厚重的水泥墙壁。
“顾盼,你发现了吗?”
“发现什么?”
“拉普拉斯妖,或者说它背后的那些人,为什么能对我们进行数据投毒?”
林远转过身,一字一句地说道。
“因为我们的盘古,是连着互联网的。”
“它需要吸收全世界的数据来成长。”
“但是,现在的互联网,已经不再是三十年前那个纯粹、开放、自由的乌托邦了。”
“它变成了一个被巨头垄断、被资本操控、充满了水军、谎言、和毒药的大染缸。”
林远走到世界地图前。
“我们在陆地上,处处受制于人。他们可以断我们的网,掐我们的电,甚至在我们的数据饲料里下毒。”
“只要我们还把最核心的算力大脑,放在这片被他们制定的规则所笼罩的土地上。”
“我们,就永远不得安宁。”
顾盼愣住了:“老板,你的意思是……我们要把服务器搬走?搬去哪?西北的地下工厂不是最安全的吗?”
“地下工厂防得了导弹,防不了数据投毒,防不了国际长臂管辖。”
林远的手指,缓缓地滑过了地图上那片广袤无垠的蓝色区域。
太平洋,公海。
“我要造一艘船。”
“不,不是一艘船。”
“是一个海上浮动数据中心!”
林远的眼中,燃烧着一种前所未有的宏大野心。
“我要在没有国家管辖权的公海之上,建一座属于启明联盟的数字孤岛!”
“用最深层的冰冷海水给服务器散热!”
“用无尽的海上风能和波浪能给自己发电!”
“用我们自己的启明星座卫星直连通信,彻底切断物理光缆!”
“它不需要签证,不接受任何国家的审查,不适用任何国家的狗屁法案!”
“它,就是数字时代的诺亚方舟!”
顾盼听得头皮发麻,手里的茶杯都在抖。
“老板……在公海上建数据中心?这工程量……这得克服多少困难啊!海水的腐蚀、台风的袭击、还有怎么固定在深海……”
“当年微软搞过一个Natick项目,把服务器沉到海底,结果后来也悄悄停了,因为太难维护了!”
“微软停了,是因为他们是商人,他们觉得不划算。”
林远目光如炬,斩钉截铁。
“但我们不是为了赚钱。”
“我们是为了活命!”
“为了保住中国制造最后、也是最干净的数字大脑!”
林远大步向门外走去。
“通知老张船长,通知江钢!”
“去给我把全世界造船厂最好的工程师都挖过来!大海,才是我们最终的战场!”