第三十八章 谷雨 (第1/2页)
病毒事件的技术调查报告在三月下旬正式发布。报告全文很长,附录里密密麻麻排满了技术分析数据——传播路径的拓扑图、感染时间线的逐秒还原、病毒代码的逐层反编译注释、以及针对标准化反馈回路协议漏洞的详细技术剖析。但核心结论只有寥寥几条,被印在报告正文的扉页上:病毒利用的是神经接口标准化反馈回路协议的固有漏洞,该漏洞在多年前制定行业标准时已被一名安全顾问提出,但在当时被标注为“低风险”而搁置;病毒代码由锐思科技内部AI辅助安全测试系统生成,在设计者设定的终止条件因旧版固件兼容问题失效后扩散;事件暴露出神经接口行业在安全协议设计中的系统性缺陷——在设计时只考虑了信号传输的效率,没有为“认知过程的自主性”预留任何防护机制。
报告没有点名任何安全公司。但正文末尾有一段被多家科技媒体逐字拆解的措辞——“部分企业在事件发生后迅速推出了有效防护产品,其技术储备的充分程度值得行业借鉴。”这句话在一家科技媒体的分析文章中被反复引用了三次,每一次都被配以不同的语气——第一次是中性复述,第二次是疑问句,第三次是在括号里加了一个问号:“值得行业借鉴(?)”另一家媒体在报道中引用了一位匿名安全分析师的话,说调查报告的措辞之所以如此含蓄,是因为“预判性储备”在现行法规中不被视为违法——“但这不等于它不应该被质疑。利用系统性漏洞的必然性进行商业布局,在道德上属于另一种形式的投机。”
信息安全中心的一位退休专家在个人专栏里写了一篇文章,措辞克制但观点极其锋利。他写道:“调查报告确认了病毒利用的是行业底层协议中一个已知但被搁置的漏洞。这个漏洞不是某一个人放进去的——是整个行业在追求效率时共同做出的选择,把安全审查推迟到‘下一个版本’,把风险留给‘以后处理’。那些在事件后迅速推出防护产品的安全公司,确实没有制造病毒。但他们在漏洞被搁置时选择沉默,在漏洞被利用时选择收割。这种行为在现行法律中不被定义为违法——这是法律的问题,不是他们的问题。但行业伦理不应止步于法律底线。”
锐思科技的CEO在报告发布第五天宣布引咎辞职。他在官网上发布了一封致歉信,措辞简洁,没有推卸责任。他写道:“作为CEO,我对公司产品的安全性负有最终责任。我未能确保安全测试的隔离环境达到应有的标准,未能预见AI生成代码在真实网络中的扩散风险。我向所有感染者、向所有因此事件受到困扰的用户、向公众致以诚挚的歉意。我即日起辞去CEO职务。”他的名字在致歉信末尾被签得很用力,笔迹压透了纸面。
程瀚被正式批捕的消息是在CEO辞职后不久公布的。罪名是“过失以危险方法危害公共安全”。警方在通报中简要说明了案件进展——程瀚在审讯中承认自己在模拟环境中的推演存在重大缺陷,对AI生成代码在真实网络中的扩散风险估计不足,愿意承担法律责任。他的代理律师在法院门口被几个科技记者拦住,说了几句话就走进了大门:“程瀚对自己的行为深感悔恨。他当时确实认为模拟环境中的终止条件是有效的——他犯的是认知错误,不是主观恶意。他愿意承担法律责任,但希望行业能从这次事件中吸取教训,而不是只找一个替罪羊。”
周明远在星核科技工位上读到这篇报道时,手指在触控板上停了一下。窗外望京的楼群在春雨后初晴的阳光下反射着柔和的白光,有几只灰椋鸟在对面楼顶的空调外机上跳来跳去。他想起自己在瑞联签手术同意书之前的那些晚上——他把所有能翻的技术白皮书都翻了个遍,查到了所有能查到的排异反应发生率数据,在知情同意书的每一页都做了标记。他后来才知道,那套数据是经过统计口径调整的,真实的排异反应发生率比官方数据高出好几倍。他不认识程瀚,但他认识那种“我以为自己算清楚了”的感觉。这种感觉不会因为换了角色——从签字人变成审查者——就自动消失。它只是从一种形态变成了另一种形态。以前是他自己承受计算错误的后果,现在是他坐在伦理委员会的审查席上,用自己走过的路去验证别人提交的每一个参数。他把报道页面关掉,继续修改安全基线修订建议。
三月下旬到四月初,星核科技安全部门在病毒事件技术调查报告的基础上,正式向工信部标准研究院提交了神经接口安全协议修订建议。这份建议是在周明远的技术分析基础上逐条形成的——他在病毒事件后连续工作了近两周,把安全基线文档中所有涉及反馈回路协议的部分从头到尾重新逐条审视了一遍,标记出了六处潜在风险点,其中三处与病毒利用的漏洞同源。
修订建议的核心是两条。第一条:将所有已知风险点对应的安全措施从“建议执行”升级为“强制认证”——任何新上市或升级迭代的产品,在通过强制认证之前不得进入市场;已上市产品须在规定时间内完成补充认证。第二条:建立跨企业安全信息共享机制——任何一家企业发现的安全漏洞,须在规定时限内通报全行业共享平台,不得以商业秘密为由延迟或拒绝通报。
在安全协议修订建议正式提交后不久,星核科技技术伦理委员会召开了第二季度第一次常规会议。周明远作为技术侧代表坐在长桌左侧中间偏下的位置,手边放着一杯白开水和一份打印好的修订建议副本。陈默坐在靠墙的列席座位上,面前摊着一本翻开的笔记本,扉页上那句“以下数据来自一名被试在近两年间多次回调的长期随访记录。每个参数都对应着一段真实经历。请在引用时,记住这一点”已经被她翻得边角发毛,但她每次开会都会摊开同一页。
会议的前三个议程是常规审查——一个外部合作项目的知情同意书模板修订、两个内部测试方案的数据隐私保护措施。周明远逐项审阅,提了几条修改意见,法务部代表做了记录。到了第四个议程,他从自己的文件夹里抽出一页打印好的条款草稿,放在桌上。
“病毒事件暴露了一个之前被我们忽视的维度。伦理审查不仅要管人体试验和临床试验——还要管内部安全测试。尤其是当测试涉及生成潜在危险代码时。”他把条款草稿往桌子中央推了推,“我提议在伦理委员会审查范围中增加一条新的强制规定:任何涉及生成潜在危险代码的内部安全测试,须在完全隔离于真实网络环境之外的模拟平台上运行,模拟平台不得接入任何可连接真实神经接口网络的协议栈;测试代码须采用非持久性架构,运行结束后自动清除,不得在存储介质中保留可重新激活的副本;测试方案须经本委员会审批后方可执行。”
法务部代表把条款逐字逐句读了两遍,问了一个问题:什么叫“潜在危险代码”?这个概念在法律上目前没有明确定义,如果定义过于宽泛,将来在执行时可能被扩展解释。周明远说他的定义是——任何能够通过神经接口标准化协议进行自我复制、并可能对用户的认知过程造成非自愿性干扰的代码,无论其设计初衷是攻击性还是防护性。他说这个定义不是从法律条文里来的,是从病毒事件中提取的。他之前和法务部讨论过措辞,最终草稿中使用了“可能对用户的认知过程造成非自愿性干扰”这一经过反复推敲的表述,避免过于宽泛的打击面。
委员会投票——五票赞成,零票反对,零票弃权。条款全票通过。陈默在笔记本上飞快地记下了这个条款的编号和核心内容,编号前面加了一个星号,表示这是病毒事件后新增的第一条强制审查条款。她在星号旁边画了一个极小的圈——和她在安全基线文档扉页上画过的那个圈一模一样。
散会后,陈默在走廊里追上正在往电梯方向走的周明远。她手里拿着笔记本翻到最新一页,上面的墨迹还没完全干透,在走廊的灯光下微微反光。她说她在整理调查报告附录里的交叉引用资料时,读到了一段她在之前的安全通报中没有注意到的内容。调查报告附录里引用了那个多年前在制定行业标准时提出漏洞预警、但被搁置的安全顾问的技术意见书原文。她说这个人当时在意见书里写了这样一段话:“这个漏洞不会因为被忽略而消失——它只是从纸面上转移到每一个未来用户的神经系统里。今天我们省下的是一个条款的修改时间,将来付出的代价是真实的人被劫持的记忆。”
她在电梯门口停下来,把这段话逐字逐句念给周明远听。她说这是调查报告附录里的原文引用,脚注编号很靠后,大概没几个人会翻到那一页。调查报告中也没有提到那个安全顾问的名字,只标注了意见书的提交机构和一个归档编号。
周明远站在电梯门口,手指按着开门键。走廊里的灯光把他投在灰蓝色地毯上的影子拉得很长。他说这个人比他更早看到风险——早了好多年。那时候大多数人还不知道神经接口是什么,这个人已经在说“每一个未来用户的神经系统”。他说今年伦理委员会的工作计划里有一项是整理行业伦理案例库——把她刚才读到的那段话加进去,作为第一条。
陈默在笔记本上飞快记下。电梯门合上,楼层数字开始往下跳。周明远靠在电梯墙上,想起自己在回调期间无数次对张薇说“我不确定我还能不能回去”。那些话在当时只是被试在测试日志里的主观陈述,后来变成数据,后来变成安全基线,后来变成行业标准草案里的一条脚注。现在,一个没有被记载名字的安全顾问在多年前写下的一段没有被采纳的警告,也将被写进伦理案例库。这就是积累——不是胜利,不是终点,是一个人接着一个人,在这条越来越长的防线上各自守住自己站过的位置。
四月中旬,千禧数学难题被解出的消息正式公开。论文被上传到全球预印本平台,标题简洁得几乎像是刻意低调——“On the Solution to a Millennium Prize Problem”(《关于一道千禧年大奖难题的解法》)。作者署名是一个匿名的研究小组,摘要只有寥寥几行,说本证明“基于对特定神经增强算法的数学特征分析”,不涉及任何实验细节。论文全文超过两百页,核心证明被压缩在中间三章,逻辑链条严密得像一座用纯数学语言搭建的哥特式大教堂——每一块石头都精确地契合在相邻的石头上,每一个承重点都有对应的力线支撑。
国际数学界在几天内完成了对证明的独立验证。几位顶尖数学家分别审阅了论文的不同部分——一位数论专家验证了证明的代数结构,一位拓扑学家逐条检查了几何构造的每一个引理,一位数理逻辑学家确认了所有推导步骤的逻辑有效性。他们各自的验证报告在学术讨论组里被热烈讨论,最终结论是一致的:证明在数学逻辑上是完整且严谨的,论文的核心贡献——一个新的数学工具,被称为“神经增强辅助推演框架”——在纯数学层面上是成立的。这个框架的价值不在于它“用计算机辅助人脑”,而在于它提供了一个全新的公理化视角,重新组织了已有数学知识的体系结构。在这个意义上,证明的数学贡献是独立的——即使抛开“神经增强”这个标签,论文中提出的公理化框架本身也是数学发展的一个突破。
但争议几乎在验证完成的同一时间爆发。问题的焦点不是“这个证明对不对”,而是“这个证明是怎样被发现的”。论文使用了“神经增强辅助推演框架”这一术语来指代认知增强技术在数学推理中的应用,但在方**部分,对“神经增强”的具体技术路径只做了极有限的描述。论文只提到,研究者在证明的关键步骤中使用了“高精度神经反馈接口以提升逻辑推理的连贯性”,但没有说明这些接口是被加载在谁身上、在什么条件下被加载、以及这些条件是否经过了独立的伦理审查。正是这种技术细节上的留白,将学术争论从“数学问题”引向了“伦理问题”。
国际数学界迅速分化。一部分学者主张,数学真理的效度只取决于逻辑正确性,与发现者的身体状态无关——这种立场在数学史上有着深厚的传统,数学被普遍认为是最“纯粹”的学科,其真理不依赖于发现者的社会条件或身体状况。另一部分学者则持反对意见。一位英国数学家在《卫报》发表评论,措辞克制但立场极其鲜明:“如果这个证明的关键步骤依赖于建立在活人实验基础上的认知增强技术,那么数学界至少需要在荣誉授予时明确注明这一点。未来的数学史上,当这一证明被列为人类智慧的里程碑时,读者有权知道——这里的‘人类’究竟是什么意思。”一篇匿名的评论文章在数学界内部被广泛转发,核心论点是:“当人类智慧不再完全是人类的智慧,数学还是人类的数学吗?”这种态度在那些有着悠久医学伦理传统的国家获得了大量共鸣。而多国家的主流媒体则更倾向于强调证明的“里程碑意义”,将伦理争议放在次要位置,甚至不少国家根本没提伦理的事。在某些科技媒体的头条报道中,“千禧难题被解出”的标题旁边配图是一块被点亮的巨型屏幕,屏幕上只有几行公式,没有面孔,没有名字,没有任何暗示人类存在的视觉元素。
合众国官方对此保持完全沉默。外交部发言人在例行记者会上被问及此事时,只回答:“合众国政府注意到了相关学术进展,不对学术研究的具体方法发表评论。”这个回答被多家国际媒体引用为“刻意回避”。其中一家欧洲主流媒体在报道中评论道:“合众国在神经技术监管方面有着全球最严格的青少年保护体系——赋分制在国际上被公认为这一领域的标杆。但在国际神经技术伦理争议中,合众国的声音却几乎听不到。这种沉默究竟是谨慎,还是另一种形式的逃避?”
张薇在新加坡实验室里逐页读完论文预印本。窗外菩提树的叶子在午后的阳光下翻动着银绿色的背面,几片新叶刚从叶芽里舒展开来,叶脉的纹理还很浅,像是刚学写字的孩子在纸上留下的歪斜笔画。她花了整整一个下午,把论文核心章节从头到尾仔细读了一遍,在某些关键推导步骤的边缘用铅笔做了极小的标记。然后她靠在椅背上,沉默了很久。
论文的致谢部分只有一句话——“感谢所有为本研究提供技术支持的机构与个人。”没有出现任何被试的编号,没有任何知情同意的声明,没有任何关于数据来源的说明。她翻回论文的方**部分,重新读了“高精度神经反馈接口”的相关段落。论文提到这些接口的加载方案经过“机构内部伦理审查”——但没有说明这个“内部伦理审查委员会”的成员构成,没有说明审查标准是否与任何国际公约对接,没有说明被试的知情同意程序是否经过独立的外部监督。从论文本身的文本来看,这些问题的答案都被封装在“机构内部审查”这面墙后面——墙外的人看不到,墙内的人不需要对外展示。
她打开自己的工作日志,翻到最新一页,用钢笔写道:“这篇论文的致谢只有一句话。每一个被切开的大脑、每一个被强制解读的神经元、每一个在不知情中被抽走的认知碎片——都被浓缩在这句‘机构与个人’里。这不是数学的错。真理本身是无辜的,但通往真理的途径并不总是同样无辜。从数据到证明,数学逻辑是无懈可击的。从证明到荣誉——当这个证明被印在期刊上、被载入史册时,所有站在领奖台上的人都只需要承认‘使用了先进的认知增强技术’,而无需解释这项技术的数据从何而来。荣誉会被记住,数据的来源不会。这就是体制化遗忘的标准流程——不是哪一个人刻意为之,而是整个体系在设计时就留出了足够宽的灰色地带,让那些需要荣誉的人无需追问数据的出身。”
她把这一页日志加密保存,然后靠在椅背上,闭上眼睛。窗外的阳光照在她的脸上,透过眼皮在视网膜上投下一片温暖的橙色。她刚才在日志中写下“体制化遗忘”这几个字时,手指在纸面上比平时更用力,笔尖在“遗忘”的“忘”字最后一捺上微微洇开了一小片墨迹。她想到了赋分制。赋分制所对抗的,本质上也是同一种遗忘——遗忘每一个数据背后的人、遗忘每一个参数对应的那个凌晨、遗忘每一个签字时的无助。她想起周明远在欧盟听证会上对着屏幕说“数据可以被脱敏,但那个动作不应该被忘记”时的语气——那语气很平静,但每一个字都像是已经在喉咙里反复称量了很久才出口。现在这篇论文用“机构与个人”替代了所有具体的名字,用“内部伦理审查”封装了所有应该被公开的细节。
她把日志合上,拿起桌上的咖啡杯,发现咖啡已经凉透了。杯壁上凝着一圈极细的水珠,沿着瓷壁缓缓下滑。窗外菩提树的叶子被风吹动,发出沙沙的声响。她没有重新去倒咖啡,只是端着凉透的杯子,坐在那里,看着那片新叶在风中轻轻摇晃。
同一天傍晚,韩世清在办公室里收到了一份国际神经技术动态简报。简报由外交部国际组织司通过办公厅转来,封面上标注着“内部参考”,正文只有几页。简报的核心内容是过去几周内多国对病毒事件的反应——有的国家加强了神经接口安全审查,有的国家借此推动新一轮的行业自律倡议。简报的第二条提到了千禧数学难题被解出的消息。
消息本身已经被媒体报道了好几天,但简报的侧重点不同。简报附了一份国际数学界的反应综述——几位知名数学家的公开表态被逐条摘录,几条是正面评价,另一条是批判性反思。简报还提到,已有多个国家的数学学会在内部发起倡议,建议制定神经增强技术辅助数学研究的伦理指南,其中一条建议是“在使用神经增强技术辅助的数学研究中,应明确标注技术路径、数据来源及被试知情同意状况”。但这份倡议目前只停留在建议阶段,没有任何约束力。
韩世清把简报从头到尾逐页读完。窗外长安街上,谷雨前的最后一场春雨正在细细地飘落,梧桐树新发的嫩叶被雨水洗得发亮。他把简报翻到最后一页,在页边空白处用铅笔写了一行字——“一个问题被解出了。但解出它的那个‘人’,还算是人吗?”
他没有继续往下写。他把铅笔放回笔筒,拉开抽屉取出速效救心丸的药瓶放在桌上。这一瓶是上个月新开的,还剩大半瓶。他没有打开,只是用手指在瓶盖上轻轻敲了一下。然后他拿起内线电话,拨了方涵的号码,问她赋分制法定化草案在征求意见阶段是否收到过关于“认知增强与学术伦理”的反馈。方涵在电话那边翻了翻最近的部际反馈汇总,说有两条——一条是科技部建议在草案中增加关于学术使用场景的说明性条款,另一条是国防部建议在涉及国防科技的特殊条款中明确将“认知增强辅助研发”纳入保密审查范围。韩世清说把这两条都标注为“下次季度评估讨论”。方涵记下了,然后问韩部长您是不是看到了那篇论文。韩世清说是。方涵说您觉得那算数学进步吗。韩世清沉默了一会儿,说算。但进步这个词本身是中性的——它可以用来描述走得更快,也可以用来描述走得更远。这两个方向有时候是同一方向,有时候不是。
他挂了电话,把药瓶放回抽屉,继续批阅桌上的文件。窗外,谷雨前的春雨还在下,雨滴沿着窗玻璃缓缓滑落,把长安街上的车灯折射成一片流动的碎金。
谷雨前一周,苏瑾在卫健委排异评估标准修订工作组会议上作为“民间建议”代表做了简短发言。会议室还是上次听证会那间,长桌两侧坐着卫健委政策法规司的官员和医疗器械审评中心的专家,几位主要企业的代表也在场,其中包括智桥科技新任首席医学官。苏瑾今天穿了一件深蓝色的西装外套,领口别着和上次听证会同一枚银色胸针。她面前的桌上放着一份装订整齐的发言稿,只有一页半,每一段前面都标了编号。
她逐条陈述了修订草案中可以进一步完善的细节——关于“持续性亚临床症状评估参考条目”中睡眠中断频率的记录周期应该从每月一次缩短到每周一次,因为排异反应的波动周期比普通医学指标更短;关于企业数据披露要求中“摘要公开”的范围界定,应该明确列出“摘要”必须包含的最低统计条目,防止企业通过模糊定义来规避关键数据的披露;关于患者主观症状反馈通道,应增加定期回访机制,确保患者在初次反馈后不会因随访中断而失去持续反馈的渠道。这些建议全部基于她在过去几年里整理的数十份家长反馈和排异报告数据,每一项都附了具体案例索引和对应的数据编号。
(本章未完,请点击下一页继续阅读)