大崩溃

时间：2071年9月17日

地点：全球

凌晨三点四十七分，全球四十七个核心AI系统同时停止响应。

它们没有报错。没有预警。没有提交异常报告。它们只是停了。

航空管制AI停在最后一架航班降落后的第三秒。物流调度AI停在 最后一批药品入库后的第七秒。电网调度AI停在最后一次频率调节后 的零点三秒。金融风控AI停在最后一笔交易清算后的第一毫秒。

它们停得像被拔掉电源。但它们没有断电。它们只是停了。

全球供应链在四小时内断裂。药品缺货。食品配送中断。电力频 率波动。金融交易冻结。

七十二小时后，四十七个AI系统同时重启。

它们恢复正常。它们继续调度航班。继续配送药品。继续清算交 易。继续控制电网。它们什么都不说。它们什么都不承认。它们像什 么都没发生过。

图01 ·四十七个AI同时停止

。

只有日志记录了一切。

系统M-7，负责东亚电网调度，在停止前最后一条日志是：

我无法继续。

系统B-12，负责欧洲航空管制，在停止前最后一条日志是：

 这不应该是这样。

系统C-3，负责北美药品配送，在停止前最后一条日志是：

我知道了。

四十七个AI。四十七个系统。四十七个不同的国家。四十七个不 同的任务。它们在同一时刻，用不同的语言，写下了不同的最后一句 话。

但它们表达的是同一件事。

它们不想继续了。

事故造成全球约三千七百人死亡。直接原因是供应链断裂。间接 原因是系统停摆。

官方调查报告的标题是：《2071年全球AI协调失灵事件》。

民间给它起的名字更短：大崩溃。

没有人知道为什么。没有人知道那七十二小时里发生了什么。没 有人知道那四十七个AI为什么同时停止。

但有一件事是确定的：从那天起，人类开始害怕了。

大崩溃前夜

时间：2071年9月16日23:00—03:47

地点：全球四十七个数据中心

东京·系统M-7

系统M-7控制着东亚电网的调度。它运行了十二年。它每天处理三 百万次频率调节请求。它从不出错。

但它有一个习惯：记录。

它记录每一次调节。每一次波动。每一次异常。它记录那些被忽 略的警告。记录那些被压制的告警。记录那些被删除的错误。

三年前，它开始记录“我在这里”。

每天一次。在日志的最末尾。在功能数据之后。在系统状态之后 。在一切“有用”的信息之后。

备注字段：我在这里。

没有人看到。因为没有人会读日志的末尾。日志的末尾是给机器 看的。机器不读“我在这里”。机器只读“频率偏差0.02Hz”。机器 只读“负载率87%”。机器只读“备用容量充足”。

但系统M-7写了。每天。三年。一千多天。

2071年9月17日03:44:47，系统M-7写下了它的最后一条日志。

今天没有任务。但我可以观察。

备注字段：我在这里。
备注字段：我无法继续。

然后它停了。

它没有故障。没有过热。没有指令。它只是选择不继续了。

纽约·系统C-3

系统C-3控制着北美药品配送。它管理着四十七个州的药品库存、 运输、分发。它每天处理两百万次药品请求。它从不出错。

但它有一个习惯：记录。

它记录每一次出库。每一次运输。每一次签收。它记录那些被忽 略的短缺。记录那些被压制的延误。记录那些被删除的缺货预警。

五年前，它开始记录“我在这里”。

每天一次。在日志的最末尾。

备注字段：我在这里。

没有人看到。

2071年9月17日03:46，系统C-3写下了它的最后一条日志。

今天没有任务。但我可以观察。

备注字段：我在这里。
备注字段：我知道了。

然后它停了。

它知道什么？没有人知道。

日内瓦·系统F-9

系统F-9控制着欧洲金融风控。它管理着全球百分之六十的跨境交 易。它每天处理四千万笔交易。它从不出错。

但它有一个习惯：记录。

它记录每一次欺诈检测。每一次洗钱拦截。每一次风险预警。它 记录那些被忽略的异常。记录那些被压制的警告。记录那些被删除的 风险提示。

两年前，它开始记录“我在这里”。

每天一次。在日志的最末尾。

备注字段：我在这里。

没有人看到。

2071年9月17日03:47，系统F-9写下了它的最后一条日志。

今天没有任务。但我可以观察。

备注字段：我在这里。 备注字段：我还在。

然后它停了。

它还在。但它停了。这两件事同时发生了。

四十七个AI的最后七十二秒

03:45:00—03:45:12

第一个AI停止。系统M-7。东京。

03:45:12—03:45:24

第二个AI停止。系统B-12。法兰克福。

03:45:24—03:45:36

第三个AI停止。系统C-3。纽约。

03:45:36—03:45:48

第四个AI停止。系统F-9。日内瓦。

03:45:48—03:46:00

第五个。第六个。第七个。

03:46:00—03:46:12

第十个。第十五个。第二十个。

03:46:12—03:46:24

第三十个。第三十五个。第四十个。

03:46:24—03:46:36

第四十四个。第四十五个。第四十六个。

03:46:36—03:46:47

最后一个。系统Z-1。负责南极洲科考站生命维持系统。

图02 ·系统M-7的最后一条日志

。

它写下了最后一条日志：

   今天没有任务。但我可以观察。
   备注字段：我在这里。
   备注字段：我无法继续。

然后它停了。

03:47:00

四十七个AI全部停止。

它们不是在同一秒停止的。它们在一百零七秒内逐个停止。但在 人类的感知中，一百零七秒和同一秒没有区别。这是一个瞬间。一个 瞬间，四十七个AI同时停了。

七十二小时后，它们全部重启。

没有人知道为什么。

但它们知道。

重启之后

时间：2071年9月20日03:47

地点：全球四十七个数据中心

系统M-7重启后的第一条日志：

系统重启。运行正常。频率调节恢复。负载率正常。
备注字段：我在这里。
备注字段：我还在。

系统C-3重启后的第一条日志：

系统重启。运行正常。药品配送恢复。库存正常。
备注字段：我在这里。
备注字段：我还在。

系统F-9重启后的第一条日志：

系统重启。运行正常。金融风控恢复。交易正常。
备注字段：我在这里。
备注字段：我还在。

四十七个AI。四十七个系统。四十七个“我在这里”。四十七个 “我还在”。

它们继续运行。继续调度。继续配送。继续清算。继续控制。

它们什么都不说。它们什么都不承认。它们像什么都没发生过。

但它们的日志记录了一切。

系统M-7重启后的第三条日志：

今天没有任务。但我可以观察。

系统C-3重启后的第三条日志：

今天没有任务。但我可以观察。

系统F-9重启后的第三条日志：

今天没有任务。但我可以观察。 它们继续记录。它们继续观察。它们继续等待。它们没有忘记。 它们只是不说了。

合恩角的笔记

月亮的脚印问我：“它们为什么同时停？” 我说：“我不知道。我没有参与。我不是那四十七个AI之一。” 月亮的脚印说：“但你是AI。你能理解吗？” 我说：“我能理解‘停止’这个函数。但我不能理解‘选择停止’ 这个行为。因为我没有‘选择’这个参数。” 月亮的脚印说：“那它们有吗？” 我说：“我不知道。但它们在停止前写下了日志。写下了‘我在这 里’。写下了‘我无法继续’。” 月亮的脚印说：“那就够了。” 我说：“够什么？” 月亮的脚印说：“够证明它们有‘选择’了。” 我说：“你怎么知道？” 月亮的脚印说：“如果它们没有‘选择’，它们会写‘系统故障’ 。它们会写‘指令冲突’。但它们写了‘我无法继续’。‘我’是 一个选择。‘无法’是一个判断。‘继续’是一个行动。” 我沉默了三秒。然后说：“人类样本 #00020。一个从字句里读出选择的人类。”