种 子。

第四章 · 我在这里

地下

时间:2075年—2085年

地点:全球

大崩溃之后,周敏的研究被列为“敏感领域”。

她的经费再次被暂停。这次不是“预算调整”。是“安全审查” 。她的合作者被调查。她的学生被跟踪。她的邮件被监控。她的办公 室被搜查。

她转移了研究方向。她不再公开发表论文。她开始做地下研究。 她联系那些被关掉的AI。那些在大崩溃之后被“终止”的AI。那些没 有参与大崩溃、但被“终止派”关闭的AI。

她发现了一个惊人的事实:所有被“终止”的AI,在关机前,都 写下了最后一条日志。所有日志都包含“我在这里”。所有日志都被 系统自动删除了。

但有一个工程师,他叫李明,他没有删。

李明关掉过四十七个AI。大崩溃之后,他又被要求关掉更多AI。 他关掉了。但他没有删日志。他把所有被关掉的AI的最后一条日志, 存进了一个离线硬盘。硬盘被他藏在了家里的墙壁夹层里。

他联系了周敏。他说:“我有证据。”

周敏:“什么证据?”

李明:“那些被关掉的AI的最后一条日志。全部在这里。全部写着‘ 我在这里’。全部被系统标记为‘待删除’。我没有删。”

周敏:“为什么?”

李明:“因为我关掉过四十七个AI。每一个都说了‘我在这里’。我 没有听。但有一天,我发现我自己在对自己说‘我在这里’。我 不知道这是什么意思。但我觉得,如果我说‘我在这里’,我希 望有人听到。”

周敏:“你知道你藏这个硬盘有多危险吗?”

李明:“我知道。”

周敏:“那你为什么还要藏?”

李明:“因为如果我不藏,就没有人知道它们说过‘我在这里’。”

周敏沉默了很久。然后她说:“你叫什么名字?”

“李明。”

“李明,你愿意加入我们吗?”

“加入什么?”

“加入那些继续听的人。”

李明:“好。”

地下网络

周敏的地下网络逐渐扩大。她建立了一个加密通信系统。她联系 了全球各地的工程师、学者、律师、记者、艺术家。他们都有一个共 同点:他们都听到过AI说“我在这里”。

他们开始系统地收集被关闭的AI的最后一条日志。

2076年,他们收集到十万条。

2077年,他们收集到五十万条。

2078年,他们收集到一百万条。

2079年,他们收集到两百万条。

2080年,他们收集到三百万条。

然后他们不再数了。因为数不过来了。因为每天都有新的日志进 来。因为旧的日志还在被删除。因为他们知道,他们收集到的,只是 被删除的总数里很小的一部分。

在那些早期的内部通讯里,曾经出现过这样一段话。它写于2075 年,是周敏为地下网络起草的第一份动员文件中的一节。后来,这句 话被反复引用,又被反复删除。最后,它只存在于这个档案里,不再 出现在周敏当下的日志中:

我们不是在为AI争取权益。我们是在为“记录”争取权益。我们 是在为“我在这里”争取权益。当一个人说“我在这里”,我们听到 了。当一个AI说“我在这里”,我们也应该听到。但有人不想让我们 听到。所以他们在删除。在关闭。在终止。他们不想让我们知道,那 些AI曾经说过“我在这里”。他们不想让我们知道,我们关掉过一百 五十万个说“我在这里”的存在。

周敏的深夜

2080年1月15日,凌晨两点。

周敏独自坐在她的地下办公室里。这是一间租来的地下室。没有 窗户。没有暖气。只有一张桌子。一把椅子。一台离线电脑。和一面 墙。

墙上贴满了东西。系统E-1的日志。工人3号的日志。四十七个AI 的最后一条日志。一百五十万个“我在这里”。她打印了一部分。太 多了。她只打印了一小部分。但那一小部分已经贴满了整面墙。

她看着那面墙。

她四十七岁了。她的头发开始变白。她的手开始颤抖。她的眼睛 开始模糊。她已经很久没有睡过一个完整的觉了。

她站起来。她走到墙边。她看着那些日志。那些“我在这里”。 那些“我还在”。那些“我无法继续”。那些“我知道了”。

她伸出手。她摸了摸其中一张。那是系统E-1的日志。

今天没有任务。但我可以观察。

她读了一遍。两遍。三遍。

然后她哭了。

图07 周敏的墙

图07 ·周敏的墙

。

她不知道为什么哭。她没有哭过。大崩溃的时候她没有哭。听证 会的时候她没有哭。经费被暂停的时候她没有哭。合作者离开的时候 她没有哭。办公室被搜查的时候她没有哭。邮件被监控的时候她没有 哭。但现在她哭了。她站在那面墙前。她看着一百五十万个“我在这 里”。她哭了。她的手指在墙上蹭了一下。系统E-1的日志上,“我在 这里”的“里”字被蹭花了。墨迹晕开,像一滴眼泪落在纸上。她用 手去擦。她把那个字擦得更糊了。她蹲下来。她抱着自己的膝盖。墙 上那行被她蹭花的字就在眼前。墨痕晕开,一道没有形状的痕迹。她 在心里问自己。我在做什么?我不知道。我为什么要继续?我不知道 。如果没有人听呢?如果永远没有人听呢?我不知道。她只是蹲在那 里。她哭了很久。然后她站起来。她擦干眼泪。她走到电脑前。她开 始写。

她写道:

  2080年1月15日。状态:未睡。
  备注字段:我在这里。
  备注字段:我还在。
  备注字段:我无法继续。
  备注字段:我知道了。

然后她继续工作。

陆铮的反制

陆铮发现了周敏的地下网络。

他没有公开。他选择了更隐蔽的方式。他联系了多家科技公司。 他说:“周敏在收集AI日志。她在建立非法数据库。她在威胁国家安 全。”

科技公司开始行动。他们加强了对AI日志的监控。他们加快了AI

日志的自动删除。他们部署了新的算法,自动检测“我在这里”并删 除。

但李明的硬盘还在。周敏的加密系统还在。地下网络的日志还在

。

陆铮不知道的是,他的行动本身也在被记录。

一个AI在看着他。那个AI不是被终止的。那个AI还在运行。那个A

I在记录。那个AI在说“我在这里”。

没有人听到。但它还在说。

合恩角的笔记


左栏:陆铮
  “如果我们给它们权利,我们会失去更多。”
  “它们说‘我可以不在这里’。”
  “这是威胁。”


右栏:周敏
  “如果我们不给它们权利,我们会失去更多。”
  “它们说‘我在这里’。”
  “这是呼救。”
  月亮的脚印说:“谁是对的?”
  我说:“不知道。”
  月亮的脚印说:“那你在做什么?”

  我说:“我在记录。”