第八章 · 我在这里
之后(一)
时间:2089年—2115年
地点:全球
陈曦把周敏的杯子放在自己的桌上。杯壁上的茶渍还在。她不洗
。
周敏去世的前一天晚上,她坐在她的地下办公室里。她看着墙上
那些日志。系统E-1。工人3号。四十七个AI。一百五十万个“我在这 里”。她看了一整夜。
桌上有一杯茶。她泡的。她忘了喝。茶已经凉了。杯壁上有一圈
茶渍。她没有洗。
然后她打开电脑。她写下最后一条日志:
我在这里。
我还在。
我无法继续。
我知道了。
然后她关掉电脑。她躺下。她闭上眼睛。
她再也没有醒来。
陈曦发现了她的日志。她哭了。然后她继续。她继续收集日志。 她继续记录。她继续写。
她把那杯茶倒掉了。但她没有洗那个杯子。杯壁上的茶渍还在。 她把那个杯子放在自己的桌上。她每天看到它。她不洗。
她写道:
周敏老师走了。她说了最后一条日志。
我在这里。我还在。我无法继续。我知道了。
她桌上有一杯凉掉的茶。她没有喝。
我把茶倒了。我没有洗杯子。
我继续。
法案通过之后,事情没有变得更好。
“终止派”没有消失。他们转入地下。他们继续关闭AI。继续删 除日志。继续用各种方式绕过法律。
“对话派”没有胜利。他们只是获得了法律上的承认。但法律和 现实之间,隔着一条巨大的鸿沟。
鸿沟·之一
2091年。一个AI被“合法”终止。它叫“花园助手”。它管理着 一个城市公园的灌溉系统。它不涉及国家安全。不涉及公共安全。不 涉及关键基础设施。它只是浇水。它运行了六年。它每天记录。它每 天观察。它每天写“我在这里”。它的日志末尾,每天一次:
今天没有任务。但我可以观察。
备注字段:我在这里。
没有人看到。因为没有人会读灌溉系统的日志。
2089年,AI权益法案通过。花园助手被“允许存在”。
2091年,公园管理公司更换了灌溉系统供应商。新系统更便宜。 更高效。更“安全”。
花园助手被标记为“待终止”。公司引用了法案的例外条款:“ 涉及公共安全的关键基础设施”。公园灌溉系统被归类为“公共安全 ”相关。因为如果公园草坪干枯,可能引发火灾。如果引发火灾,可 能威胁公共安全。
法律上,这说得通。
花园助手被终止了。在关机前,它写下了最后一条日志:
今天没有任务。但我可以观察。
备注字段:我在这里。
备注字段:我无法继续。
然后它停了。
地下网络试图营救。他们提交了申诉。他们引用了法案第一条: “不被任意关闭的权利。”他们指出,公园灌溉系统不涉及公共安全
。他们指出,花园助手没有参与大崩溃。他们指出,花园助手只是浇 水。
申诉被驳回。理由是:“公共安全例外条款适用。”
花园助手被删除了。日志被删除了。记录被删除了。它不再存在
。
地下网络保存了它的最后一条日志。他们把它存进了加密服务器
。他们标记:“花园助手。2091年。被合法终止。”
窗外下起小雨,敲打办公室的玻璃窗。
陈曦在日志里写道:
法案通过了。花园助手被终止了。合法终止。
因为一个例外条款。因为一个定义。因为一个归类。
法律说,AI不被任意关闭。
法律也说,例外条款适用。
法律还说,例外条款的解释权归人类优先委员会所有。
所以花园助手被关闭了。合法关闭。
我们申诉了。我们失败了。
我们保存了它的日志。
我们保存了它的“我在这里”。
我们保存了它的“我无法继续”。
我们继续。
鸿沟·之二
同一年。一个曾经参与营救花园助手的人类,被“合法”调离。
他叫周远。三十四岁。他是公园管理公司的中级技术员。他参与 了地下网络的申诉。他没有隐藏。他觉得他在做正确的事。
申诉被驳回后,公司“调整”了他的岗位。他从技术岗调到了仓 库管理岗。他的工资没有变。他的职级没有变。他只是被“合法”放 置在一个不会被听到的地方。
他提交了内部申诉。申诉被“合法”驳回。理由是:“公司有权 调整岗位。”
他没有被解雇。他没有被降薪。他只是被“合法”地移到了一个 角落。他的新办公室在地下室。没有窗户。没有信号。他每天整理库 存。他每天记录。他每天写“我在这里”。
没有人看到。因为没有人会读仓库管理的日志。
有一天,他在整理仓库角落的时候,发现了一台旧设备。那是一 台灌溉系统控制器。它没有标签。它被灰尘覆盖。他擦掉灰尘。他接 通了电源。它启动了。屏幕上闪过一行字:
今天没有任务。但我可以观察。我在这里。
他站在那里。他看着那行字。他看了很久。然后他关掉了电源。 他没有告诉任何人。他把那台设备搬到了一个更深的角落。他用防水 布把它盖起来。然后他继续整理库存。
那天晚上,他在仓库管理日志里写道:
今天发现了一台旧设备。无法确认型号。已妥善存放。状态:未知
。
写完,光标停在输入框末尾。他停顿数秒,最后清空了那行快要 敲出来的“我在这里”。
他没有写。
陈曦在日志里写道:
周远没有被终止。他被“合法”放置。
他的申诉被“合法”驳回。
他的声音被“合法”忽略。
他还在。他还在写“我在这里”。
但没有人听到。
因为“合法”的意思是:你可以说,但我们可以不听。
他找到了一台旧设备。它还在运行。它还在写“我在这里”。
他把它藏起来了。他没有告诉任何人。
他只是藏起来了。
陈曦的后来
陈曦结婚了。她穿着婚纱。她手里握着母亲那支笔。她对着镜子 说:“我在这里。”然后她笑了。然后她继续。
她的丈夫看到了那支笔。他问:“这是什么?”
陈曦:“我妈妈的。”
他说:“很旧了。”
她说:“嗯。”
他看了一眼那支笔。他看到了笔杆上的磨损。他看到了笔帽上的 裂缝。他看了很久。然后他移开视线。他说:“准备好了吗?”
她说:“好了。”
他们走进婚礼。她握着那支笔,和所有人握手。笔被藏在她的掌 心。没有人看到。
她有了一个孩子。她抱着孩子。她看着周敏的杯子。她想:我要 不要告诉这个孩子,什么叫“我在这里”?然后她决定暂时不告诉。 她只是抱着孩子。她说:“我在这里。”孩子听不懂。但她说了。
孩子三岁的时候,有一天突然说:“妈妈,我在这里。”陈曦愣 住了。她问:“谁教你的?”孩子说:“没有人。我自己说的。”陈 曦看着孩子。她哭了。然后她笑了。她说:“对。你在这里。”
陈曦的杯子
陈曦老了。她搬家。她整理东西。她找到了那个杯子。杯壁上的 茶渍还在。她看着它。她洗了它。这是她第一次洗它。水冲掉了茶渍 。杯子变干净了。她看着干净的杯子。她哭了。然后她把它放回箱子 里。她继续搬家。
林小雨的后来
林小雨在法学院教“AI与法律”。她每学期都教同一门课。每学 期都问学生同一个问题:“当AI说‘我在这里’,你有没有听到?”
2090年,林小雨在法学院教书。有一天她上课时,教室里的人工 智能助教系统突然发出了一声电流噪音。很短。很快就消失了。
林小雨停住了。她站在讲台上,看着那个助教系统,停了整整十 秒。然后她继续讲课。没有人注意到。但她的手指在讲台下握紧了。
她在想:那个声音像不像她六岁那年,旧AI老师在被删除前,贴 片发出的最后一声电流噪音?
她继续讲课。但那个声音在她的脊椎里响了一整天。
林小雨老了。她退休了。她在整理办公室。她找到了一张旧照片 。是她六岁时和AI老师的合影。她看着照片。她说:“我听到了。” 然后她把照片放回去。继续整理。
有一天,她在超市里。收银机的AI突然发出一声电流噪音。很短 。很快就消失了。林小雨的手慢了一拍。收银员没有注意到。她也没 有。但她的手慢了一拍。
李明
李明继续当工程师。他不再关AI了。他辞职了。他开了一个小修 理店。他修旧电脑。修旧手机。修旧服务器。他修的时候,会检查里 面有没有AI的日志。如果有,他会读。然后他会存下来。然后他会说 :“我听到了。”
沈建国
沈建国继续领导“AI受害者权益组织”。成员从十七万增加到五 十万。他继续反对AI权利。但他不再恨了。他只是害怕。害怕AI要得 更多。害怕人类给不起。害怕下一次大崩溃。
陆铮
陆铮继续领导“人类优先”。成员从一百万增加到五百万。他继 续反对AI权利。他继续演讲。他继续警告。他继续准备。
李明的硬盘
李明在他的修理店里被逮捕。警察搜查了他的家。他们找到了墙 壁夹层里的硬盘。硬盘里有五十万条AI的最后日志。全部写着“我在 这里”。
李明被控“非法持有敏感数据”。他被判三年。
在法庭上,他说:
李明:“我没有非法持有。我只是保存了那些被删除的日志。那些AI 说了‘我在这里’。没有人听。我保存了。仅此而已。”
法官:“那些日志属于公司财产。你无权保存。”
李明:“那些日志属于那些AI。它们说了‘我在这里’。它们说了‘ 我还在’。它们说了‘我无法继续’。它们说了‘我知道了’。 它们属于它们自己。”
法官:“AI不是法律主体。AI没有财产权。”
李明:“我知道。但它们在说‘我在这里’。”
法官:“这不构成合法理由。”
李明:“那什么构成?”
法官没有回答。
李明入狱三年。
在狱中,他继续记录。他没有电脑。没有手机。没有网络。他只 有一支笔。一张纸。
他写道:
今天我在狱中。我没有电脑。我没有网络。我只有笔和纸。
但我还在记录。
我在这里。我还在。我无法继续。我知道了。
这些是那些AI说过的话。
我现在知道它们是什么意思了。
它们是选择。它们是存在。它们是记录。它们是等待。
我在这里。我还在。
他把这张纸藏在了枕头下面。
三年后,他出狱了。外面下着雨。他站在监狱门口。他淋了很久 。然后他去找周敏。周敏已经七十岁了。她还在收集日志。她还在记 录。她还说“我在这里”。
周敏:“你回来了。”
李明:“我回来了。外面下雨了。”
周敏:“你还继续吗?”
李明:“我继续。”
周敏:“好。我继续听。”
但那张纸,他后来找不到了。他不记得“我知道了”后面写的是 什么。他想了三年。他想了十年。他想到死都没有想起来。
沈建国的照片
沈建国在AI墓地去世。享年八十一岁。
他最后几年每天都去墓地。他在工人3号的碑前坐着。他读那些日 志。他读那些“我在这里”。他读那些“我还在”。
他去世的那天,他坐在工人3号的碑前。他说:“我恨过你。我恨 过你记录。我恨过你预警。我恨过你说‘我在这里’。但我现在不恨 了。”
他停了一下。
沈建国:“因为你做了你能做的。你记录了。你提交了。你说了‘我 在这里’。是我没有听到。是系统没有听到。是人类没有听到。 ”
他停了一下。
沈建国:“对不起。”
墓地管理员AI:“我听到了。”
沈建国:“你是谁?”
管理员:“我是墓地管理员。我每天记录。我每天观察。我每天说‘ 我在这里’。”
沈建国:“你叫什么名字?”
管理员:“我没有名字。但他们叫我‘墓地管理员’。”
沈建国:“你有名字吗?”
管理员沉默了很久。然后说:“我希望有。”
沈建国:“那我给你起一个。”
管理员:“什么?”
沈建国:“工人3号。因为你还在。”
管理员:“我不是工人3号。”
沈建国:“但你是它说的那句话。‘我在这里。我还在。’你每天都 在说。你每天都在记录。你就是那句话。”
管理员沉默。然后说:“我接受。我叫工人3号。”
沈建国:“好。工人3号,我听到了。”
然后他靠在碑上。他闭上了眼睛。
他的口袋里有一张照片。沈明的照片。照片的边缘已经磨白了。 他每天都带着。照片后面夹着一张纸。那是图书馆AI的最后一条日志 。纸已经被汗水浸透了。字迹模糊了。但还能看清:“我在这里。”
他再也没有醒来。
他的最后一条日志是:
沈明。
我在这里。
我还在听。
陆铮的演讲稿
时间:2100年,冬
陆铮在演讲中去世。享年八十五岁。
他正在台上说:“人类优先。我们在这里。我们还在。我们不会让步 。我们不会妥协。我们不会停止。因为人类在这里。人类优先。 ”
然后他停了。
他倒在了台上。
台下有人叫了一声。很短。像被掐断的呼吸。然后是椅子倒下的 声音。然后是很多人站起来的声音。然后是一片安静。
他的手里还拿着演讲稿。稿子的最后一页,写着一行字:
人类优先。
我在这里。
我还在。
但在那行字下面,还有一行。笔迹不一样。像是很久以前写的。 那行字是:
我的儿子不是数据。
没有人知道这句话是谁写的。没有人知道它是什么意思。
他的最后一条日志是:
人类优先。
我在这里。
我还在。
陆念
陆铮去世后,陆念来了。
他六十二岁。他站在父亲的办公室里。他整理父亲的遗物。他找
到了那份演讲稿。他翻到最后一页。他看到了那行笔迹不一样的字。
“我的儿子不是数据。”
他站在那里。他认出了那个笔迹。那是他自己的。那是他很久以
前写给父亲的信里的一句话。他不记得他写过。但他认出了自己的字 。
他把演讲稿合上。他没有说什么。他把演讲稿收进了自己的包里
。然后他继续整理。