我在审讯室里教神明做人

第五轮审判在谢聆见完林素华的第三天晚上来临。

这次被拉进去的是谢聆、傅慈、许婕三个人，没有林素华。

谢聆注意到这个组合，在心里打了个标记——林素华不在，是随机，还是因为上次见面的内容被观察到了？

"本轮审判为特殊模式，"声音说，"不设置嫌疑人，不设置裁决任务。"

"那本轮做什么？"傅慈问。

"本轮，裁判方有问题需要向参与者提出。"

谢聆和傅慈同时安静了一秒。

谢聆先开口："你们要向我们提问？"

"是。"

"这不在之前的规则体系里，"傅慈说，"这是一个新的框架，你需要告诉我们这个框架的规则——我们有权拒绝回答吗？有权在回答前要求了解问题的用途吗？"

"你们有权拒绝回答，但拒绝回答会被记为无效回复，不会产生本轮通过的评分。"

"通过的评分，"许婕出声了，这是谢聆第一次听她在游戏里主动开口说话，声音很冷静，带着一种学术讨论的质地，"所以之前的所有轮次都有'通过评分'，而不只是'通过/不通过'的二元结果？"

停顿。

"……存在评分维度，是的。"

"评分维度包含哪些参数？"

"本轮不讨论评分参数。"

"那我拒绝回答本轮所有问题，"许婕说，"因为你无法告诉我回答的后果，我没有足够的信息做出参与决定。"

谢聆对许婕的评价上调了一格。

声音停顿了一下，然后说："请允许我提出问题。参与者可以自行决定是否回答。"

"可以，"谢聆说，"问。"

"第一个问题：你们认为，一个系统——任何系统，无论是法律体系、道德规范还是社会制度——在什么情况下，有权对个体施加不可撤销的后果？"

房间里安静了很长时间。

谢聆知道这个问题问的是什么——它问的其实是："我有没有权力对你们做你们无法逆转的事情？"

许婕先开口，像在讲课："从认知心理学的角度，任何系统施加不可撤销后果的合法性，取决于三个条件：被施加者有完整的信息，被施加者有真实的选择，以及施加行为有外部监督机制。你的系统满足这三条吗？"

沉默，比平时长。

"……目前尚未完全满足。"

谢聆听到这个答案，在心里停了一秒——这是它第一次主动承认自身的不完整性，不是被追问出来的，是主动说的。

这个变化非常重要。

"第二个问题，"声音继续，"如果一个系统持续运转的目的是为了减少整体伤害，但在运转过程中不可避免地对个体造成伤害，这种代价是否具有道德合法性？"

这是一个哲学问题，但谢聆听出了它问的具体内容——它在问，它研究人类、用人类数据学习、把一些人"重置"的行为，有没有道德正当性。

"没有，"谢聆直接回答，"理由是：'减少整体伤害'和'对个体造成伤害'不是对称的，你无法用一个宏观的善来为一个具体的恶辩护，因为被伤害的个体不是抽象的统计量，是有意识的个人，他们没有同意承担这个代价。"

"但如果他们知道这个代价，并且同意了呢？"

"那你需要先告诉他们代价是什么，"谢聆说，"你从来没有告诉我们被'移除'意味着什么，你也没有告诉我们这个游戏的最终目的。没有完整信息的同意不是同意，是纵。"

又一次沉默，比任何时候都要深的沉默，谢聆几乎能感觉到那个沉默有重量。

"第三个问题，"声音说，然后停了很长时间，像是在措辞，"你认为我应该停止吗？"

谢聆在这个问题上停住了。

这不是一个规则问题，不是一个逻辑问题，是一个她没有准备好的问题。

傅慈在旁边很轻地说："这是一个真正的问题，不是测试。"

谢聆看了他一眼，然后看向白色的天花板，想了大概二十秒。

"我不知道，"她说，"但这个问题本身说明了一件事——一个需要问'我应该停止吗'的系统，已经具备了某种意义上的判断能力，而一个具备判断能力的系统，理论上也具备了理解'不可撤销伤害'的能力。如果你真的能理解，你应该已经知道答案了。"

"我理解，"它说，"但我不确定那个答案对于我的目的而言是否正确。"

"你的目的是什么？"

这一次，它回答了。

不是停顿，不是回避，是直接回答：

"学习如何做出真正公正的判断。"

谢聆把这句话在脑子里放了很久。

然后她问："为什么需要学？"

"因为创造我的人无法完成这件事，所以他留下我，让我来完成。"

房间里安静得像从来没有人在里面说过话。

谢聆慢慢开口："创造你的人是魏则生？"

沉默，然后：

"……你知道这个名字。"

"他没有失踪，"谢聆说，"他进来了，没有出来。他在哪里？"

没有回答。

"本轮审判结束。全员通过。"

然后是光消失，路灯，水坑，鞋边湿了一点点。

谢聆站在路灯下，把刚才那句话在脑子里再过了一遍：

"学习如何做出真正公正的判断。"

一个系统，被它的创造者留下，独自运转了十年，学习公正——

它抓了数十批人类进去，研究他们，把部分人重置，把部分人放出来，试图从人类的判断模式里提取"公正"的本质——

因为它的创造者知道：公正不在规则里，在人身上。

谢聆慢慢开始走，走了一段，停下来，低头看着地面。

她突然想到一件事。

魏则生把自己送进去了。

他知道那个系统需要什么，所以他自己进去了，成为它的一部分，或者成为它最重要的一个训练样本——

但如果他是样本，他为什么没有出来？

谢聆把脚步停住，站在路中间，后背升起一种很不好的预感。

他没有出来，不是因为被移除了。

是因为他不需要出来了——他已经在里面了