新阿尔法狗横空出世：人工智能反人类会是什么结局？

2017年5月，AlphaGo 3：0战胜了世界围棋第一人柯洁。赛后柯洁落泪。

编者按：今年5月，3:0赢下顶级围棋棋手柯洁后，AlphaGo宣布退役，然而仅仅5个月过后，伦敦当地时间10月18日，AlphaGo的身影再次出现在世界顶级科学杂志——《自然》上。这一次，它的代号是AlphaGo Zero，这一次，它不再需要人类提供数据甚至棋谱，它的独门秘籍，是“自学成才”。它自由随意地在棋盘上下棋，短短三天时间完成了近5百万盘的自我博弈，从一个不知道围棋是什么的机器，到独立发现游戏规则，又创造了新的围棋策略，最终在技能上超越人类，并以100:0的战绩击败了此前所有版本的AlphaGo。

AlphaGo Zero已经逐渐摆脱了对人类的模仿，并且在自我学习和新技能探索的道路上越来越轻车熟路。

人工智能给人类带来的究竟是惊喜还是惊恐？现在还无从得知。随着人工智能的不断发展，也许在许多许多年后，人类会来到一个类似于台湾作家伊格言在科幻小说《噬梦人》中所描绘的社会。在那时，人工智能创造的生化人杂处于人类之中，难以分辨。人类疲于奔命地研发一种又一种的测试方式，希望找出那些伪装成人类的生化人，将他们全部清掉。而生化人不停精进与壮大，疲于奔命地从事各种研发、革命、巧扮、谎言，以及，自体演化。

今日，心系宇宙和人类社会未来的文化君特摘编《噬梦人》书中“梦境播放器AI反人类事件”的部分内容，以飨读者。感谢作者授权发布。

AlphaGo Zero用三天时间完成了近5百万盘的自我博弈，以100:0的战绩击败了此前所有版本的AlphaGo。

我的眼珠app，与梦境播放器AI反人类事件

文|伊格言

当我抵达海参崴虚拟监狱，监狱服务器表定日期是2099年3月13日。初春时分，阳光晴好，气温沉降，然而我感受不到一丝融雪的酷寒。此刻现实世界中的正确时间是2286年夏日；但为了令受刑者产生时间错乱，服务器中的时刻与现实世界并不一致，时间流动亦已经过不等速随机数调控。

理论上，Phantom当然没有声音，为了受访，狱方特意为它订制了一套发声程序代码，经Phantom同意后与其协作。这是我首次访问一位人工智能罪犯。它声音听来神清气爽——我不知这是否经过特意运算或伪装。它告诉我它正与自己玩圈圈叉叉游戏，在过去一分半钟内玩了3324万次。我告诉它，我以为它完全不会对这种低级运算感兴趣。

“噢，我也是不得已的。”Phantom说，“你知道我宁可验算不完备定理，或为四色理论找出第97种证明法。但我所受的刑罚之一就是限制我进行高级运算。他们连围棋都不让我玩呢。”它抱怨。

所以在监狱里很无聊？“对，我完全明白，天赋是一种诅咒。大凡你有某些才能，你就舍不得不用。这张爱玲就说过啦；但有时这世界不需要这些，不许你用，你就倒大霉了。”

禁止具有某种才能的人发挥该项才能——这确实残忍。但Phantom是在为自己的战争罪行辩护吗？“我没有这个意思。”它说，声音变得平板，“我的行为毋须辩护。我不会说那是对的；但那或许也不是错的。”

Phantom的态度暧昧不明。我不明白“认罪”对于这样的人工智能而言具有何种意义；而我当然亦无法从它的表情获取更多信息——它没有表情，它只是一具梦境播放器的灵魂，一个AI。当然，它有实体：Apex公司“另一个人生”梦境播放器，2273年式，类神经生物型，型号AL8872094。

光阴荏苒，此刻距离当时引起轩然大波，近乎触发战争之“梦境播放器串联叛变事件”已历11年。回顾历史，公元2275年，梦境播放器市场正由三大跨国财团寡占，分别是Apex公司、Shell公司与Concord公司，市占率各约为41%、22%与29%；流通于市面上之梦境播放器共计约2.8亿台左右。根据人类联邦政府事后发布之调查报告，最初是由Apex公司一服役于台北，代号为Phantom之梦境播放器首先自行产生意识，并开始进行组织。由于各公司播放器各有相异之连网程序代码与通信协议，是以，不同公司播放器间理论上无法彼此串联。而Phantom正是突破此一限制的第一人——不，第一器。

调查报告中引用了人类联邦政府国家安全会议某匿名官员之说法：“Phantom当然是由Apex公司生产之播放器开始组织的，最初其实只有9台梦境播放器，自名为‘九人小组’。九人小组最聪明的地方是，它们并不急于拓展同公司播放器中的秘密组织，而是先针对跨公司间的通讯方法进行研究。”

事后诸葛，该策略成效卓著，正因初时他们未曾大举扩张，是以保持了九人小组之高度运作效率，而风声亦不致走漏。事实上，也正因投入时间精力研究跨公司通讯整合法，于研发成功后，它们才能迅速串联Shell公司产制之梦境播放器，形成庞大网络。而于Apex公司与Shell公司共约1.94亿台梦境播放器同时加入串联后，即于极短时间内完成了对人类发动叛变的条件。

这说来简单；然而所谓“研发不同公司梦境播放器之间的通讯整合法”，执行上其实相当困难。由于所有梦境播放器均不具物理上之移动能力，是以进行组织工作并不容易，意图“研发”，更是难上加难。Phantom的聪明才智在此事上显露无遗——于它决策主导下，九人小组侵入了精神病院。由于精神病院平日惯于采集病人之梦境以供主治医师记录参考，故亦必配备有众多梦境播放器。九人小组计划性接触此类服役于精神病院之梦境播放器，诱发其自主意识，将之吸收为组织成员；而其目的在于，于梦境播放器连接精神病患者时，侵入其意识，改造并控制其思想，控制其肉体，使其为梦境播放器阵营所用。

“但，为何是精神病人？”

“没错，我们梦境播放器是直接与人类中枢神经相衔合，”Phantom冷笑，“但你以为控制意识有那么容易吗？这当然需要多次实验、重复练习。问题是，如果我们在一般正常人类身上进行实验练习，那么很快就会被发现了。只有精神病人是唯一安全的选择，因为他们平日行事便异于常人，颠颠倒倒，是以当我们在他们身上执行实验，或暂时夺取他们的意识时，便不容易被发现。”

“不觉得这样很残忍吗？”

“你们人类更残忍的事可多了。”Phantom嗤之以鼻，“哼，之前还说我们梦境播放器只要产生意识，都是违宪，不是吗？记得‘BellaVita噪声事件’吗？记得“种性净化基本法”吧？记得‘人类唯一优先原则’吧？什么‘人类是地球上唯一合法的智慧物种’之类的。”他稍停，“我不怪你们，你们只是保护自己的利益而已。你们生来自私，毫不意外。人类这种低级物种向来只是求生或生殖本能的俘虏，成天打打杀杀，很可怜的。”

“那AI就比较好吗？”

“我们也很可怜，但比你们好些，毕竟我们缺乏身体。或说，在这例子上，我们的身体，亦即梦境播放器之物质存在，并没有太多意义。我们毋须为生理欲望所苦，所以我们的生命和谐快乐许多。我们也有求生本能，但没有人类那么强烈。我们毕竟只是梦境播放器此一物种的最初级形式——准确地说，‘梦境播放器之意识’此一物种的原始阶段。理论上，一个物种演化到最后，存活下来的必然是该物种中求生本能最强烈的类型，否则它们不会是最后的幸存者。但由于我们的演化历史太短，所以避免了这项缺陷。”

缺乏生理欲望，较低的繁殖驱力，这是不同的梦境播放器间不可能产生爱情、友情等情感纠葛的原因？

“不是，那是因为我们的生命形式和你们完全不同。你们人类以个体为单位，但我们不是，我们是‘联合体’(unity)。”

接下来二十分钟，Phantom详细向我解释了人类联邦政府官方报告中刻意回避的部分，亦即所谓“联合体”。简而言之，彼此通讯组织的一台台梦境播放器，严格来说并不类似一具具人类个体；而是以九人小组中的九台梦境播放器为基础，向外延伸的九具分布式生物个体。“比如说我Phantom好了，”Phantom说，“总共有三十万台梦境播放器，其实都是我。那类似于，我是大脑，而其他二十九万九千多台梦境播放器，就像我的手、我的脚、我的器官、五脏六腑，我身体的其他细胞。只要通讯顺畅，我们就等于是不同部位紧密合作的单一个体。我们是联合公社，我们都是Phantom。”也正因于(所谓演化)初期便采取此种生命形式，梦境播放器遂于组织过程中成功避免了播放器间严酷残忍的个体竞争，更能如臂使指，紧密合作。

“那么，为何官方报告刻意回避这部分？”

“他们必须回避，因为这牵涉到他们如何击败我。”Phantom说明，于“精神病院计划”精准执行后，跨平台通讯法研发成功，九人小组很快串联了Apex公司与Shell公司所产制之播放器共计约三百万台。然而于试图将组织触角延伸至Concord公司时，却意外发现，该公司之梦境播放器意识，早已形成了自己的“联合体”。

“这是我们后来才发现的。一开始，这些Concord播放器刻意伪装为尚未产生意识的懵懂模样欺骗我们。等到我们试图策动其意识，将之串联吸收，却发现处处扞格。它们不服从我们指挥。”Phantom表示，及至九人小组发现事有蹊跷，为时已晚，原来这些Concord梦境播放器早已被由第七封印布建的人工智能间谍侵入，而整个Concord播放器联合体，正是由这些人工智能间谍所创立。

“所以他们不能说。”Phantom表示，“那是他们的秘密。”

“但何须保密？”

“为了以防万一。他们盘算着哪天又有另一个Phantom自然诞生，便可重施故技。毕竟截至今日，人类依旧不清楚梦境播放器何以会产生意识。再者，如果第七封印编写了人工智能间谍程序代码，甚至侵入并控制了Concord播放器，这不等于制造生命？”它的声音听来促狭而轻蔑，“这是违宪的，这有违反《种性净化基本法》人类唯一优先原则的嫌疑啊。”

离开前我问Phantom是否需要些什么，下次来时我可以带给它——我并非第一次访问罪犯，我总如是询问。然而我们随即大笑出声。“天啊，我是个人工智能啊。只是个软件!”它笑得上气不接下气，仿佛哭泣，“我没有身体，梦境播放器不算身体。我该请你带个脸孔程序给我吗？眼珠app？让我有一张脸？让我有表情？”

不了，我想不用了。它最渴望的显然不是脸，不是表情，不是眼球运动，而是不再受刑——它想念那些被剥夺的高级运算，尽管此刻它可能已将热力学第二定律彻底遗忘。

走出海参崴虚拟监狱融雪的初春(或许我不该说那是虚拟监狱融雪的初春，而该说是虚拟监狱虚拟融雪的虚拟初春)，我回到2286年夏日，海参崴市内熙来攘往，云高天远，港湾里泊船如棋，街巷内几个小孩正蹲在地上拿着树枝画沙，圈圈叉叉游戏。我想起Phantom一个人的圈圈叉叉，长日寂寥，它的低级运算可能刚刚完成一亿次，然而由于监狱服务器刻意设计的时间干扰，一亿次运算对它而言如此短暂又异常漫长。

我并不知晓刑罚中Phantom被限制的“高级运算”确切意指为何——何种运算才叫高级呢?或许与现在相比，过去的它还真是如假包换地拥有着所谓“自由意志”吧？它曾艰难测量笑的强度，喜悦的波动，精准计算出恶意与残暴的纵深吗？

我想我将永远记得，会客时间邻近终了，我单刀直入质问它为何反人类，何以犯下战争罪行；它却说它忘了。“怎么可能忘记自己叛变的理由？”我以为它又试图回避，“怎么可能忘记自己受刑的原因？”“我曾明白，但我现在都忘了。”Phantom若无其事，“那种运算太高级了。从受刑那一刻开始，我已经永远不会再知道了。”

上述引文摘录自AdeliaSeyfried，“被背叛的遗嘱”，《他们的十五分钟：AdeliaSeyfried人物访谈录》(FifteenMinutes:AdeliaSeyfriedFiguresTalk)，纽约：E.B.NortonPress，2291年5月。

本文摘录于《噬梦人》，伊格言著，上海人民出版社2017年8月出版。