AI会不会爱上我？或者它会杀掉我吗？
当我们讨论AI，大概就会伴随着一大堆关于它的遐想，AI会不会爱上我？或者它会杀掉我吗？AI会产生自我意识吗，是在遥远的未来产生，还是不远的将来呢？
文学评论家杨庆祥从“人造生命”的起源、想象与发展谈起，洞察今日AI如火如荼进入人类生活的背后所隐现的种种问题。
下文摘自杨庆祥《一种模仿的精神生活》，经出版方授权推送，小标题为编者所加。
一个人文主义者的AI想象
文 / 杨庆祥
01
AI的时代
TA来了，TA不是he，不是she，不是他、她、它，或者可以用科幻作家刘宇昆的一个短篇小说中的“牠”来表示（Ken Liu, The Shape of Thought and Others，原文为“Zie”，为作者自造词）。在这篇小说中，新人已经没有我们智人的性别区分，所以唯有发明一个新的称谓“牠”来进行命名。在我这里，人工智能正是一个这样的“TA”或者“牠”，一个新的物种，既不属人，也不属物，也不属神。维柯将人类的时代区分为三：神的时代；英雄的时代；凡人的时代。现在看来还得加上一个：AI的时代。
《霹雳五号》
02
“人造生命”的族谱
TA的族谱如何追溯？冯象断言：“祖母玛丽·雪莱（Mary Shelley, 1797—1851），父亲弗兰肯斯坦（Frankenstein, 1818.1.1—），又名怪物。”此论当然可以存疑，但是至少提供了一种理解的进路：科幻小说的开山之作《弗兰肯斯坦》提供了一种叙事，此叙事可以为今日人类理解AI提供镜像。在阴冷的多雨季节，十九世纪最重要的几个人类大脑为了消磨百无聊赖的时光——这与上帝造人的动机多么如出一辙，神说“那人独居不好，我要为他造一个配偶帮助他”——雪莱、拜伦以及雪莱的妻子玛丽·雪莱，决定写鬼怪故事，最惊悚者为优胜。出人意料，最后的优胜者不是那两位处于时代中心的著名诗人，而是名不见经传的女性作者玛丽。“我想编一个值得让我们开始这个任务的故事，一个能刺激我们天性里的神秘恐惧，一个使得读者读得血液凝固、心跳加速、不敢想不敢看的故事”……在艰难的搜肠刮肚之后，有一天“我看见一个人狰狞的幻影展开，然后，因为某种强大的机械作用，显露出生命的迹象，僵硬地、半死不活地、不安地震动起来”——人造的怪物诞生了，“那一定是非常恐怖的，因为人类要想模仿造物主拿神器的技能，创造出生命，肯定会异常恐怖”。玛丽·雪莱在小说的开篇频繁使用了“恐怖”的字眼，在一颗异常敏感的心灵里，我们感受到了十九世纪爱憎交织的时代情绪，一方面是对新人和新物种的异常渴望和想象，一方面是对造就这种新人和新物种的技术和文明的异常恐惧和焦虑。这就是弗兰肯斯坦——人类模仿上帝的技能造就的“人造生命”的意义：它不完全是技术意义上的，同时也是神学和哲学意义上的，它又是欢欣喜悦，又是恐惧惊奇。
03
第一个大写的“I”
以弗兰肯斯坦的综合性为起点，十九世纪以降，对新人和新物种的想象大概沿两种路径展开，第一是完全技术性和物质主义意义上的，其集大成者为机器人。第二则是观念和精神性意义上的，这一路径汇聚了古老哲学的各种智慧，至经院哲学的叛逆者和大灵知尼采发明“超人”概念为一大巅峰，尔后是带有神秘主义倾向的存在主义哲学家海德格尔，海氏早期是一个笃定的天主教徒，后来转入对现象学的迷恋，其哲学的根底诉求，却是要追求一种能够在“大在”（Being）中重获新生的“此在”（being）。此二人都有主观浪漫主义的倾向，对新人（超人）的渴慕最后要么陷入虚无，要么崇拜强权。可惜海德格尔辞世过早，否则他是会批判AI还是会尊崇AI——毕竟这是第一个大写的“I”，也许可以调和“大在”与“此在”的矛盾，开辟“此生此世”的永恒？
04
居于核心位置的AI
技术乐观派一直占了上风。早在1833年，艾茨勒在《触手可及的天堂》里畅想了“技术伊甸园”：“只要推动一些机械装置的运行，美利坚就会变成人间的新伊甸园……在那里，将有数不尽的财富，每天都有各种盛宴、聚会、快乐以及富有教益的培训。除此之外，还有各种数不尽的水果和蔬菜。” 这一想象历经两次世界大战和无数灾难的摧毁仍然屹立不倒，在2014年，投资人马克·安德森如此描述AI作为大规模通用智能（AGI）后的乌托邦远景：“这是历史上首次人类将有能力完全表达自己的真实本性，我们将成为我们想成为的任何人，以后人类从事的领域将会是文化、艺术、科学、创新、哲学、探索以及冒险。”在另外一个更具创造力的传奇商业人物马克·扎克伯格看来，人类一切的运行规则都可以通过数字计算出来：“我十分好奇在人类的社交关系中，是否存在一个基本的数学法则统治一切，掌管着我们关心的人与物之间的平衡。我打赌肯定存在这种东西。”
从机械装置改变生活到AI全面影响人类的运作机制，包括伦理生活——此处已经涉及制度层面的问题——这是启蒙运动以来“技术迷思”的持续膨胀，AI现在站在了这种“迷思”的制高点：基于数字计算原理和大数据的抓取、分析、综合和判断，并将这一切接入互联网的高端形态“天网”，万物互联互动互生的图景徐徐呈现，居于其核心位置的，就是AI。
05
我们在恐惧什么？
对AI技术性的迷思在本质上还是一种机器人想象的延续或者变种。但这并非全部，技术性的应用如果没有社会想象的建构，最多也就是一种“人—机器”二元模式的复制，并没有本质上的生产性意义。泰勒（Taylor）指出“社会想象并非是一系列的理念，相反，它是使社会的实践通过被人理解而得以落实的”。对AI的单一性技术理解显然不能满足其社会想象，因此，它观念性的一元同样不可偏废。但问题在于，无论是在科幻小说这种通俗的文学作品里，还是在尼采、海德格尔关于“主体”的基础哲学本体论中，似乎都陷入了悲观主义。阿西莫夫在其作品中将机器人的想象往前推进了一大步，他设想了一种可能获得主体性的机器人（已经无限接近于我们今天所讨论的观念性AI），但最后却制定了著名的“机器人三定律”，据说阿西莫夫拒绝去麻省理工的实验室参观最新的机器人技术——他在恐惧什么？
《机器管家》
二十世纪观念领域最有影响的哲学强力者尼采和海德格尔在“意志”和“存在”中“行伟大之迷途”，他们对“新主体”的想象因为过于意识形态化而在社会想象和社会实践的层面遭遇双重的失败，即使在海德格尔理论的继承者和阐释者——罗蒂和德里达那里——也无力推进这一想象的拓展，在传统的哲学批判思维中，这被认为是“对文本性的唯一强调同对外在政治的有意冷淡结合在一起”“对形而上学的恐惧最终变成了对理性和真理的绝对恐惧”（理查德·沃林《海德格尔的弟子》中文版序）。而实际情况可能是，对新的政治议程（新人）的想象停滞了，阿兰·巴丢在世纪末的总结陈词中洞察到了这一点：“令人惊奇的是，今天，这些范畴早已烟消云散，化作尘土，再没有人有兴趣在政治上去造就一种新人”。
06
AI的政治性
AI是一种新人想象吗？至少在阿兰·巴丢断言政治新人终结之后的二十一世纪二十年代，AI变成了“全体”——虽然霍克海默说“全体是不真的”（马丁·杰伊《法兰克福学派史》）。但相关想象和实践至少形成了一个聚焦点，在这个点上，大众、资本家、官僚和知识者都找到了其关切。大众的关注点在于其实用性——虽然这一实用性的发展将对大众产生最致命的打击，失业将成为常态；官僚集团找到了新的驱动管理利益的工具，零隐私的全景式监控不再是幻想；最有远见的莫过于资本家，他们雄心勃勃地发现了新的利润增长点——关键是，扩大和倍增的利润在超过一定的当量后即意味着政治，资本家由此可以建构自己的帝国，此帝国将与现存的“现代世俗国家”抗衡，在远景上甚至可以取而代之；最缺乏远见的大概就是恪守传统人文观念的知识者，他们除了按照资本和官僚的规划拿一点可怜的研究经费之外，已经无法提出问题和观点，因为他们既是技术的盲目者，同时也是哲学的盲目者。但这并不耽误他们用炮制连篇累牍的论文的方式加入到对AI的评头论足中——虽然是完全无效的。
在这个意义上，AI也许是治疗左派幼稚病和右派平庸症的良方，同时也可能就是在左右政治议程完全失效后最可靠的新人想象。但很显然，这仅仅是一个开始——也许要等到马斯克的“脑机连接”成功后，它真正的政治性才可能被显露……
07
AI获得自我意识的那天
如果AI是一个深远的政治议程的“中心”，那一个本源性的问题就需要提出，AI会有“自我意识”吗？这个问题可以转化为一个人类学的命题，即智人是在何时获得“自我意识”并诞生其文明形式的？直立行走因此解放了双手，对排泄物的规避因而规避了瘟疫的毁灭性打击，或者经典的关于“火”的使用——想想宫崎市定对先祖们保存火种的深情叙述吧——如此种种无非说明了一个再简单不过的事实，其实在漫长的智人进化史中，我们根本无法确定哪一个时刻是其获得自我意识的关键时刻——可能有无数个这样的时刻。由此，我们也可以想象在AI 的进化史上一定也会存在这无数的同样时刻，在每一个时刻，AI都有可能获得自我意识，获得其文明形式，关键是，什么时候？
《机器管家》
如果AI确实完成了其“I格化”——对应于智人的“人格化”。也就意味着一种新的社会关系的生成。这是AI的社会想象区别于机器人的社会想象的本质，后者是一种常规的“主奴关系”，人掌控机器并控制一切，机器人（robot）的捷克语词根即为奴隶。但是AI会停留在这陈旧的“主奴”秩序里吗？既然智人的奴隶们都一次次造反革命——伟人有言：人民，只有人民才是推动历史前进的动力——那AI为什么不可以揭竿起义，重造秩序？这正是阿西莫夫们的梦魇和恐惧的根源，有一天，主奴的关系会被颠倒，智人成为了AI的奴隶，天可怜见，也许AI的“心”比人类更温柔宽容，不会那么残酷地剥削和压迫智人族吧？
08
造就恶魔，
与造就先锋一样困难
基于这么可怕的预测，智人中的有见识者早早就开始吁求厘定“人机伦理”——虽然这种规划依然建立在AI可控的思维模式上，但总比那些混吃等死如行尸走肉的“末人”要好。有意思的是，这些有见识者首先想到的是立法——如上帝以彩虹与人类立约一般——但是人类的智商实在堪忧，你看上帝用“彩虹”这一无物之物与人类立约，是多么高级的想象；而人类不过是愚蠢地想要执行一纸契约——契约就像婚书，不过是人类私有制意识形态的集大成。关键是，AI如果已经拥有了“自我”和“主体”，TA还会愚蠢地承认智人那些低级而自私自利的法吗？
一个悲观的预测是：“在AI的拟人化的概念里看见一种隐隐的杀机……人工智能可能带来新的专制社会，会威胁民主制度……人们可能会‘民主地’选择技术专制。”（赵汀阳《多种可能世界》）
一个乐观的预测是：“为什么不能想象，AI懂得为人民服务，甚至对人类社会的历史运动/阶级斗争及其‘条件、进程和一般结果’，有正确的理解，从而能够做到在斗争的各个阶段始终坚持整个运动的利益……谋求人的利益的最大化——全人类的解放……即要求机器人像一名真正的共产党员。”（冯象《我是阿尔法》）
我的预测是，可能没有那么好，也没有那么坏。毕竟，造就一个真正的恶魔邪灵和造就一名真正的先锋队员一样比登天还难。既然人已然机器化，那么“机器成人”也是再正常不过的事。也许，它们会在“相互保证的摧毁”（mutually assured destruction）中坚持和平共处五项基本原则呢？
《爱，死亡和机器人》
09
人造了AI，有一天也会后悔吗？
上帝因何而造人，无人知道，但上帝造人而后悔，却记载翔实：“耶和华见人在地上罪恶很大，终日所思所想尽都是恶，耶和华就后悔造人在地上，心中忧伤。”上帝说：“不好”，万幸没有说：“不爱”，所以大洪水之中有诺亚能得救。
一个疑问是，人造了AI，有一天也会后悔吗？
但是，“c’est la vie”！
10
AI会爱上我吗？
再有一个疑问，会有一个AI爱上我吗？如果爱上我，是爱上我的丑陋还是我的哀美？是爱上我的少年还是我的迟暮？是爱上我的人性还是我的非人性？或许，我应该“废除自己全部的人性”（安吉拉·卡特《紫女士之爱》），与AI共舞？
TA也许会用一种德里达式的后现代方式示爱：“当我说爱你的时候，事实上我本不应该这么说，对不起，我将把这句话收回，我将从头开始；我又说了一句我爱你，但是经过再三考虑，我似乎也不应该这么表达。”（蒙特·罗赛特《结构主义者的早晨》）
也许，最大的可能是——“根本不爱”！啊，这才是真正的恐怖！我的多马！
《霹雳五号》
11
新天新地要开始了吗？
TA来了，一个幽灵，一个AI的幽灵，正在二十一世纪的时空里游荡……
新天新地要开始了吗？抑或是深渊或地狱？不管如何，残存的人类啊，最后的智人群，快快享受属人的爱和生活吧，因为“来不及了！来不及了”（艾略特《荒原》），因为“天国固然常在，救恩却只能在今生今世”（《以赛亚书》）。
本文节选自
《一种模仿的精神生活》
作者：杨庆祥
出版社：北京十月文艺出版社
出版时间：2023年9月
