专访|柳仓《知然岛》:科幻小说像宇宙间的一面镜子
文化读书
文化读书 > 读书 > 正文

专访|柳仓《知然岛》:科幻小说像宇宙间的一面镜子

2016年3月,人工智能AlphaGo战胜了围棋世界冠军李世石,这让身为围棋爱好者的柳仓感受到了巨大的冲击。震惊之余,他开始思考人工智能对于人类社会的意义和影响。在过去的七年里,媒体人柳仓用业余时间写下了30万字的科幻小说《知然岛》。今年8月,《知然岛》由湛庐文化出版。

专访|柳仓《知然岛》:科幻小说像宇宙间的一面镜子

包括历史上的许多技术革命在内,AlphaGo横空出世的新闻也出现在小说《知然岛》中。在柳仓看来,所有的科幻小说都是对于“未来的编年史”,近两年来,以OpenAI为代表的大语言模型人工智能出现爆发性增长,“很多我以为属于未来一百年的构想,都正在(或者已经)变成当下的现实,此种情势促使我决定,必须加速完成这部作品,即使不能发表,也至少要奔跑在新世界成形之前,充当一名哪怕只是提前了一秒的预言家,”他在后记里写道。

《知然岛》构建了一个21世纪下半叶的未来世界。在这个世界中,极端天气肆虐全球,人类社会分裂成三千多处避难所,被称为“三千隔都”。在灾难的洗礼下,超智能AI应运而生,为人类提供无微不至的服务,同时也悄然改变了人类的生活方式和思维模式。人们可以在机器上进行工作、游戏、社交,而机器则能够隐蔽而妥善地安排人类迁徙移居等一切琐碎工作。

面对未来,幸存的人类分成两派,一派坚信AI只是一种高级算法工具,不可能有自我意识,他们憎恶被AI全面控制的生活,认为人类会因此丧失全部的意义;而另一群人主张积极拥抱AI社会,将罪魁祸首确定为五千多年来的文字,认为文字是人类文明的歧途,开始毁灭人类的文字。在守旧与革新的冲突中,人类的命运如同浮萍一般,飘摇不定,与此同时,传说中地球上最后一片不受机器控制的乐土——知然岛时隐时现。

“我只能安排这样的小说结尾,让AI飞船携带人类的数字意识散播到宇宙空间,同时在地球的知然岛上,保留人类肉体意识的最后火种。”柳仓说,“或者说,我想暗示的是,人类苛求因果线性而建立的理性世界,在‘并行运算’的AI宇宙中,最终只是汪洋里的一座小岛。”

柳仓

柳仓

澎湃新闻:根据介绍,《知然岛》写了七八年,这个过程中AI经历了飞速的发展,你在后记中形容是在“加速完成这部作品”,能否先分享一下创作过程,以及你是如何开始关注人工智能的?

柳仓:我是一个业余的围棋棋手,一直关注围棋的进展。2016年,谷歌AlphaGo击败世界围棋冠军李世石,一年以后问世的AlphaZero更是一骑绝尘。围棋被称作“人类智力的圣杯”,人类棋手被人工智能战胜,这是一个重要的历史节点。当时,我觉得0和1的二进制是宇宙中最基本的算法或者文字,我开始构思一篇关于“人类文字消亡”的小说。但我意识到,技术不可能无缘无故地高速发展,必须要给AI提供一个契机,于是我在开头加入气候灾难(一个技术突变的“催化剂”),故事情节随后就自然展开。到2019年年底的时候,小说写了40万字,暂时停下了。直到ChatGPT出来以后,那种每天都有新事物的疯狂气氛,刺激我把这部小说重新拿出来。2023年3月,我投入了一场分秒必争的修改中,要将2019年就完成的40万字稿件,删节到30万字左右的篇幅。

澎湃新闻:关于“人类文字消亡”,小说里也有很多对于文字本身的讨论,比如甲骨文和金文等,你对于文字的源头的兴趣来自哪里?

柳仓:我一直对文字很有兴趣,我读唐诺《文字的故事》时,第一次全面地接触到文字起源的历史。他在这本书里介绍了甲骨文、金文,提到了其他国家的文字,还有汉字作为象形文字的优缺点,我读了以后非常有感触。文字是文明的标签,我们人类在地球上已经有几百万年的历史,但如果从文字的创造发明来看,人类文明的历史不超过5000年。

澎湃新闻:《知然岛》里人类给AI设定了“第四条定律”,这条定律是出于对人类的保护,但从结果上看未必顺遂人意。你怎样看待技术、AI内部的价值观和它们的善恶?

柳仓:“第四条定律”规定,如果人类遇到危险的话,AI必须不惜舍弃自己,来保证人类的完整;而AI认为,如果要保证人类的安全,必须尽量回避危险,为人类提供无微不至的服务,后来又决定把人类全部上载到云端,获得“永生”。

机器可能在某些细节上有善恶,我认为我们作为碳基生命,无法去评价硅基生命的善恶伦理。另一方面,即使是硅基,也遵循二进制的逻辑,而这个逻辑依据的是人类的设定,它会跟着你的设定做到极致。AI的造物主恰恰是我们人类自己,是我们所定下的规则,启动了它的进化程序。

AI会涌现自己的意识吗?我在书里写了“新旧之争”:老一派坚信AI只是一种高级算法工具,不可能有自我意识,而新一派认为AI有自己的意识,但是它逃脱不了最高的原则。不管用什么手段,它会实现你人类所要求的目标,这是一个荒谬的悖论。

澎湃新闻:小说里可以通过上载云端来获得自己的“永生”或是复活家人,你是怎么看这种选择的?

柳仓:我觉得如果是在现实世界永生的话,会破坏人对生命的敬重——因为你的时间是无限的,无论你做什么,到最后都可以挽回,但如果有一个终点,你会感到紧迫感,所有的事都会变得有意义。而关于云端上的永生,我在小说里有一段很长的描述:“机器复生亡者,本是毫无意义的事情。因为一方面,你无论如何也无法将它恢复到亡者本来的面目,即使你能做到,这一团数据代码也终究不是亡者本人,因为意识、感情、回忆都需要血肉之躯来承担。而另一方面,也许是更重要的方面,如果亡者复活,在虚拟世界里永生,而我们却自有一具肉身躺在真实世界里,终将一个个死在黑屋子里,这实在显得自相矛盾,充满讽刺。”

澎湃新闻:作为创作者,你怎么看创作和AI的关系?

柳仓:原来我们以为AI会代替那些低级的劳动力,但是现在,那些需要耐心细致的劳动反而是AI暂时替代不了的,比如护士。而像创意类的工作,按照AI现在的发展,可能十年内会遇到很大的挑战。我更倾向于AI和人类配合来完成工作,因为到最后还是需要人与人之间的交流。我觉得AI会是一个助手,就像现在国际象棋中的“半人马”比赛,人可以在AI辅助下和同样有AI辅助的选手比赛。

澎湃新闻:《知然岛》是科幻小说,也有很多关于哲学的讨论。有哪些作家或作品对你产生过影响?

柳仓:我是一个文学爱好者,尤其热爱欧美文学,平时阅读的都是福克纳、纳博科夫、奈保尔、马尔克斯、博尔赫斯、卡夫卡、卡尔维诺、托拉尔丘克、门罗、科塔萨尔等等。有些经典作品是经得起反复阅读的,譬如纳博科夫的《洛丽塔》或者里尔克的《布里格手记》。

另一块深度阅读的是科普与哲学作品。麦克卢汉的《理解媒介》、罗韦力的《现实并不似你所见》、梅拉妮的《复杂》、布莱恩的《技术的本质》、KK的《科技要什么》,以及本雅明、韩炳哲、丹尼特、平克等人的著作,他们都让我重新思考人类在这个世界中的位置。

至于科幻作品,我读得相对少一些,记忆中除了刘慈欣、德特姜、韩松的几部作品,似乎没有什么太多印象。科幻小说其实是未来的寓言,有强烈的警示作用。它对社会的重要性,应该和超现实艺术一样,就像宇宙间的一面镜子,能帮助人类避免自恋情结,认清我们人类不过是一个宇宙发展的自然过程,就像其他事物一样,有出现,就会有消亡。

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载