《人之彼岸》:当我们照AI这面镜子时 | 微思客周末图书馆

s29588977

重木微思客撰稿人,编辑


就如作者在前言中所说,这是一部主题小说集,而所涉及的便是人与AI的互动。这些故事在时间进程中由近及远,通过在一定现实实践经验和科学基础上的推论与想象,构造出随着AI的普及和进一步发展,人类可能由此面临的种种状况。当然,就如我们一直应该注意的,即科幻小说无论如何还是虚构故事,因此不能把它当科学来看。就如这部集子中的六部中短篇小说,与作者特意收在其后的两篇谈论AI的专题文章不同。就我个人的阅读体验来看,最后两篇的非科幻思考更引人瞩目。因为作者以其十分清晰的笔触,谈论了当下我们对于AI的一系列好奇、疑惑和不安,以及分析了它与人类在许多方面的异同。具有宝贵的科普价值。

六篇长短不一的小说都是作者自身疑问的产物,如作者在前言所介绍的《永生医院》、《爱的问题》以及《人之岛》都是对于一个特定问题的思考。因此我们可以说,这些小说有着十分鲜明的主题意识,然后根据其建构一个展示它的故事。这或许也就是我们在阅读中所感觉到的那种简略之感的来源,即这些小说很多时候缺少过分细腻的打磨,而只是为了一个鲜明的目的而存在。因此,故事本身就屈居下位而显得很薄弱。这个问题似乎是当下许多科幻故事的典型通病,虽然也是陈词滥调,但却十分值得注意。因此在这里提及一笔。

作者在前言最后解释书名“人之彼岸”的意涵,即“人在此岸,AI在彼岸,对彼岸的遥望让我们关照此岸”。在我看来,这不仅是许多科幻小说的目的之一,也是人类虚构的许多故事的最主要目的,即建构一个“他者”,然后从这个与我们有联系,又被我们当做有别于我们的东西身上,看到自我的身影。这一种二元对立是人类建构自我认同和自我意识的重要手段,而当我们如今讨论AI时,我们讨论的难道依旧不还是我们对于自身的种种疑惑吗?我记得刘慈欣曾在接受采访时指出,作为人类这一“万物灵长”群体,从未真正地面对过“他者”。这个“他者”并非那些被我们认为智力低下或是完全没有智慧的动植物,而是另一种建构出文明的、来自于地球之外的高等生物。因此,当我们谈论AI这个如今可能最接近这一“外星生物”的新兴“物种”时,人类又发现了一面新的镜子。但有趣的是,我们从其中所看到的却又往往还是我们曾经一直所思考的问题,AI这面镜子在很大程度上只不过是把它从一个新的视角展现而已。

二 

在第一篇小说《你在哪里》中,人类通过智能机器建造出多个自己分身,而这些分身在一些领域和场合中的表现也都令人满意,却唯独在面对与亲密之人的互动与交流中出现问题。小说主人公任毅的误区和《乾坤和亚力》中的AI乾坤犯了一样的错误,即他们都忽视了人类除了身体这一有机体之外,还存在着由大脑所建构的一系列形而上世界以及诸多复杂的情感。作者在两篇非科幻文章中对此作了详细的生物学分析,寻找出我们内在情感以及主观意识来源的生物基础。这一解释或许是正确的,或是不完全的。因为围绕这一问题所产生的讨论不仅只局限在生物学和医学中,而且在哲学与文学中有着更为漫长的历史。

在东西方的历史中,于公元前便已经围绕着人类建构出了一系列不存在的东西。以雅思贝尔斯的“轴心时代”观念来看,即于这一阶段(公元前500年左右)东西方诸地的文明产生了明显的突破,而其典型特征便是一个形而上世界的产生。无论是柏拉图的完美理念世界,儒家的天道与心,或是印度宗教的彼岸世界,都在此时基本定型,并由此影响其后的文化发展。当人们讨论AI时,我们时常所涉及的一系列词汇,如“灵魂”、“精神”、“心灵”和“感觉”等等也大都于这一时期所建构的形而上世界有关。这是一系列虚无缥缈的东西,就好像我们始终无法肯定“灵魂”为何物一样。它是某种“无”,某种充盈的空洞和缺席的在场。而这一复杂、混乱与矛盾本身则构建了人类的内在心灵。

在《爱的问题》中,AI的问题就如程颐对于王安石思想的指责,即后者依旧是“饶塔说相轮”,而未能直入塔中获得真理。AI通过记录女孩身体各种的生物性反应,以此给出理性的解决方案,但最终这些方案都未能达到预期的结果,反而把事情弄得更糟。作者在《爱的问题》中所产生的疑惑是如果只“用外界的指标衡量,人工智能能否理解一个人的内在情感”,在这个故事里答案显然是否定的。而回答这个疑惑其实也很简单(作者在非科幻的两篇思考中从生物学的角度解释了为什么),即人类的内心情感并非只有一系列生物化学因素所构成与作用的结果。即使是那些脑内的神经或许也在很大程度上无法彻底地说明这一问题。以赛亚.柏林指出,人类的内心是复杂且充满冲突的,而也正是这样的冲突和矛盾使得人类的自由成为可能。

有趣的是,当我们讨论AI时,我们为其赋予的一个重要特点,即它对于理性与逻辑的(超能)运用,而这一点不正是人类社会自启蒙运动之后便十分推崇的某种自然的人类本质吗?但为何当它在AI身上得以实现之时,我们却对此既紧张又不安呢?德国法兰克福学派指出,现代社会所极力发展的是韦伯所谓的工具理性,它的最大特征便是目的性和工具性,由此甚至不惜以人作为手段,因而违反了康德的教诲,即人是目的,而非手段。AI的优势便在于其工具理性的强势发展,因此它的局限也便在此形成。于是,我们再次从这一人工智能身上看到人类自身社会与思想发展中所存在的问题,而对其进行反思。这一点,在《战车中的人》这篇故事中亦可以窥见一二。

所谓,一切问题归根到底都是哲学问题,这一论断虽然粗简,但却也有些道理。例如在《永生医院》这个故事中,作者讨论的问题与日本动画电影《攻壳机动队》所讨论的主题有相似之处,即随着科技能够通过更换我们身体中的病变或衰老,甚至整个肉体时,我们还是我们吗?这个问题在漫长的哲学讨论中历久弥新。在英国当代哲学家德里克.帕菲特的《理与人》中,他通过对于忒修斯之船这一古老问题的再思考,讨论自我同一性问题。在《永生医院》中,更换的除身体之外,其他一切都完好如初,如记忆、习惯和观念。因此,如果我们事前对此一无所知,便可能不会发现有异。所以,让钱睿无法放下的不就是一个观念上的执着吗?但情况又或许没这么简单,因为人是有情感的,也是有意识的,正是这两点的存在(或许还得加上传统历史文化中所形成的观念),使得我们依旧无法面对这一状况。这一情节在《银翼杀手2049》中也曾出现,当德卡德面对一个与瑞秋一模一样的复制人时,他依旧清醒地知晓这里的虚假。

在《银翼杀手2049》中,K对于存在于自己身体中那一段记忆的坚信,使他产生了对其自我意识的感知。记忆本身不仅仅只是对于过去实践的记录,它同时还担当着某种镜子的目的,即由此反射出你在其中看到的模糊面貌而产生一探究竟的根本动力。在普鲁斯特和莫迪亚诺的小说中,对于旧日记忆的追寻、反复和诘问,不正是构成自我认知的重要过程吗?

在《永生医院》中,如果不是他者的告知,钱睿始终都不得知晓自己的复制人身份。因此,这里所引起的另一个问题便是,我们如何确定我们是我们呢?在《永生医院》中,作者借助母亲之口对钱睿说:“周围其他人都知道你是你就行了”。但很显然,这只是确定中的一极;而同样重要的另一极便在于自己得知道自己是谁。只有当这一内、外确定的同时达成,一个人的自我意识才会是健全的,否则便会因为缺少一极而存在缺憾。钱睿知道自己是谁,但是他人所知道的他是谁和他自己所知是存在出入的,因此钱睿的自我身份始终是不稳定而存有危机的。我们有时会误认了自己,就好像我们会误认他人一样。钱睿误认了自己是“人”,便是整篇小说的最大悬念和叙事动力。

这样的自我认知时常因为虚无缥缈而往往遭受质疑,在《人之岛》中,宙斯便指出人类社会所产生的一系列如自由、人权以及理想这些观念的虚构性,并且由于其缺少严格的理性逻辑推理而往往产生灾难性的后果。但——依旧是以赛亚.柏林在研究浪漫主义思想时所指出——悲剧本身就是寓居于人类自由选择的必然结果之中。宙斯误解了人类对于理性——工具理性——的理解,也误解了人类生活在其中的一系列文物典章制度本身所寄居的一整套理念基础。从先秦开始,儒家便坚信人类的社会制度是摹拟天道的秩序而建构的,因而在其中存在着不言自明的真理;在现代的自由民主制度中,虽然所秉持的理念与古不同,但这一模式却一以贯之。而故事里的这些超级人工智能,则因为依旧困于自身的局限而无法理解人类的这一部分复杂。

在德国浪漫主义思潮中诞生的许多理念与思想,都带有强烈的保守性质,即对于情感、想象和感受的注重,对于传统和怀旧的执着,这一切都与法国启蒙思想的核心理念相悖。但浪漫主义思潮却始终是人类思想中的重要一系(无论东西方都如此)。而当我们如今讨论人与AI时,我们发现许多人再次发掘的资源早已存在于浪漫主义观念中。在中国传统文化中,先秦道家思想最引人入胜的便是其总是以反面来看待事物,如老子所谓的“埏植以为器,当其无有器之用。凿户牖以为室,当其无,有室之用。故有之以为利,无之以为用。”我们甚至可以说,界定人的特殊并非来源于“有”,而是来源于“无”;并非是“同”,而是“异”。

在《人之岛》中,对于完美和自由的冲突同样古来有之。从儒家渴望的“天下大同”,基督教所赞美的“普天之下皆兄弟姐妹”,以及18世纪的乌托邦思想,在20世纪风起云涌的共产主义都内涵了这一对冲突。它们都在寻求一种对于完美和自由的兼容状态,以此回到人们所虚构的最初完满之中。卡尔.波普尔通过对于历史决定论的批判,揭露这一伟大理想中所蕴涵的极权因素。柏林则从根本上质疑所有这些一元论思想,指出其是对于自由的背叛。他借用康德所谓的“人性这根曲木决然造不出任何笔直的东西”进一步强调这一点。而与AI相比,正是因为人性是“曲木”而非直木,因此使得所有的行为中都存在着无数的曲折和幽微,从而产生更多的可能与选择,由此得以丰富对于生命和自我的感知。所谓“此事古难全”,正是因为人类对于那些不可为之事的过分执着而极端,导致了对于人性这一“曲木”的直接伤害,而造成毁灭性破坏。作者在最后两篇非科幻思考中透露其所担心的便是,人类对于工具理性的过分追求而导致自身“机器化”,从而失去“人性”。我们的复杂、错误、曲折和不完满这一系列我们所希望摆脱的东西,或许正是定义我们还是我们的根基性元素。

而当我们面对AI这面崭新的镜子时,看到的或许便是人性这根“曲木”上的种种缺憾,而从中再次认识和思考自己。相比于在此时担心AI占领或奴役人类,前者或许更值得当下的我们重视。而这六篇故事,便会是很好的开始。

编辑:圆圆


wethinker2014@163.com

微思客重视版权保护,本文由微思客编辑重木撰写,部分图源网络,若需转载,请联系微思客。感谢中信出版社编辑老师对本栏目一直以来的支持。

微思客致力于推广公共阅读。如有出版社希望寻求合作,刊发书摘、导读等,欢迎与微思客团队联络。

微思客传媒同样欢迎读者投稿书评。

Advertisements

发表评论

Fill in your details below or click an icon to log in:

WordPress.com 徽标

You are commenting using your WordPress.com account. Log Out /  更改 )

Google+ photo

You are commenting using your Google+ account. Log Out /  更改 )

Twitter picture

You are commenting using your Twitter account. Log Out /  更改 )

Facebook photo

You are commenting using your Facebook account. Log Out /  更改 )

Connecting to %s