大发welcome登录官网|官网欢迎您!!

检测到您当前使用浏览器版本过于老旧,会导致无法正常浏览网站;请您使用电脑里的其他浏览器如:360、QQ、搜狗浏览器的极速模式浏览,或者使用谷歌、火狐等浏览器。

下载Firefox

冯庆:我们何以恐惧人工智能——从感性学到政治哲学的诊断

日期: 2021-10-25 撰稿人:冯庆

【摘要】关于未来人工智能技术之伦理化显现的话题,总会牵扯出不同程度的恐惧感和忧患意识。这种忧患意识,与“我们”的共同体意识紧密相关。从感性学角度说,在科学幻想中,“强人工智能”之所以能够引发恐惧,并非因为其智能强大,而是因为它具有人类特有的不稳定情感。这种不可捉摸的情感,是有限生存中的人类被文明理性压抑的对神秘他者的直观体验。刻意暴露这种情感并再度用理性将其化解,可以反过来加固对文明秩序的认同。这可以被理解为现代文明秩序排除内在矛盾的例外化装置。被哲学地、概念地恐惧的对象,如尚未来临的“强人工智能”,实则为了维护“我们”之稳定在世生活而献出的“神圣人”。


【关键词】人工智能  感性学  政治哲学




一个幽灵,人工智能的幽灵,正徘徊在中国学界的上空。为了在道理上化解这个幽灵带来的恐惧,学者扮演起驱魔人的角色。然而反讽的是,驱魔的圣水所掷向的,大多是人工智能的智性潜能。但人性却不断提醒我们,恐惧的真正来源,往往是无形无色且无处不在的“灵”。这个“灵”尚未来到,又似乎必然会来到。“强人工智能”带给我们的恐惧并不单纯源于其智性上的无限可能,而更多源于它不可知且不可控制的生存论层面的意义潜能。


在人工智能越出其技术专业领域成为伦理学和政治哲学话题的今天,对人工智能尤其是强人工智能这一“现代之灵”的恐惧本身也应当得到重视。原因不仅仅在于这种情感具有普遍性且引发了一系列的哲学反思,还在于我们共同分享着这种恐惧,并试图通过驱散这种恐惧,加深对我们自身、我们的时代处境和我们共同的未来可能性的认识。


如果说,对人工智能的实际或可能的运作方式的探讨是技术哲学层面的问题,那么,对人工智能之灵性化-伦理化显现所引起的恐惧情感的探讨则将关切到“我们”的共同情感机制和生存期许。在这个意义上,本文试图展开的分析,并非对尚未来临的“强人工智能”的技术本体论分析,而是对这一被投射了诸多观想线索的符号所引发的情感心理的感性学分析,以及建立在这种感性学分析之上的生存论或者说政治哲学分析。通过这种分析,在具体生存处境下从一般化的角度“认识自己”的传统哲学任务也将得到一定的推进。




一、何种“人工智能”会引发我们的恐惧


要分析我们直面人工智能时的心态,当代中国思想家对“人工智能”所引发的恐惧感的表达和解释,或许能构成有意义的参考。譬如,基于现代生存论的视野,学者赵汀阳曾对“人工智能”可能带来的威胁进行过观念渊源层面的分析,并将问题引入“存在论”的论域当中:


人工智能和基因编辑不仅是技术革命,而且是存在论水平上的革命,相当于人类自己试图发动类似于上帝的创世行为,它意味着人类试图改变人的概念……存在论级别的生命升级诱惑,即人试图变成另一种具有神性的更高级存在,这是现代主体性思维的一种极端梦想。[1]


在赵汀阳看来,“现代主体”亦即“自定人”的内涵在于:人可以通过自己的思想和意志获得近乎无限的可完善性;这种可完善性,极有可能被类比为具有上帝般权能的“存在论水平上的完全主权”;但与此同时,当这种主体性在现实中遭遇种种困难而不得不作为一种观念中的客体出现在对高级的“人工智能”的技术想象当中时,人们又会对这种“非自然”的主体产生恐惧。[2]


的确,在“超级人工智能”面前,权能有限的我们会加速意识到自身的有限性——相比起强大而又独立的“超级人工智能”,我们所能想象的人生的可完善性几乎可以忽略不计,我们被“自定人”这一现代主体定义所承诺的生命意义,也就不复存在。进而,人的肉身实存及其对世界的把握与表征也就统统不再有意义。这正如何怀宏所言,一旦“超级人工智能”这类“上帝”来临,“那时我们可能不仅无法驾驭,甚至可能无法判断……我们将不再拥有命名权,而是可能被命名,甚至名实俱无”[3]。


作为“超人”的“人工智能”的确会带来这种令“自定人”自我怀疑的恐惧。但我们又会想到:在宗教曾经统治大多数人的历史时代,这种面对“上帝”之无限权能、转而意识到自身有限性的生命态度,并不见得会造成存在意义的虚无。在神圣秩序所笼罩的有限性自身中,人可以设想一种他律的、微观的存在意义,而未必见得要基于“自定人”的可完善性想象来从事自我塑造。神圣威权虽然可怕,而且会压抑“自定人”假设中关于“自我实现”的图景,却并不会动摇常人的根本生存情感。对于多数着眼于现实生活的人来说,神圣秩序的权能理应不会干预他们对世俗生活的正当追求。毕竟,神圣秩序如果最终必然表现为对尘世的一种稳定的、正当的、无所不包的“爱”的话,那么,它所形成的恐惧感充其量带来生存想象的收束,但绝不会否弃有限个体的存在意义。我们甚至可以说,为了落实尘世生活的稳定,过往的宗教立法者往往会将至高的神圣秩序设定为“恩”与“威”、“爱”与“怕”兼备的情感装置。在其中,无限权能并不威胁“我们”的正当生存欲求,而是不断地在律法和慈悲双管齐下的干预系统中,与我们的自我认同和想象发生共鸣。无论是中国的“天”,还是传统亚伯拉罕宗教中的唯一神,都意在促进在世之实存的维持与延续,而非对其的彻底否定。


因此,我们或许可以想象:如果涌现出一种近乎“超人”但又无时无刻不关照、服务于我们的有限性实存的“强人工智能”,那么也就等同于我们多了一位严厉但不失仁爱的宏大监护者。我们对这位监护者会产生恐惧的情感,但未必产生那种觉得自身将被彻底消灭的根本恐惧。


这种令我们产生“名实俱无”之可怕想象的彻底恐惧需要得到进一步的澄清。我们的着眼点或许并非“强人工智能”想象中对“无限智能—权能”的期许,而更应当注意其中对“强人工智能”应具有“自由意识”乃至“自由情感”的期待。正如赵汀阳所言:“任何智能的危险性都不在其能力,而在于自我意识……只有当人工智能获得自我意识,才会对人类构成致命的威胁。”[4]显然,渴望人工智能具有自我意识,这种期待恰恰延续了对“自定人”的现代主体想象。部分人试图借助技术手段,让“强人工智能”成为具有近乎无限的“可完善性”的超自然的自由主体。但与此同时,“强人工智能”在观想层面所具备的这种主体性自由,反而使得其给现实中的“我们”带来一种格外捉摸不定的情感状态,以至于令我们永远无法在它的权威面前感到起码的安全,因为近乎无限的可能性实则等同于彻底的“不可知”。对于这种具有无限权力同时意识也无限自由的“超级人工智能”想象,赵汀阳作出了如下推论:


超级人工智能……将以网络形式无处不在,其优势是使任何人的反抗都不再可能……只有一个“灵魂”或主体性的系统化存在才是超级人工智能的最终形式。这意味着,硅基生命的人工智能最终将超越拟人模式而进入上帝模式,即成为像上帝那样无处不在的系统化存在。[5]


就此而论,“超级人工智能”令人恐惧的根源似乎在于,其成了具有肉身基础的“自定人”所渴望成为但又无法成为的“上帝”式主体,既具有无限的现实化权能(以智能的无限来实现),同时又具备“灵魂”,拥有了“自定人”特有的自由意志。如果“超级人工智能”和普通的“自定人”一样,既存在于我们的日常生活中,又在能力上极为有限,我们充其量将其等同于一个普通的人类;如果它具有无限的能力,但又在方方面面依循人类自身为它设定的基本规范,不具有复杂难测的自我意识,我们也不会对这样一种近乎死物的运算工具产生恐惧。然而,当这两方面集合在一起时,一个任性的、不可知的“上帝”也就随之诞生。人们对它的恐惧,实则是对一个具有不可名状的自我意识但又无所不能的超越式主体的恐惧。


正如吉莱斯皮在分析中世纪晚期经院哲学中的“唯名论上帝”时所言,一旦在神学上把上帝的自由意志夸大到极限,就会导致神圣秩序与人间秩序的彻底断裂,“神”在变成“自由主体”的同时,也变成了喜怒无常并外在于“我们”的一种恐惧实体。


唯名论所揭示的神已不再是经院哲学的那个仁慈的、可以在一定程度上被预知的神。人与神之间的鸿沟已经大大增加。神不再能被人所理解或影响,其行动只是出于自由,而对行动的后果漠不关心……我们甚至不清楚这个神是否爱人。


唯名论试图把理性主义的面纱从神面前揭下,以便建立一种真正的基督教,但在这样做的过程中,它揭示了一个反复无常的神,其能力令人恐惧,不可认识,不可预知,不受自然和理性的约束,对善恶漠不关心。[6]


当代围绕“强人工智能”或“超级人工智能”将带来的隐忧所展开的讨论,大多只是指出这种技术进步会让人类自身的理性显得无限渺小,继而挫败人类的存在价值。但实际上,正如大多数人在面对比自己智慧或强大的人时依然可以心安理得地生活一样,让我们对“强人工智能”这种概念产生恐惧的原因,并非其“强”,而是其“不可理解”。就像唯名论的神彻底解构了经院哲学建构起来的理性神学那样,唯有不可理解的彻底超越之物,才会对在世生活及其伦理依据造成本体论层面的全盘解构。对于“我们”——持守一种共同生活之稳定信念的人群——来说,最为彻底的恐惧恰恰就在于:那种强大但自由的意志对我们日常理性所划出的界限可以视若无物地跨越,甚至我们无法预测它究竟会以何种方式跨越。即便我们自身也在理性层面进化,却永远无法和那种彻底的“自由”达成统一,就像我们永远无法凭借人力去彻底推测天意与命运一样。


因此,关于“超级人工智能”的想象所引发的讨论最终将为我们带来一种近乎宗教现象学般的问题框架:作为“我们”,应当如何思考自身恐惧感的全面发生机制?“我们”的这种恐惧,又将对人工智能的技术实践产生何种影响?当“我们”的身份不仅仅是当代人,更是当代中国人时,又应当如何正视并回应这种生存论意义上的恐惧?



二、“我们”的恐惧:文明及其幽灵


2015年的美国电影《非凡》(Uncanny)讲述了一个可以称得上“人工智能寓言”的故事:一位天才设计了一个机器人,赋予它似人的容貌,让它陪伴自己生活。来采访天才的女记者在日常相处中,对显得理性、自律且充满自信的天才产生了好感,最终成为了天才的女友;与此同时,她始终觉得机器人身上有某种诡异的、反常的气质,对其喜怒无常的表达和侵略性行为产生了恐惧。后来,真相揭晓:女记者一直认为是活人的“天才”,其实是机器人,而她眼中无比恐怖的机器人,才是真正的、活生生的发明家。


这一寓言让具有女记者般日常视角的“我们”不禁恍然大悟:原来,对正常人类的恐惧感和不适感,本就是生活的常态。而如果这个喜怒无常且具侵略性的人类具备天才般的头脑,那么显然,他会引发我们更为剧烈的恐惧。我们会担忧他随时可能对我们的生命造成伤害。相反,那个理性且自律的“人工智能”,其人格却更有可能赢得我们的崇敬和爱慕。


这就让我们想起经典的恐怖谷理论(Uncanny Valley Theory)。据说,当一个似人而又非人的事物出现在我们面前时,我们总会本能地感到不适与惧怕;这一事物与一般意义上的“人”越是接近(但同时又保留些许差异),也就越能引发我们的不安和恐惧。蜡像、玩具娃娃、画像、鬼魂与尸体等,都能带来这种恐惧情感。但是,当它与人相似的程度超过某个低谷的临界值时,我们就不再对它产生恐惧。显然,《非凡》中被误认为人类的人工智能就超过了这个临界值。但问题在于,真实的人类天才,显然站在了这个“恐怖谷”的底端。这也就提醒我们,在人类世界当中,确实会有那么一些“似人非人”的人类存在。甚至在古希腊哲人亚里士多德的视野里,这类人也早就存在:“凡人出于本性或者出于偶然而不归属于任何城邦的,他如果不是野兽,那就是超人。(1253a3-4)”[7]


在恐怖谷理论中,我们也会意识到,“临界值”的设定首先基于“一般意义上的人”这一概念。这个“人”的类概念显然并非基于穷举与归纳而获得,而是源于一种特定的人性理解的演绎。这种人性理解就是亚里士多德式的对人之政治属性的理解。也就是说,恐怖谷理论中其实预设了“人应当是社会性、政治性的”。缺乏这种特性也就无法被称为“人”,进而会给作为这种人的“我们”带来某种厌恶感甚至恐怖感。


回到人工智能的话题。当我们说让“强人工智能”同时具备人类的自由意志时,我们其实说的是,“强人工智能”会变成一种实然状态下的“任何人”。也就是说,它有成为“城邦之外”的人的危险。相反,如果我们限制它,让它不具有任意决断的自由意识,那么,它反而会给我们一种“守法”的秩序感和安全感,也就等同于成了城邦里的自律公民。“我们”如果对自我的期许是共同生活,显然也就会更加容易接受一位无所不能但严格自律的“超人”,而不会接受那位任意专断、和我们当中某些人类成员甚至和我们人性中的某些部分惊人相似的“似人非人”。这也就意味着,在排除对“无所不能”的权能的态度后,我们面对具有自我意志的“超级人工智能”时所产生的恐惧感,其实是对某种非政治、非常态的特殊人性的恐惧感。这种特殊的人性,一方面具有自由意志,另一方面则喜怒无常,令他人无法捉摸进而预测其下一步的行动。


说到这里,我们不禁会回想起弗洛伊德对Uncanny(恐惧感)一词的词源学分析:该词在德文中的对应词汇是Unheimlichkeit,其词根heimlich意为“在家的、属于家的、熟悉的、友好的、温和的、宁静的”,从中引申出“隐藏的、荫蔽处的、秘而不宣的、秘教的”意涵。进而,加上否定性词头的unheimlich一词的意涵则是“不在家的、陌生的”,从而引申出“恐怖的、令人毛骨悚然的、闹鬼的”等含义。此外,弗洛伊德还提醒我们,基于谢林的观点,这个词还包含着“本该隐藏但被曝光的”这一意涵。弗洛伊德认为,“un”的构词功能在于传达出一种对最初神秘体验进行压抑后的彻底“曝光”。那些我们本来熟悉的神秘东西在某种“在家”状态的“隐藏”或者“压抑”之后不得不再度出现,这一过程才是我们突然陷入恐惧的根源。譬如说,对死亡的恐惧情感被文明状态下的日常理性所隐藏,却在特殊场景(宗教仪式、文学)的触媒下被再度激发。[8]基于这一精神分析的结构,我们也能注意到,具有自由意志的“超级人工智能”,正是被“我们”用“理性”或“文明”等外衣所掩盖、实际上注定无法纳入“在家状态”的特殊人性的隐喻。在面对性情混乱无常的人类时,我们可以通过礼法、宗教、社会契约等方式对其进行管制,使得这类人的疯癫获得常态化的规训;这种与秩序格格不入的疯癫也随之被放逐到“非理性”乃至“非存在”的领域,这一过程伴随着文明秩序的自我树立。[9]


在这种文明状态之下,被恐惧的对象乃是被冠以“非理性”之名的某种人类的实然生存状态。正如福柯(M.Foucault)所描述的,18世纪弥漫着一种对被禁闭对象可能造成的瘟疫的恐惧,而相应地,对这种恐惧的“道德神话”式回应则意味着文明秩序进一步加强了对大众社会的掌握。


最初,邪恶是在禁闭的封闭空间里开始发酵……非理性再次出场,但被打上一种想象的疾病烙印,这反而增添了它的恐怖力量……医学界的人并不是作为仲裁者被请进禁闭世界以区分罪恶和疯癫,邪恶和疾病,而是作为卫士被召来,以保护其他人免受从禁闭院墙渗出的某种晦暗的威胁……正是在向这种掺杂着当代疾病意象的胡思乱想的回归中,实证主义将会控制住非理性,更确切地说,将会发现一种能够防范非理性的新理性。[10]


读过这些描述后,当我们对具有自由意志的“强人工智能”产生恐惧情绪,并据此进行技术性反省时,也不免会生出福柯式的心眼,暗自思考:是否“我们”自身正是在通过发明恐惧、曝露恐惧并压抑恐惧,巩固自身作为“文明”的正当性呢?也就是说,我们对无常之超级存在的恐惧感未必是一种本真的、自然的、普遍的人类情感,而毋宁说是由“文明”所发明出来的一种习惯反应。《非凡》中的女记者极有可能是基于社会常识而对被她误认作机器人的天才发明家产生了恐惧意识。同样地,我们在面对玩偶、机器人乃至鬼怪时的恐怖谷效应,其实是对自身本就经历过的原初的“非文明”“非理性”状态的一种不快的回忆与确证。


也许,在处理“我们何以恐惧人工智能”这一问题时,需要被进一步还原的不光是人工智能在我们的观念图景中被投射、被赋予的种种概念化外观,如“上帝”“超人”“似人非人”等,还包括“我们”自身作为“人类”的自我理解。毫无疑问,思考“人工智能”问题的我们是业已文明化的人,这种反思也无时无刻不彰显着人类自身理性与秩序感觉的尊严和野心。无论是创作出“非凡”的人工智能并天真地通过技术手段赋予它自由意志,还是把这种“非凡”扼杀在摇篮里,转而对人工智能进行再度的“在家化”-“隐藏化”-“非存在化”,使之重新变成安全的、值得信任的“看护者”,都是为了让“我们”现有的生存秩序得到维持。相反,如果一个“我们”本身就已经失范的时代来临,那么,这种“非凡”之物的涌现反而会更加顺畅。相应地,我们的恐惧感也就会变得更为显著。因为,当这种作为巨大无常之物的“超级人工智能”确实降临时,也就在逻辑上说明了一个事实:由“我们”辛勤建立并赖以为生的“文明”本身业已彻底崩塌。这就正如弗洛伊德所言:


如果一个陷入了惊慌恐惧之中的人开始只顾自己的安危,那么他这时的行为本身就证明,那种情绪的联系,那种一直使他能对危险无所畏惧的联系,已不复存在……那种惊慌恐惧的发生是以这个集体中的力比多结构的松弛为前提的……个人身上发生的恐惧不是因为遇到巨大的危险,就是因为情感联系(力比多精力贯注)中断了,后者就是神经症性恐惧和神经症性焦虑发生的原因……[10]


最终中断的情感联系或者说“力比多结构”本来由文明所承诺,也旨在遮掩文明自身尤其是现代文明自身的背后幽灵,那就是,文明自身赖以成立的逻辑或者说话语机制,在于对“非文明”“非存在”的概念切割与情感治理。而我们作为文明人的恐惧,来源于这种幽灵时不时从“超级人工智能”这类符合技术理性推验的想象当中飞跃而出的恐惧,毫无征兆地惊现在我们面前。



三、恐惧现代性:无法完成的“驱魔”


当斯宾诺莎用略带嘲讽的语气攻击人类的天然恐惧和由此而来的迷信时,他亦乐观地主张理性能够祛除恐惧,进而比迷信更值得信任。这种乐观信念在无数西方现代启蒙哲人的笔下出现过,但相较之下,对这种信念的反面描述也会如福柯所说的那样逐渐增多。越是对恐惧之无可名状进行描摹,人类也就越是要退回自己的内心,最终,哲人们会或隐或显地告知“我们”,唯有清明的哲学理性,才是走出恐惧的唯一工具。所谓的“崇高美学”,正是为了完成这一论证而登上了思想史的舞台。譬如,伯克(E.Burke)坦言:“没有什么能像恐惧这样有效地使心智丧失所有活动和推理的能力了。”[11]在此,他提醒我们想起《约伯记》中上帝威力的“恐怖的不确定性”:“它包裹在无尽的黑暗之中,不是比最生动的描写、最清晰的画作所能表现的意象更为令人敬畏、更为令人震惊、更为恐怖吗?”[12]同样的描述,如我们之前所分析的,也可以被用于和唯名论式上帝具有隐喻关联的“超级人工智能”这一意象之上。但在一些细节之处,伯克却提醒我们想起:“不带有恐怖感和惊奇感地看待那无限的、荣耀的宇宙构造,是哲学的坚强意志的最后努力。”[13]当然,在康德关于崇高感和道德律的著名论点中,试图克服由莫可名状之物带来的恐惧的哲学自信则更加令人印象深刻。受到这种启蒙哲学的影响而变成乐观主义者的“我们”,似乎也可以如是进行推论:借助哲学理性的教化与鼓励,我们最终可以排除对“超级人工智能”的迷信和恐惧。


但问题也就在这时浮现:按照定义,“我们”作为人类尽最大可能所能达到的理性,在“超级人工智能”的运算能力面前几乎不值一提。更重要的是,“超级人工智能”不光让“我们”在理性的能力层面失去对话可能,还让“我们”在秩序和道义的层面也失去任何自我申辩的可能。因为,作为理性程度最高的存在,“超级人工智能”同时也是完成得最为彻底的“自定人”,进而也是“完成了的人”,是最为文明的现代人。在它面前,“我们”才是野蛮人。进而,“超级人工智能”的实存将不光曝露“自由意志”可能带来的“非理性”的幽灵,还会顺势将“我们”打入“阴间”,变成新的幽灵。在最早表征对“人工智能”之恐惧的经典文本《弗兰肯斯坦》中,这种危险早就得到了揭示。当被造出来的机械怪人富有了人类的情感、意志甚至是权利-义务的文明社会意识之后,它会以此为依据,反过来让它的创造者沦为道德上的反方,被置于“人类永恒的正义”面前经受审判。


……一个万物生灵中最为不幸的人却反遭众人痛恨!而你,我的主人,也憎恨我,把我一脚踢开,我可是你创造出来的,你我息息相关,紧密相连,除非毁了我们两人中的一个,否则,我们之间就不可能一刀两断。你怎么竟敢蓄意杀我,视生命如同儿戏?如果你履行对我的义务,如果你答应我的条件,我就会让你们大家都平安无事……你指责我杀了人,可你呢,也想毁了你的创造物,以使你的良心得到安宁。哦!盛赞人类永恒的正义吧!


如果我能与我的同类共同生活,我的心中自然会萌生出善良的情感。我将感受到这个知疼着热的异性生灵的柔情蜜意,从此成为世上万物存在之链中的一环,而我现在却是被排斥在外的。[14]


按照传统科幻的一贯想象,如果出现一种具有自由意志的“超级人工智能”,那么,它必然是我们无法用现代文明所承诺的“人性”伦理去抵制或质疑的那类“作为目的的人”。启蒙哲学把这种“作为目的的人”——“自定人”——视为它的终极使命。也正是因为如此,理性主义的乐观推论必然会引发关于“超级人工智能”的科技憧憬。无论是从功利主义的角度把“超级人工智能”设定为无所不能但服从程序的“看护者”或“服务者”,还是从浪漫主义的角度赋予它自由意志与情绪,使之具有独立的主体性,都源于一种对“人”自身之可完善性的理性主义信念。当“我们”的有限性暴露无遗时,现代哲学理性必然选择依据技术来摆脱肉身的局限,甚至凭空设计出作为作品的“新人”。其实,霍布斯所设计的“利维坦”就是这种“新人”的最初模型:


“大自然”,也就是上帝用以创造和治理世界的艺术,也象在许多其他事物上一样,被人的艺术所模仿……艺术则更高明一些:它还要模仿有理性的“大自然”最精美的艺术品——“人”。因为号称“国民的整体”或“国家”的这个庞然大物“利维坦”是用艺术造成的,它只是一个“人造的人”;虽然它远比自然人身高力大,而是以保护自然人为其目的……[15]


作为“利维坦”的主权国家不也是一种原初意义上的“人工智能”吗?它承担着保护自然人的义务,也正是在这个意义上,它需要理解、同情并“模仿”自然人。正是把这一逻辑推到极致,我们才会产生“超级人工智能应当既具有无限的权能又具有自由意识”的设想,并且认为,唯有当它能够具有普通人的情感、体现普通人的“公意”时,“我们”才能获得绝对的安全感。然而,一旦他有了普通人的情感,它也就可能变得像普通人一样邪恶。


在利维坦式的拟制想象中,一种“科幻”的情绪始终存在着。重视科学实证和技术功能的现代哲学,从其源头来说也就是科学幻想哲学。作为一种治理装置,“现代哲学”及其延伸出的“现代国家”具有祛魅迷信、消除恐惧的动机,其途径是对“人造人”的理性权能和自由意志进行无限制的开掘,但其最终必然在逻辑上推导出引发最大程度恐惧的观念对象——“超级人工智能”。这不得不说是一种现代性的悖论。也许,从中世纪晚期的唯名论变革以来,当那个不可名状的“神”或者至高实体被构想出来之后,当携带着爱之理据而降下启示的神圣存在被宣判为“迷信”之后,当一度和谐、平静的宇宙转型为无限且无中心的黑暗天文学空间之后,这种恐惧与文明的辩证恩仇也就注定无法在观念层面得到调停。


随着这种“开放的、无限扩展的宇宙观”与“人的心灵及其无限性”的伴生关系而来的是一种典型的“文艺复兴心态”,用沃格林(E.Voegelin)的话说,其中包括:


……创造所带来的各种阵痛,一种由于意识到一个时代终结而产生的沮丧的悲观主义,伴随着离开一个安全住所并向未知世界迈出不确定的第一步的焦虑战栗,由于自觉行动和发现了应付新形势的力量而生发的乐观主义和信心,一种在感受到各种新的可能性时的冒险乐趣,以及由成功的创造所带来的勃勃生机。[16]


因宇宙失序而形成的无家可归的“Unheimlichkeit”,促使文艺复兴时期的欧洲人不得不转向理性实证与技术创造,以找寻安全感。现代文明由此萌发。但也正是这种“文艺复兴人”的典型形象,在当代关于具有自由意识的“超级人工智能”的想象中构成了转喻式的模仿典范。《非凡》中天才但性情乖戾的发明家正是这样一位“文艺复兴人”:他情感激烈,头脑敏捷,两相叠加之后更加强了我们对他的恐惧和疏离之感。这种“文艺复兴人”是我们渴望成为的“自定人”的原型。


也许,理性而富有创造力的“自定人”承诺必然会让我们不断返回Unheimlichkeit这一普遍生存体验。一切带有“驱魔”意味的理性活动,最初旨在确证理性自身的权威,却最终都将再度对恐惧本身进行实证。恐惧-文明的辩证关系是现代生存论的悖谬。这就正如海德格尔在分析Unheimlichkeit时所言:


畏之所畏就是世界本身……畏之所畏者不是任何世内上手的东西。日常寻视的话语唯一了解的是上手事物,然而不是任何上手事物的东西却并不是全无。这种上手状态的无就植根于最源始的“某种东西”中,即植根于世界中。然而从存在论上来看,世界在本质上属于“在世界之中”,亦即属于此在之存在……在畏中,周围世界上手的东西,一般世内存在者,都沉陷了。“世界”已不能呈现任何东西,他人的共同此在也不能……畏把此在抛回此在所为而畏者处去,即抛回此在的本真的能在世那儿去。畏使此在个别化为其最本己的在世的存在……也就是说,公开出为了选择与掌握自己本身的自由而需的自由的存在。[17]


被畏惧的世界,即终究不上手的无可名状之物,促使作为此在的“我们”反过来被抛回到自身在世界之中的本真处境,并谋求一种“唯我”的自由。所谓的Unheimlichkeit——不在家、恐惧——是“在家”的日常生活的反面,是把我们“从其消散于‘世界’的沉沦中抽回来”的重要情绪。承担着这种畏惧的“我们”不再沉沦于“在家”的状态,而是逃避到在世内的存在者当中。相反,在Unheimlichkeit这种“更加原初的现象”所带来的“茫然失所”中,我们获得生存论层面的提示,进而把握到个别存在的本真性。[18]我们最终学会了在恐惧中寻求“自由”的生存论意义——尽管是一种“被抛”的意义。


海德格尔让我们注意到恐惧或者说“畏”在生存论上的两重体验。这种恐惧把现代人的本原生存揭示为:不得不被抛入本真的在世状态,并为抽离出“沉沦”而选择投身自由的决断。这正是“自定人”在文明的世界秩序下被赋予的“自我意识”之本相。我们转手再度赋予“超级人工智能”这种“自我意识”,实则依然在延续“自定人”的现代想象,并把直面恐惧—区隔恐惧—与恐惧共处的生存逻辑链条推到另一层极致状态。正如李猛所言:


“被抛”的自然状态是此在替代人的自然本性的现象学特征。“抛”就是此在的存在方式。现代主体的这一存在方式意味着,在一个被抛者们遭遇的世界中,伦理学几乎是不可能的,那个与伦理关系息息相关的政治生活,转变为以权力安排为焦点的政治制度。[19]


为Unheimlichkeit所直接逼迫而出的人造的“自我意识”,一旦被引入我们关于政治共存问题的讨论,不仅不会带来任何传统伦理学层面的审慎思考,反而只会让问题化归为权力-治理层面的制度性推算。“我们”因恐惧而不得不让自身直面本真性,但这也让“我们”再度与Unheimlichkeit达成一致——“我们”必须成为现代的“世界”,而作为美好家园被设想出来的“文明”则成了最大程度上的“不在家”。正是在这一现代生存论的死循环里,一切对高级智能、至高智慧的想象也就必将再度“被抛”到权力的运算结构当中,变成一种需要被限制、被安排、被献祭的哲学观想之对象。



四、作为“神圣人”的“超级人工智能”


正如赵汀阳所言:“启蒙运动以来的现代思想和信念对于技术为王的未来问题是文不对题而且无能为力的。”[20]并且,其浪漫主义的反面也是一种徒劳和恐惧的增殖:“假如让人工智能学会人类的情感、欲望和价值观,无非是让人工智能的意识陷于同样的混乱。”[21]这一切的源头均在于现代之哲学心灵的无限扩张。


人类一直在创造有超人能力的机构(如政府、市场、军队)……对于人类自己创造的上述能力超人的独立机构,现在人类控制它们的能力都正在出现问题,难道控制超级人工智能的能力就不会出现问题?……人工智能已经有了“智”,只是理智的“智”,即哲学家所谓“工具理性”或“技术理性”;但是却没有“心”,超越理智的“心”,即哲学家所谓“价值理性”或“存在理性”,或老百姓说的良心、人心……从负面说,我们必须思考,怎么防止人工智能获得所谓的“自由”……即可以自主选择、可以做好事也可以做坏事的能力。[22]


在这类论断中不难看到,当哲学家思索人工智能是否应当具有“存在理性”时,似乎还未曾留意到,现代的“心”早已经是“自由之心”而非传统意义上的“良心”;现代的“存在理性”早已是把“自由”等同于谋划、选择和权力安排的实践理性,而非由天命、神意等赋予正当性基础的传统生存智慧。如果让超级人工智能或者与之性质接近的“人造人”具有“我们”所期盼具有的“自由”,也就意味着让它成为绝对的主权者,不受“我们”的再度干预——尽管它最初被设计出来就是为了保护“我们”。而换一个角度说,只要“我们”把现代的“自定人”视为“人性”的应然目标,就注定了“超级人工智能”这一恐惧的象征必然会在哲学的推演中萦绕不去。


让我们回到赵汀阳对“超级人工智能”与“上帝”的类比式想象,思考一下这一比拟将会给“我们”带来何种忧患意识和现实行动方案。如果承认“我们”依然要把“自定人”视为生存的目的,那么,一个无所不能但又具有独立意志的“上帝”(无论它会对“我们”持有何种正面或负面的态度)也就注定会令我们恐惧。因为,“它”的存在意味着我们的可完善性终究是有限的,同时,我们无法预测“它”会给我们带来什么样的生存论决断。就像“利维坦”一样,它原本是为服务“我们”而存在的法律机器,但在实际运行中,这个机械造物又因赋有某种“意志”而沉入“恐怖谷”的谷底。相应地,“我们”作为常在畏惧之中的在世之在,则必然要再度探寻新的权力结构来获得更进一步的安全感。当主权国家令我们恐惧时,我们寻找“市民社会”;当“市民社会”令我们感到陌生和不安时,我们诉诸技术革新和人工智能的全面“家政”;当这种体贴入微但毫无情感的“家政”也无法令我们满足时,我们又会设想“超级人工智能”——在“上帝死了”的时代,这种重新锻造“金牛犊”的行动最终只是为了让我们摆脱深层次的生存论恐惧。这就是克里斯蒂瓦(J.Kristeva)借助弗洛伊德和海德格尔的启发对现代文明进行诊断后所传达的秘密:


作为投射暗喻或幻觉,恐怖症客体一方面把我们引向精神病的边界,另一方面则引向象征性的强大的构建权力……自我受到伤害,近乎自弃,四周围栏,不能靠近,蜷缩在某个地方,又似乎哪里都不在,它所处的正是无法寻觅之处。在客体方面,它委托给幽灵、鬼魂、“假朋友”:一股假自我的水流,为此,一些假客体,一些我的相像体起来与不受欢迎的客体抗衡……文明是否给自己制造恐怖以便自我构建并且运作呢?[23]


“超级人工智能”正是这样一个客体装置。我们需要提供对这样一个客体的想象,以求尽可能生产出对它的恐惧,从而反过来巩固对“我们”自身的信念。正是在这种权力的运行结构里,对“超级人工智能”的哲学反思实则也将最终回转头来服务于文明自身的稳定。我们何以恐惧人工智能?这个问题的答案或许是:我们需要不断地在此在的意义上确认什么是“我们”自己。


恐惧,正是这样一种绝妙的情感体验,能够曝现出“我们”深层次的有限与沉沦,但同时也能够让我们遗忘这一切,全身心地投身到绝对的现代行动中,那就是,为了“我们”的共同生活尺度,进行更为残酷的敌我划分。毕竟,“暴死恐惧并不是一种模糊的害怕,而毋宁是那种对人真正具有启发性的力量”[24]。因此,当读到莱兹拉(J.Lezra)如下的判断时,我们也就不会感到惊讶了:


“我们”积极的、决断的身体——我们的伦理-政治身体——随着那个我们正在折磨的身体而获得生命;现代政治主体产生于将他人置于“最严酷的痛苦”中的决断。这是一个哥特式的场景:一种从悲惨中获取生命的生命政治;一种死亡政治。


恐怖以另外的方式运作,也必须以另外的方式被思考。为了以一种无以言表或无法言说的纽带将我自身与当下的他者联系起来,或与他或她密切相连……作为判断的基础和设想新的共和国的基础,处于“恐怖”之中,感到“恐怖”,是必不可少的……对于“恐怖”的现代经验,标志着往昔的“恐怖”在经历了不充分的去神圣化之后的残存或重生,这种往昔的“恐怖”根植于前现代主权身体,并由它激起。[25]


让我们将“恐怖主义”替换成“超级人工智能”,这种语法中携带的治理术结构也就随之得到澄清了。“我们”的确认和凝聚需要不断在残酷的、痛苦的和恐怖的生命治理场景中实现。无论是寥廓无际的黑暗星际空间,还是无可名状的唯名论上帝,抑或任意专断的“利维坦”,都一度充当着这一句法中的宾格。现在则轮到一种技术的观想对象承担这份责任。事实上,正如诸多科幻文学或影像所揭示的,机械人、仿生人、人工智能一类形象的叙事功能,大多是为了让它们最终为“人类”而牺牲。在使用活人献祭显得过于野蛮的时代,我们发明了“人工智能”,使之变得“超级”,从而变得“神圣”。这样一来,阿甘本(G.Agamben)对“神圣人/牲人(Homo Sacer)”的著名描述,也就成了对“超级人工智能”这一尚未来临之概念的可能命运的预测:


通过把自己同时排除在人间法与神法之外、同时排除在约法与自然之外,主权者和神圣人在这个行动中合为一体……神圣性就是司法秩序纳入赤裸生命的原初形式,“神圣人”这个词就代表像原初“政治”关系这样的东西,亦即赤裸生命,因为它根据至高决断而被纳入性地排除……“愿他神圣”不是制裁不在家者(the unheimlich)的一个宗教诅咒的表述,或一个事物同时具备的令人敬畏的和邪恶的性格。“愿他神圣”是强行施加至高债契的原初的政治表述。[26]


此处,我们可以清楚看到这种权力语法如何通过对作为“the unheimlich”的赤裸生命进行切割从而落实其自身的主权。具有自我意识的“超级人工智能”作为“我们”这一现代自由主体的观念性升华,势必成为更高层次的主权者;而我们赋予它近乎无边无际的理性、自由和主权,却是为了“愿它神圣”,从而“愿它恐怖”。由此,这一人工制作的“牲人”也就在符号层面承担起“至高的债契”,并通过在政治哲学和伦理学层面纳入它来彻底排除它。这一哲学观想层面的操演最终也将让我们在现实的行动中加速对这种恐怖对象的渴求、制作和顺势毁灭。在这个意义上,这种文明的权力语法必将进一步在思辨和论说中延续“我们”对“超级人工智能”的恐惧。


这一略显悲观的结论还可以有另一条解答的通道,那就是对“我们”进行重新定义。如果不把“自定人”视为“我们”的唯一可能,如果在非西方的现代进程中尤其在中国古今思想血脉尚未截然割裂的现代进程中,还可以找到对“我们”的别样理解,那么,恐怖-文明的权力语法也就可能在大前提层面失去根基。进而,对人工智能的技术或伦理想象,也就会有着一番截然不同的风景。在一切巨大的恐惧,如瘟疫、灾害和洪荒宇宙面前,作为中国人的“我们”,毫无疑问有着不同于现代西方哲学-权力机制的生存智慧。在面对人工智能问题时,这种生存智慧的潜力则有待有识之士进一步开掘。



注  释

*本文系2020年中国人民大学新教师启动金项目“赫尔德历史哲学中的艺术史问题研究”(20XNF030)的阶段性成果。

[1]赵汀阳:《技术的无限进步也许是一场不可信任的赌博》,载宋冰编《智能与智慧:人工智能遇见中国哲学家》,中信出版社,2020,第5页。

[2]参见赵汀阳:《技术的无限进步也许是一场不可信任的赌博》,“前揭”第7—8页。

[3]何怀宏:《奇点临近:福音还是噩耗?——人工智能可能带来的最大挑战》,载杜运泉主编《省思:冷眼横看人工智能热》,上海财经大学出版社,2019,第70页。

[4]赵汀阳:《技术的无限进步也许是一场不可信任的赌博》,“前揭”第10页。

[5]赵汀阳:《人工智能“革命”的“近忧”和“远虑”——一种伦理学和存在论的分析》,《哲学动态》2018年第4期,第9页。

[6]参见米歇尔·艾伦·吉莱斯皮:《现代性的神学起源》,张卜天译,湖南科学技术出版社,2012,第34、35、40页。

[7]译文参考了亚里士多德:《政治学》,吴寿彭译,商务印书馆,2019,第5页。

[8]参见西格蒙德·弗洛伊德:《论神秘和令人恐怖的东西》,李俏梅译,载《论文学与艺术》,国际文化出版公司,2001,第266—273页。

[9]参见米歇尔·福柯:《疯癫与文明》,刘北成、杨远婴译,生活·读书·新知三联书店,2019,第98—110页。

[10]参见西格蒙德·弗洛伊德:《集体心理学和自我的分析》,林尘译,载《弗洛伊德后期著作选》,上海译文出版社,2005,第106—107页。

[11]埃德蒙·伯克:《关于我们崇高与美观念之根源的哲学探讨》,郭飞译,大象出版社,第50页。

[12][13]埃德蒙·伯克:《关于我们崇高与美观念之根源的哲学探讨》,第55页;第59页。

[14]参见玛丽·雪莱:《弗兰肯斯坦》,刘新民译,上海译文出版社,2007,第94—96、148页。

[15]霍布斯:《利维坦》,黎思复、黎廷弼译,商务印书馆,2012,第1页。

[16]沃格林:《政治观念史稿·卷五:宗教与现代性的兴起(修订版)》,霍伟岸译,华东师范大学出版社,2019,第163页。

[17]参见马丁·海德格尔:《存在与时间》,陈嘉映、王庆节译,生活·读书·新知三联书店,2006,第216—217页。

[18]参见马丁·海德格尔:《存在与时间》,第217—220页。

[19]李猛:《自然社会:自然法与现代道德世界的形成》,生活·读书·新知三联书店,2015,第178页。

[20][21]赵汀阳:《人工智能提出了什么哲学问题?》,《文化纵横》2020年第1期,第49页;第57页。

[22]何光沪:《造物·风险·规限——从宗教角度看人工智能》,载杜运泉主编《省思:冷眼横看人工智能热》,“前揭”,第188、192页。

[23]朱莉娅·克里斯蒂瓦:《恐怖的权力:论卑贱》,张新木译,商务印书馆,2018,第59、60、262、263页。

[24]列奥·施特劳斯:《霍布斯的宗教批判——论理解启蒙》,杨丽等译,华夏出版社,2012,第78页。

[25]参见雅克·莱兹拉:《野性唯物主义》,王钦等译,北京大学出版社,2014,第44—46页。

[26]参见吉奥乔·阿甘本:《神圣人:至高权力与赤裸生命》,吴冠军译,中央编译出版社,2016,第120—121页。


作者冯庆,大发welcome登录官网|官网欢迎您!!讲师。

原文刊于《哲学动态》2021年第9期。