观点

宋冰:对人工智能的恐惧,本质是对人的恐惧

2020-07-14 23:12:59

如果人工智能成为人类生活不可或缺的一部分;如果人工智能拥有独立的自由意志;如果人工智发展到足以迫使人类重新架构对整个世界的认识时,人类的未来将面临怎样的机遇和挑战?

在人工智能和数据时代,这些拷问让人类回到哲学思考的起点。《人类简史》作者、历史学家尤瓦尔•赫拉利曾指出,我们不仅在经历技术上的危机,也在经历哲学上的危机。一直以来,近现代工业文明的思维体系在技术舆论和价值观占据主流,面对人工智能、基因编辑、区块链、量子计算等新兴技术,西方哲学界、伦理界也在重新思考数据和智能时代的基础价值观与伦理原则。这时,在中国语境下用中国文明的思想资源探讨人工智能问题也正当其时。

北京大学博古睿研究院中国中心历时一年半,以“人工智能遇见中国哲学家”为主题,组织数次工作坊和研讨会,并邀请人工智能科学家从技术视角对哲学家的思考予以回应,集结成《智能与智慧——人工智能遇见中国哲学家》,该书近日由中信出版社出版。澎湃新闻专访新书主编——博古睿研究院副院长、北大博古睿中心联席主任宋冰。


songbing.png

博古睿研究院副院长、北大博古睿中心联席主任宋冰

在宋冰看来,中国传统哲学中的“儒释道”在不同程度上秉持非人类中心主义的思想脉络。正因为这种非人类中心主义的影响,中国人普遍没有如西方那样产生对超级智能的普遍恐惧,一方面很多中国哲学家并不过高估计人类创造超越性机器智能的理性和能力。

另一方面,即使有超级机器智能的出现,中国的传统思想资源也有足够的包容、开放性。


book.jpg

《智能与智慧——人工智能遇见中国哲学家》

【对话】

澎湃新闻:主编这本书时,你如何关注到哲学与人工智能的联系?为何选择从中国哲学的角度来思考和分析人工智能?

宋冰:人工智能和机器人等前沿科技的突飞猛进在改变人们的日常生活方式的同时,也触发人们思考什么是机器智能,它和人的智能的异同,机器智能和人的智能如何互相启发。顺藤摸瓜,人们自然会问,那人与机器的本质区别是什么?人进化的方向又是什么?在机器智能的时代,我们和机器的关系会是怎样的?它们会以什么方式融入我们的个人与社会生活?智能程序的广泛应用也影响、塑造和引导我们的偏好、价值观和行动。除了隐私的担忧,我们曾经引以自豪的自主性、能动性会荡然无存吗?人和机器是截然两分、互为独立的存在吗?虚拟现实、增强现实技术也刺激人们思考现实的本质是什么?现实世界的本质是数据的呈现吗?在人工智能和数据时代的这些拷问就自然而然地让人类回到了哲学思考的起点。

《人类简史》的作者、历史学家尤瓦尔•赫拉利也曾忖思,“我们不仅仅在经历技术上的危机,也在经历哲学的危机”。“现代世界是建立在17和18世纪的关于人类能动性和个人自由意志等理念上的,但这些概念正在得到前所未有的挑战。”在西方哲学语境中,不少哲学家们开始重新或继续思考一些重大的哲学概念和命题,包括人格(personhood)、自主性、能动性(agency and autonomy),现实的本质、自由意志 (free will)、身心 (mind and body)与意识 (consciousness)。

那么中国儒释道三大思想传统面对智能和数据时代的挑战又会关注并提出什么样的问题呢?当代中国是个受混合思想资源影响和塑造的社会。就前沿科技对个人、社会生活的影响、对前沿科技发展的前瞻和期望,既有和西方社会类似,又有与其不同的理解、担忧和期望。那么这些不同之处的深层次原因是什么?儒释道几大思想资源会如何影响我们对机器智能的理解和期望值?这些思想又会如何影响到中国人工智能发展的方向和伦理规则的制定?这些都是以往学界尚未系统关注的议题。

在欧洲和美洲轰轰烈烈经历前三次工业革命时,中国要么与之擦肩而过、要么跌跌撞撞努力地跟上脚步、要么埋头苦干地学习、模仿、赶超。在科技研发行业和伦理规则制定方面,中国一直是国际准则的学习者、追随者。在当下正在展开的以人工智能、机器人、生物科技、大数据和量子计算等为核心的第四次工业革命当中,中国的科研界和实业界正在与美国、欧洲的同仁们形成共同推动人类科技突破的一股重要力量,同时也逐渐参与到行业和伦理规则制定中。或许这是源于中国文化和实践的思想资源参与国际规则制定的一次历史性机会。我觉得,为解决当下人类面临的诸多共同挑战,我们需要东西方的合力,用更丰富的全球思想资源来思考和应对我们面临的挑战。在这个视角关照下,促进中国思想家和科学家之间的深度沟通和交流就显得格外重要。

澎湃新闻:你如何看待儒释道三大哲学传统对人工智能的不同阐释?分别具有哪些不同的特点?

宋冰:首先需要指出的是,用中国圣贤思想重思科学与技术,以及吸取新科技来丰富中国传统思想资源是个方兴未艾的事业。我们仅仅迈了一小步。我们研究中心也希望聚集更多的思想家,开展这方面的更深入的探讨。

每家思想传统跨度大、内容丰富。即便是受同一传统影响的思想家,因其视角和侧重点不同也会有不同的理解和分析。这种视角、分析的多样化在任何新的领域都是常见的。这也正说明在这一新的哲学与前沿科技融合的思想领域中,大家思想活跃,火花不断,也没有形成所谓主流观点,更没有什么正统学说。这正是思想活力的体现。

另外,我得指出,中国思想家在分析探讨问题时大都也融入了西方哲学的视角。这又是思想多样性的一种表现。中华文明本身就重视不断学习和吸收外来的文化与价值观。这在我们哲学家群体中表现得十分充分。这也是我早些时候说的,当代中国其实是个受混合思想资源启发、影响和塑造的社会。

在我编的《智能与智慧:中国哲学家遇见人工智能》一书中,儒家思想家干春松写到,“基因编辑技术和人工方式复制人的行为,会造成巨大的伦理困境,以血缘作为基础的儒家伦理学更是如此。”他十分担心科技手段会造成血缘角色和社会角色的混乱。也有人担心社会引入养老护理机器人会削弱中国传统的孝道,造成更广泛的对老年人的冷漠等等。

儒家思想家中也有积极拥抱前沿科技的。比方说,安靖如在他的文章中就写到,或许我们日常生活依赖的各种技术和应用,如果设计时融入了儒家的理念和最佳实践,可以帮助我们实现儒家“学以成人”的人文理想。这些应用或许可以帮助人们更好更快地进行品德修持,更好地实现仁、义、礼、智、信,即儒家五大道德追求。

有些儒家学者走得更远,乐于将高级智能引入新的扩充的社会关系中。姚中秋就认为,人类对待人工智能的态度应该是:“人工智能,吾与也,即就像爱自然万物一般。人与人工智能,尤其是强人工智能‘相与’,则可以各自发挥优势,早日成就美善秩序”。而另一位儒家学者李晨阳甚至认为,或许人类应该“关心、爱护人工智能,将其作为道德行为者或者道德行为的施受者来对待。”

参与本书写作的有一位道家学者和一位道教学者。道家认为变化和不可预测性是生命的组成部分。道家学者王蓉蓉在她的文章中指出,“道家既不拒绝也不全盘接受技术的突飞猛进”。更重要的是技术的发展在多大程度上有助于促进人与自然的关系,加深对道的认识。道家并不高估机器的“智能”程度。在谈到生命的本质时,王蓉蓉指出,“气是生命的基础结构和力量……道是通过气表现出来。生命就是气的流动。”道家对人的理解是建立在形、气、神三个元素的协同统一。“神”是统摄人体和生命的心理和精神上的力量。人是精气神的统一体,也是性和命的统一体。从这三个元素的角度看,人工智能或智能机器也许有道的流动性因为它可以在一个反馈循环中自我调适,但是人工智能缺乏“神”,而“神”才是人不同于人工智能的根本所在。换个角度看,人的智能和人工智能的根本区别或许在于人有所谓的“阴阳智能”。阴阳智能的最大特色就是高度的适应性、开放性和包容性,在此间,事物没有绝对的对立性、分立性和确定性。事物不断融合和流转。王蓉蓉认为,人工智能现阶段的发展离阴阳智能的时代还很遥远。

参加本书写作项目的道教学者盖菲的想法或许有些异想天开,天马行空。但是她提出的道教对超级智能的一种可能的解读或许可以帮助我们理解超级智能不至于引起生存级别恐惧的大众心理。她大胆的推测,超级智能出现的可能性或许会给几千年追求长生不老的道教新启发:或许人工智能可以启发人类通过这一特殊的数字“方术”,终于达到“与道合一”的境界。

刘丰河则从大智慧和佛家的视角分析、研判,认为人工智能和机器人的感知能力、计算能力和分析能力仅仅是人的相应功能的延伸。人工智能只是人的意识中的概念,人的意识之外不存在这样的概念。刘丰河进一步认为,我们应该超越世俗层面的讨论与争辩,通过思考人工智能与人的问题,进而了悟宇宙人生的真相,那才是人的生命的终极价值所在。

澎湃新闻:你觉得是什么造成东西方对人工智能的风险理解产生区别?

宋冰:“天地人”是中国固有哲学传统理解人与自然、人与物的基本思想框架。人存在于天地之间,人道与天道相互贯通融合,人居中可参赞化育。对中国正统社会影响最深刻的儒家思想强调从人的社会性、关系性来认识人,理解人。由此可见,在中国传统的哲学思想中,没有一个抽象的独立于环境与各种关系的假设中“人”,我们无法脱离天道、地道、人的社会关系来讨论人。这种“关系理性”就是中国传统思想的基本底色。

融入了中国本土文化的佛家思想则在根本的层面上,把人作为形而上本源的作用的体现,在本源作用的层面上,人与动植物是没有根本区别的,都是本源作用的示现,万物一体。在世俗理解的层面上,人不过是众生的一种。由此可见,儒释道在不同程度上秉持非人类中心主义的思想脉络。

虽然儒释道对人生宇宙的本质看法不一、对社会伦理规范各有侧重,但都没有把人放在一个至高无上的地位,也没有把人与自然和其他存在放到一个相互分离、二元对立、征服与零和竞争的结构中。正因为这种非人类中心主义的影响,一方面很多中国哲学家并不过高估计人类创造超越性机器智能的理性和能力;另一方面,即使有超级机器智能的出现,中国的传统思想资源也有足够的包容、开放性。和超级机器智能共处有何不可?这或许是中国人普遍没有如西方人那样产生对超级人工智能的生存级别的恐惧感的原因之一吧。

另外中国人普遍没有对超级智能出现生存级别的恐惧或许也是得益于融入中国人血液中的对“变”的认识以及与之相关的思维方式和生活态度。赵玲玲指出,《周易》的行上概念强调,宇宙最终的存在不是静态的某种物质,而是“变动不居,周流六虚”的“动”的状态。“动”就是变化、不确定性。《周易》的与时偕行、变通趋时的思想沁入了诸子百家,几千年来中国人耳濡目染,也成就了中国人对“变”和不确定性的接受,以及开放的人文态度。这种对变的接受、应变与顺变的处世态度,或许是中国人对无法预测的前沿科技发展轨迹不至于惶恐不安的另一个原因吧。

澎湃新闻:你觉得结合中国哲学,将对人工智能的发展提供哪些思想帮助?

宋冰:我们在促进科学家和哲学家之间的深度沟通、相互启发、合作等方面刚刚起步,也算是开了风气之先。评判这种大学科融通的试探性的探讨对这两个以前“风马牛不相及”的领域有怎样的推动和影响还为时过早。

我现阶段可以想到的一点,对人工智能研究的启发或许是对“智能”的理解。现有的人工智能的研究十分关注意识,科学家们密切关注脑科学方面的研究成果,希望在揭示人脑运行奥秘的基础上得到启发,促进机器智能的发展。脑科学对人工智能研发的启发和推动,更是得到人工智能企业DeepMind的创始人与科学家们的极力认可。最新例子是DeepMind受到脑科学在动物记忆重现上的研究成果而研发了深度Q网络。他们积极呼吁并推动脑科学与人工智能研究团队的融合。

受到东方哲学的“关系理性”的启发,我在想,与其从人的智能和对人的大脑的规律揭示来思考人机关系,是否可以从中国“关系理性”的视角切入人机关系的思考呢?也就是说,以人工智能和机器人融入社会关系的不同程度来判断机器智能的高下,思考人应该如何接纳和对待超级人工智能。这个想法或许和机器人大专家Rodney Brooks提出的家庭护理机器人测试法有异曲同工之效。不过Brooks的关注点更多的是功能,我在此的关注则是机器人与人的关系以及被人感受到的“情商”,当然二者是不可分的。

这种关系性的思路或许也可以帮助纠正一些思想上的偏差。比方说,这种关系性的方法论也会让人意识到,人工智能的发展、应用和人的意识、人提供的应用场景、人给予机器学习的数据、人对应用和机器的调试完全不可分。这也是说,人工智能和机器人无非是,用刘丰河的话,“人的意识的延伸和嫁接”。我们对人工智能和机器人的恐惧本质上是人对人的恐惧。这一方面,我们可以排除对人工智能本身不切实际的幻想或恐惧,另一方面,人们应该意识到人和人的意识才是一切问题的根源。那么发展人工智能的科学家的思想深度、高度、自觉和智慧程度就成了很关键的问题。我们呼吁人工智能科学家和哲学家、伦理学家沟通对话和互动,也是希望科学家们意识到,他们的工作不仅仅只是技术,而把哲学思维、伦理交给他人。他们应该认识到,科技是哲学理念和人的意识的外在化。

澎湃新闻:你强调和谐与慈悲是前沿科技时代的基础价值观,你觉得人工智能是否应该以人类价值观为基本的框架?

宋冰:我认为借前沿科技对人类深刻的影响之际,我们可以在全球范围内展开一个重思人类基础价值观的机会,可谓天赐良机。当下我们看到的大部分与前沿科技有关的哲学与伦理反思,其底层思维还是近代以来西方占主流地位的人类中心主义、人的主体性、能动性以及主客体的分离等思想。

我提出和谐与慈悲为前沿科技的基础价值观是希望突破人类中心主义,强调万事万物的相关、相连。这个价值观体系是开放性的,可以对不同形式的存在予以包容与吸纳,甚至可以包括未来的超级智能。最重要的是,在这些新的价值观指导下,我也希望人类可以反省自身进化发展中的经验与教训,包容不同文化和价值观念,摈弃零和竞争、你死我活的心态,真正贯彻自救救人的慈悲观。万事万物问题的根儿(症结)在于我们人类。通过人类的自省、自觉,我们才能让我们的“意识延伸和嫁接”,也就是日益发达进步的科技,也变得慈悲、和善。

澎湃新闻:请介绍一下博古睿研究院中国中心的研究内容主要包括哪些方面?最近有哪些新的研究计划

宋冰:博古睿研究院关注当下人类变革时代的新思想、新理念,主要研究方向包括前沿科技与哲学、前沿科技与艺术、数字时代的社会治理、全球治理的新框架和理论体系。我们中国中心的研究尤其注重哲学与文化的视角,并积极促进中西思想家在这些重大全球性议题上的沟通、交流与碰撞。

除了人工智能与哲学相关的项目,中国中心主持的历时两年的“天下是什么”的项目也接近尾声。源于中国历史与哲学思想的“天下”理念,以整个世界为思考、分析和解决问题的单位,强调广泛包容性、互为依存与关系性。中心组织了一系列的工作坊,探讨融入了当代性的“天下”观是否可以为当今世界秩序和国际治理带来新的方法论与国际实践。中心已和中信出版社签约,预计今年下半年出版《什么是天下:东亚语境》一书。

中国中心还在进行的项目包括“数据与智能时代下隐私与社会效益的平衡”、“文学、艺术、历史与媒体中的机械智能叙事”“人工智能与当代艺术”“人工智能与决策理论”等。


澎湃新闻记者:范佳来

责任编辑:梁佳    校对:施鋆