人文的机器,硅基的人类?

日期
2017-12-27

地点:
北京大学静园二园

已完结

人文的机器,硅基的人类?


人类社会的每一次重大技术变革,都会导致新领域的科学革命。互联网、大数据与人工智能对人类的影响,已经远远超过了以往任何一次科技革命。在科技进展不断加速、新概念接连产生的冲击下,人们渴望了解前沿科技现状和未来发展方向是什么?如何应对新技术变革带来的挑战?新技术带给我们的人文思考是什么?

北京大学人文社会科学研究院(下文简称文研院)、博古睿研究院(Berggruen Institute)中国中心,邀请中国科技大学陈小平教授、中国社会科学院哲学研究所赵汀阳研究员,展开了一场思想激荡的跨领域对话。作为中国仿人服务机器人“佳佳的父亲”,陈小平带领的研究团队近几年致力于把服务型机器人创新研究与产业化紧密结合,以让佳佳走进“千家万户”为实践目标;赵汀阳是“天下理论”提出者,代表作品有《天下的当代性》、《第一哲学的支点》等。

中国社会科学院哲学研究所研究员赵汀阳(左),中国科技大学教授、中国仿人服务机器人“佳佳的父亲”陈小平(右)


陈小平——“从精确性到容差性:人工智能‘二时代’的科学及人文挑战”

     首先,人工智能包括技术路线和工程路线两条路线。技术路线主要是通过逻辑学、数据科学、计算机科学,研究“良定义的”(well-defined)“确定性问题”(certain problems);而工程路线的起点和终点都是物理空间(现实世界),在信息科学、智能科学的推动下,实现感知、理解、决策,最后由机器人学实现机器的自主行动。在这一循环中,“劣定义的”(ill-defined)“非确定性问题”(uncertain problems)就是其中需要解决的主要挑战和难点。科学重在发现,技术实现发明,工程设计和工程实施完成建造,这是关于科学、技术和工程的分工。其中,科学、技术通过建模等完成了从“不精确”到“精确”单向的转化,而工程项目则基于“可证正确”的工程方法论,交互地实现了从“精确”到“不精确”的落地。在工程(包括规范制定、规范应用、工程设计和工程实施)中,涉及大量超越科学和技术现有成果有效范围的“不确定性因素”,必须借助于人的普遍知识、经验和综合技能加以解决。

     其次,在人类思维的两大范式中,公理化逻辑、数学分析、概率论、决策论等西学思维传统凸显“精确性”;而中国思维特点在技术层面,具有“灵活性”的特点,如操作的灵巧性、决策的灵活性、观察的灵敏性。中国思维特点在科学层面,强调“容差性”。其技术表现为灵活性,工程表现为“可证正确”的工程方法论,日常表现为“差不多就行”,哲理表现为“求大同存小异”等。而如何定义“差”?如何定义“不多”?如何做到“差不多”?是目前这一领域亟待明确的范畴。

     关于人工科学的两种未来和人机社会的两种前途,新工程路线的未来将是颠覆式发展,中国思维将首次“科学化”并进入世界主流知识运行体系,大量真实需求得到满足,但风险较大;而技术路线的未来,将是增量式发展,世界主流知识体系继续沿袭西学传统,大量真实需求无法满足,但风险较小。此外,新工程路线的未来将面临信息安全风险、操作安全风险以及较大的“失控”风险;而技术路线的未来将面临信息安全风险和较小的“失控”风险。

     传统机器人依靠精确性,传统人工智能依赖确定性。为解决当代人工智能面临的一系列科学挑战问题,我们试图把中国文化中“差不多”的思路“科学化”,通过用容差性处理不确定性,强调模型与周遭真实“非理想”环境的灵活对接。
 


赵汀阳——“人工智能”需要弄清的三个问题

     当前谈论人工智能威胁论,只能是“杞人忧天”,但若无“远虑”,必有“近忧”。围绕“人工智能”需要弄清的三个问题,即人类需要人工智能替我们干活,还是需要人工智能替我们思考?当人工智能完成上述两项任务后,人类生活会更好吗?当人工智能有一天超越人类慧后,它们需要我们吗?

    对人工智能的“远虑”,我在2016年5期《世界哲学》的《终极问题:智能的分叉》一文中,有过较为深入的思考。一句话概括,就是人工智能不是一个简单的技术问题,它或将引发人类的存在升级。

     而对于“近忧”,四个当前亟需思考的问题:“自动驾驶悖论”“失业问题”“人对人的关系异化”“人工智能武器”。无人驾驶车有一个悖论,即无人驾驶车如何选择以下仅有两个选项的紧急情况,直行撞死前面违规的行人还是紧急避让导致乘车人的死亡。这不仅是伦理困境,也是法律难题,并面临消费市场的选择。

     人工智能可能带来的失业问题是一个重要的现实问题。赫拉利在《未来简史》中讲了这个问题,并引发了广泛的讨论。目前想象的普遍社会福利(“国民基本收入方案”,如芬兰已经出台了一些规划)并没有正面回答失业问题,而只是回答了收入和分配问题。“失业”只是表面,实质是使人失去价值,使生活失去意义。人开始非人化。技术对人的解放并不是人回归自然的机会,而是人的异化。

     对由人工智能导致的失业,可能会带来人与人之间关系的异化。与人的异化相比,人对人关系的异化更为危险。假如人工智能未来提供给人类生活所必须的物质和福利,那么人类生存所有的价值和意义将来全部来自于技术,一切都由技术来满足。这样,每一个人都只需要技术,而不是他人,人对人就失去了意义,换句话说,人就不再是人的意义的分享者。

     最有杀伤力的武器必须是人工智能无法操作的,否则人工智能就变成人类的主人了。要为人工智能设置限度的条件,如“世界宪法”,首先需要解决集体理性的问题(个体理性的加总不能产生集体理性,所以,民主无力解决集体理性问题)。因此,需要一种新政治,建立政治的天下体系,从而以世界权力限制一切高风险行为。


     针对与会者提出的人工智能下一步可能突破的几个方面、发展通用人工智能的路径、人工智能实现“专才”“通才”的时间表等问题。

     陈小平回答:人工智能目前处在“第三次春天”,第一次是20世纪50、60年代逻辑方面的突破,但并没有落地;第二次是“知识工程”,如在血液病临床医学诊断方面的应用。而目前人工智能实现的突破,主要是在“专才”方面。 

     目前,一些人误解了人工智能的聪明程度,人工智能是被设计出来,一个系统只针对一种应用,而不能适应多个问题,就像会下围棋的人工智能不会下象棋。它只是帮人类实现了自动化,让生活更加便捷。人工智能正在取得重大进展,但主要还是在确定性问题领域,面向这种领域的应用,建造大型智能系统的工程可行性得到了显著提升,这对发展产业非常有用。但是,研究后发现,大量真实需求不能实现的根本原因是依靠精确性不能解决问题,要靠灵巧性解决不确定性。这是未来的发展方向。非确定性应用场景更加广阔,市场空间和市场价值大得多。对于非确定性问题,还有巨大的理论和工程挑战,灵巧性将成为一种新路径。