人工智能应用与伦理挑战

      2018年5月20日下午，由中国人工智能学会在北京主办的2018全球人工智能技术大会（GAITC）上，博古睿研究院中国中心主任宋冰主持了以“人工智能应用与伦理挑战”为主题的论坛。

耶鲁大学生物伦理学中心科技与伦理学科主任、黑斯廷斯中心高级顾问温德尔·瓦拉赫

      耶鲁大学生物伦理学中心科技与伦理学科主任温德尔·瓦拉赫（Wendell Wallach）在发言中首先探讨了人工智能给家庭、社会、国家和整个人类带来的各种风险，包括网络安全、数据的控制权、算法偏见、算法透明性、技术性失业、人权和隐私权的侵犯、黑天鹅事件、自动化武器失控、AI犯罪的责任归属问题等。他认为，给机器人进行伦理价值匹配，进而制造有道德主体性的机器，同时以软治理手段与硬法律相结合的方式做到对AI的监控。

Skype/Kazaa联合创始人、剑桥大学生存风险研究中心联合创始人、生命未来研究所联合创始人贾安·塔林（Jaan Tallinn）

      Skype/Kazaa联合创始人贾安·塔林（Jaan Tallinn）提出，AI安全问题如今已经从研发人员的预警成为了现实，由此侧重于AI安全的强人工智能研究也成为国际性的热点。剑桥大学存在风险研究所和麻省理工学院未来生命研究所，就是致力于强人工智能（Artificial General Intelligenc）研究的新型机构。

      贾安·塔林是国际上最早呼吁开展人工智能风险相关研究的社会活动家之一。他尤其关注中国的声音，发言中塔林提到了中国国务院出的“新一代人工智能发展规划”、腾讯研究院将AI发展前沿作为战略目标等举措和行动，表示非常期待与中国学者合作，也很期待向世界发出“人类命运共同体”的东方智慧能在AGI领域有所作为，在全球治理上发挥积极性作用。

机器人产业联盟主席、新松机器人自动化股份有限公司总裁、中国科学院沈阳自动化研究所研究员曲道奎

      新松机器人自动化股份有限公司总裁曲道奎介绍了在机器人伦理方面中国的新进展。中国成立了国家机器人标准化总体组，充分凝聚政产学研用各个方面的力量，建立和完善机器人标准体系，支撑我国机器人领域产业、应用和服务等各方面持续发展。来协调和制定机器人产业的各种标准。2017年成立了机器人伦理道德研究小组，成员既有技术专家，又有社会学、心理学、计算学、哲学等不同领域的专家，提出“优化共生”的伦理指导原则。

中国科学技术大学计算机学院教授、机器人实验室主任陈小平

      中国科学技术大学机器人实验室主任陈小平提出了三个议题，一是人工智能的技术强大程度和风险指数仍然具有不确定性。AlphaGo的技术能否用于大规模的不确定性问题，尚有疑虑。

      陈小平教授质疑了一种主张——图灵测试确立了人工智能的标准，但他在重读图灵在1948年的论文原稿《Intelligent Machinery》后，发现文中提出的五个问题都仅限于AI发展的初级阶段，是否适用于目前的形势是值得思考的。二是需要技术应用与伦理的协同发展，比如医疗机器人向病人解释病情时应该具备怎样的体察能力。三是产业创新和制度创新需要同步协调。

从左到右依次为宋冰、陈小平、贾安·塔林、温德尔·瓦拉赫、曲道奎

      四位专家随后又对现场提问进行了回答。针对“AI作为第四次科技革命给世界带来的影响”，瓦拉赫认为，AI挑战大小取决于技术更新的速度。即使技术上可行，也要加入对于人类命运全局的考量，究竟能多大程度上为子孙后代着想。向AI植入伦理、情感等价值性因素，是需要更多人性化的考量还是非人性化的考量？

      针对“机器人伤人之后的负责主体”这个问题，曲道奎认为，要区分是操作失误还是设计失误。目前的技术水平决定了目前法律规定足以界定乃至解决这个问题。

      此外，就“中西关注点之别”、“中西在AI领域的合作基础”等问题，专家们也进行了颇具启发性的回答。