我们站在变革的风头浪尖

尼尔斯·吉尔曼

2018年11月29日

工程师们告诉我们,人类已经站在了变革的风口浪尖。新的基因编辑技术,尤其是其与人工智能技术的结合,赋予了人类前所未有的能力:

操纵生物性质,甚至是“人”的性质。该技术有着巨大的潜力:治愈各种疾病、量身定制药品,以及大幅度提升人类的心智和体能。

博古睿研究院认为,仅仅从工程的角度解释这些新技术并不足以体现这些技术及其影响的重要性。

如此影响深远的技术挑战了什么“是”人这一基本定义。从这一角度而言,这些技术的开发和部署是工程师和科学家们主导的哲学层面的实践性实验。但是,我们需更多领域的参与者并开展更广泛的对话。

千年来,西方哲学理所当然地认为,生命与非生命之间、自然与人工之间、没有感情的存在与有感情的生物之间有绝对区分。我们假设人类是物质世界中唯一能够进行思考的事物、是物质世界的主体。我们相信,人性,无论表现怎样,本质上是稳定的。

但现在,人工智能工程师们正在设计开发一些他们声称可以思考、感知、感觉、反思,甚至具有自我意识的机器。生物工程师们也不甘落后,他们提出细菌、植物、动物甚至人类都可以从根本上进行重建和修改。这意味着支撑西方哲学、宗教甚至政治制度的的绝对区分 – 即人之于机器,如之于自然的绝对区份将不再成立。综上所述,人工智能和基因编辑必将从哲学、人文和政治层面重新定义什么是“人”,以及为“人”的意义。

这些实验给人类提出了很多意义深远的问题。我们会利用这些技术来改善自己,还是分裂甚至摧毁人类?这些技术应该能够让我们延年益寿并且更健康地生活,但我们会利用它们让我们和彼此更和谐地相处吗?这些技术会鼓励我们更善良,还是会让我们变得更贪婪、嫉妒、并加大社会等级差距?应当由那些人参与有关这些技术发展方向的对话?谁将拥有分配和部署这些技术的决策权?少数人?少数国家?

博古睿研究院正在筹建一个由哲学家、科学家、政治家和艺术家组成的跨国网络以思考人工智能和基因编辑技术将如何改变“为人”的意义。我们力求开发各种用于探索人类根本问题的工具:不仅仅是我们可以构建什么样的世界,还有我们应该构建什么样的世界,要避免构建什么样的世界。如果人工智能和生物技术能发展到现在预言者推断的一半程度,我们就不能拖延对以下问题的思考:我们想成为什么样的“人”,不仅是个体的“人”还是集体的“人”。

该文原文于2018年10月19日刊发于《纽约时报》
https://www.nytimes.com/2018/10/19/business/five-artificial-intelligence-insiders-in-their-own-words.html

尼尔斯·吉尔曼

尼尔斯·吉尔曼,博古睿研究院项目副院长