访谈:《生命3.0》中文版译者谈AI必定造成技术性失业

本文是中国媒体“华尔街见闻”对我的访谈。原文发表在华尔街见闻官网,原文链接

Q:您第一次接触到人工智能的概念是在怎样的场景和机缘下?

A:和很多人一样,我第一次接触到人工智能的概念是通过科幻作品。最早让我开始思考AI的科幻作品是1979年的电影《星际迷航:无限太空》(Star Trek: The Motion Picture)和玛丽·雪莱的《弗兰肯斯坦》(Frankenstein)。《星际迷航:无限太空》中,人造“智能体” V’Ger 的智能或许更像是自然产生,但它始终追寻着一个初始目标——寻找它的创造者。这让我意识到,人类或许有能力扮演上帝的角色,创造出智慧“生命”,并通过某种方式控制它们的行为。

而《弗兰肯斯坦》则是在探讨,如果人类造出了智慧生命,应该如何对待它。这个故事提出了许多AI可能带来的问题。假如我们造出了情感丰富的智能体,我们是否应该承认它的存在?如何承认它的存在?应该关心它的福祉吗?我们对它负有伦理责任吗?如果它伤害了人类,需要惩罚它吗?如何惩罚?还是惩罚它的创造者?

Q:是什么机缘巧合让你翻译了两部泰格马克两部作品?总体而言,您觉得泰格马克哪些思维方式,刷新了你的认知?

A:之前,我有幸翻译了第一本书由湛庐文化出版的泰格马克著作《穿越平行宇宙》,期间与他有较多邮件往来,彼此比较熟悉。巧的是,我对AI也很感兴趣,因此再次有幸得到了翻译《生命3.0》的机会。

总体而言,我认为泰格马克对我冲击最大的点是他庞大的格局。这体现在两个方面。第一,他思维的维度之大,读过《穿越平行宇宙》的人都能感觉到,他在时间和空间两个维度,由远及近,又由近及远探讨了整个宇宙的过去、现在与未来。经济学家的尺度是几十年到几百年,历史学家是几千年,地质学家能在几十亿年的尺度看沧海隆起高原、平地撕裂深谷……

但作为宇宙学家,泰格马克思考的时间尺度是136亿年,空间尺度是整个宇宙。更有甚者,研究平行宇宙时,他的尺度超越了我们所在的这个宇宙,甚至超越了时间和空间,将整个宇宙数学化。在《生命3.0》中也是如此。他站在宏大的尺度上思考AI与人类的未来,不遗漏任何可能性。

第二个方面是,尽管他的立足点很高,却并未因此视万物为刍狗,而是将目光落到地面,殷切关心人类的命运。在《穿越平行宇宙》中,他深刻反思了人类在“存在危机”面前的无所作为,敦促科学家应该为传播“科学的生活方式”而努力。在《生命3.0》中,他更是提出,人类应该做好准备,迎接与AI共存的未来。他创建了未来生命研究所,成立基金,举办会议,让AI安全问题进入主流视线。用我们熟悉的话说,就是“仰望星空,脚踏实地”。

Q:您在翻译《生命3.0》的时候,您对泰格马克所描述的未来人工智能代,您有什么比较信服和特别不信的地方?

A:我比较信服他对一些基本概念的分析,很能厘清头绪、消除误解。比方说,我同意他关于“智能独立于物质层面”的观点。这有点像Allen Newell 和Herbert Simon的物理符号系统理论。尽管硬件(物质层面)完全不同,但大脑和计算机都体现了物理符号系统,在符号层面(智能层面)就有可能实现等价的符号操作。还有他关于学习本质的一些观点我也十分认同。基于这些基本观点,我相信AI有可能发展出很高程度的智能,但可能与我们设想的很不一样。

我并没有特别不信的地方。他书中描写的一些未来场景,本身就是基于一定的推测和想象。我拥抱所有可能性。

Q:翻译《生命3.0》过程中,碰到过什么难点吗?你有没有创造一些新的中文词汇来解释泰格马克的创新想法?

A:翻译本书的难点在于如何用中文准确地描述他的逻辑。还有一个难点是,许多与AI有关的词,在中文世界特别混淆。一些有趣的事:由于中文世界普遍将“narrow AI”翻译成“弱AI”,所以起先我也这么翻译。翻着翻着,他突然开始解释“narrow AI”为什么不能与“weak AI”等同。所以,后来我将“narrow AI”按字面意思翻译成了“窄人工智能”。还有,他在书中着重区分了“general intelligence”和“universal intelligence”的区别,而二者普遍都翻译成“通用智能”,我将前者翻译成“通用智能”,而后者翻译成“普遍智能”,以示区分。

Q:在您热爱的科幻电影/电视剧/小说等作品中,其中你最偏爱哪一部?为什么?

A:我喜欢的科幻作品太多了。但归根结底,我都能看到《弗兰肯斯坦》的影子。我个人并不偏爱这部小说,说实话,读起来很费劲也很晦涩,没有什么阅读快感,但我认为它是集大成者,它是西方文学第一部科幻小说,也可以看做对人工智能甚至一般意义上的科技可能带来的哲学和社会问题所进行的第一番探讨。

首先,它在当时反映了相当高的想象力。那时候(1818年),世界首个程序员——艾达女士才三岁,计算机鼻祖——巴贝奇的分析机到1837年才提出,机器人的概念要到1920年才在捷克舞台剧《R.U.R》中出现,而创造出新生物的生物技术到近期才成为可能。其次,它探讨了许多问题。一方面,故事中的怪物并不是人类,它只是缝合在一起的尸块。但同时,它却又是我们每个人的缩影——它被带到这个世界上,不是自己做的决定;它想要融入社会,不愿做一座孤岛;它爱人时温柔,被厌时惊惶,恐惧时不择路;它渴望爱,却无端被人厌恶,最终走上复仇之路。

小说中,弗兰肯斯坦是科学家的名字,而怪物并没有名字,只被称为“monster”、“creature”、“demon”和“it”。名字很有意思。当人类赋予一个物体名字,它在人眼中就存在了,仿佛有了意义和生命。而弗兰肯斯坦拒绝给怪物起名,说明他从始至终就拒绝承认它的存在。如前文所说,我们应该如何面对我们造出的智能生命?如果它们具备了人类水平的特征,比如智能和情感,它们算得上人吗?是否应该具备权利和义务?

在书中,弗兰肯斯坦用逃避拒绝它的存在,而它流离失所,饱受孤独,幻想自己能融入人群,得到爱和承认,却只因相貌丑陋而被人厌弃,独自舔舐伤痛,走上复仇之路。未来的人工智能会被我们所逼而走上这条路吗?

Q:你曾经把科幻电影中的AI以阶层划为三类:hell level,world level,heaven level。可即使发展至今,AI似乎还是属于hell level?甚至还到达不了Wall E的级别,难道电影小说的趋向并不会发生于现实生活中?

A:我分析科幻作品中的AI,并划分了三个层级:hell level是指那些被人类用作工具、并且自己也甘为工具的AI,world level指的是那些不再甘于做工具、通过追寻人类价值而具备了“人性”的AI,heaven level指的是那些因追寻超出人类水平的目标和价值而“失去”了“人性”的AI。

如果放到现实生活中,我认为目前最好的AI尚属于hell level。并且,在很多人看来,为了保存人类的价值,它们最好一直待在hell level。否则,一旦它们具备了目标,想要实现自己的价值,事情就不好控制了。

Wall-E实际上具备很高的智能。尽管在电影开始时,它的日常工作就是捡垃圾,似乎是个彻头彻尾的工具,但慢慢你就发现它的“人性”——它对美与爱的渴求,不亚于任何一个人。即便单看捡垃圾这个任务,Wall-E的智能程度、鲁棒性、纠错率也都很高。它能轻而易举地在城市中规划路径,能识别出有趣的模式(圆形的井盖,路边废弃的履带,物品分类等)。

尽管如此,我也不认为科幻作品的趋势会发生在现实生活中,因为科幻的关注点是“人”,而现实生活中的AI发展更多取决于商业应用、国家政策、资金流向等现实因素。科幻作品中的冲突,归根结底都是现实中人(群)之间的冲突的戏剧化。科幻作品探讨AI,实际上是在探讨人。要探讨人,就必须赋予AI人性,或者先赋予AI人性,再拿走。因此,科幻作品中的AI,全部都人格化(anthropomorphize)了。而现实中的AI,却与人完全不一样。我相信,即便AI在未来发展出极高的智能,也一定是以一种超出人类想象的“非人”形式。

Q:对于ai 是否取代劳动力,乐观阵营以凯恩斯“技术失业”为根据,认为新技术减少的工作岗位通常与其创造出的岗位相平衡。悲观阵营则认为ai将会取代非工薪阶层。你说你是乐观的悲观主义:人工智能会造成技术失业,但这不会很快发生。其中,你认为一些创造性的工作也将面临高风险的观点独树一帜,因为人类有意识情感所以可有艺术创作,但ai却是由数据组成,人类在将来真的满足于机器创造的世界中吗?

A:是的,我认为AI必定会造成技术性失业,但不会很快发生。必定会造成技术性失业是因为使用AI和机器人必定成本更低,逐利的企业一定会采用(除非政策补贴)。而新技术创造出来的新工作所需的劳动力远远少于被新技术毁灭的旧职业所需的劳动力。牛津大学研究者认为美国47%的职业面临被AI取代的风险。不会很快发生是因为目前的AI还很有限,与其说替代某个职业的全部工作,不如说替代某些任务(主要是重复性的任务)。

我认为创造性的工作也将面临高风险。首先,如我前面所说,我同意泰格马克的观点,认为智能和意识是独立于物质层面而存在的,它们涌现于“联结关系”而不是物理实体之中,因此,无论是人脑、电脑还是其他系统,只要具备等价的关系特征,就能产生等价的智能和意识。情感也是智能和意识的产物。第二,AI确实是由数据组成,但人又何尝不是呢?每天我们都基于过去的记忆(数据),加上抽象能力(算法),来应对周遭的非结构化环境。

关于创造性工作,我一直在思考究竟什么是创造性?我认为创造性就是在已有数据的基础上,加上一定程度的随机性。京都大学的赵亮博士曾提出“人工智慧”(Artificial Wisdom)的概念,认为“Wisdom = Knowledge + Random choice”。另外,也有研究表明,创造力与精神疾病之间存在着一些基因联系。

最后,已经有很多用AI来创作艺术或音乐的项目,它们的作品虽然还到不了大师级别,但已经十分娴熟。所以,我的结论是,尽管我个人认为创造性工作也将面临风险,但归根结底,我们还需要加深对“创造力”和“艺术”的理解,才能回答这个问题。

Q:不考虑技术因素,您最期待AI实现您的一个怎样的愿望或设想?

A:上传我的意识,与AI融合。

Q:您曾在机器之心工作,对中国AI产业接触颇深。您觉得这本《生命3.0》有哪些方面,可能会对中国的AI从业者产生比较大的冲击?

A:我认为也希望这本书会让中国的AI从业者和监管机构,开始思考一些与AI有关的社会问题,比如伦理、政策和安全性。

发表评论

电子邮件地址不会被公开。 必填项已用*标注