撰文丨新京报记者 董牧孜 实习生 周洁

 

作家伊恩·麦克尤恩长期以来对人工智能充满兴趣。他曾与AlphaGo之父“戴密斯·哈萨比斯”长谈,也试图在《赎罪》的创作中增加机器人设定。早在两年前,中国读者就对他的这一兴趣有所耳闻。2018年11月,麦克尤恩在中国行中告诉出版家黄昱宁,他正在创作一部以“机器人”为主题的小说,初稿已经完成。这部小说就是《我这样的机器》。


2018年,麦克尤恩在上海。

 

近日,《我这样的机器》中文版面市。在上海书展的“机器有什么错2020——麦克尤恩小说《我这样的机器》新书发布会”活动中,作家、出版人黄昱宁、作家小白和上海纽约大学教授、上海人工智能研究院院长张峥与观众分享了他们阅读这本小说时的感受。

 

《我这样的机器》故事设定在1982年。当时的人工智能已经得到革命性发展,生产出了第一批机器人,按性别分为亚当和夏娃。男主人公查理和女主人公共同拥有一个亚当,他们各有一半的初始设置权。米兰达赋予亚当的初始设定类似于莎士比亚的《仲夏夜之梦》的剧情:亚当会爱上睁开眼睛看到的第一个人。而在这之后,这个机器人就深度介入米兰达、查理的生活,故事就从这里展开。

 

《我这样的机器》,[英]伊恩·麦克尤恩著,周小进译,上海译文出版社出版

 

复古未来主义:

如果图灵还活着,我们会走向何处?

 

《我这样的机器》将故事设定在1982年,主角之一却又是高科技仿真机器人,现实、未来、过去形成三重奏。

 

在小白看来,科幻小说惯用的套路就是把技术嵌入到过去某一时代。比如蒸汽朋克小说,就在某种程度上反驳了技术决定论。如果现代技术出现在过去,人类会往哪里走?

   

时空错置的桥段虽然常见,但不同作家会有不同的处理方式。黄昱宁指出,石黑一雄的《莫失莫忘》就只把它作为背景,整体风格仍旧是田园牧歌式的。而麦克尤恩一直在利用这点,透过很多篇幅呈现时代的细节。她还发现麦克尤恩将对政治、历史的思考贯穿于作品之中,比如在《追日》、《甜牙》中对政治、历史都有很精彩的评论。

   

在小说《我这样的机器》之中,麦克尤恩以“煞有介事的口吻”重新想象了历史。比如大家都熟知的图灵,历史中他因其性倾向而遭到当时英国政府的迫害,职业生涯尽毁。但麦克尤恩的小说把图灵描绘为人工智能发展中的关键角色,后来成为比乔布斯还要富可敌国的人物。小说里也改写了英国马岛战役的结局,将历史中胜利的战争写成失败,从而使得撒切尔夫人下台,托尼·本恩取而代之。托尼·本恩在英国的历史上确有其人,是一位左派领袖。黄昱宁提醒读者,“这些细节被麦克尤恩以新闻的手法掺进小说中,非常容易被忽略,但是藏了他的很多心机。”

   

《我这样的机器》,

是麦克尤恩的自传体小说吗?

 

麦克尤恩一向对科学和技术兴趣浓厚。据黄昱宁称,在上世纪80年代初,他就有了自己的个人电脑,在作家圈子里是比较早接触计算机技术的人。在一次讲座中,麦克尤恩还提到他的小说《赎罪》最初设定了机器人角色。不过,直到2019年,他才终于出版了第一部关于机器人的小说。

  

麦克尤恩和机器人,图片来源于penguin.co.uk

 

小白在读小说时,在谷歌图书词频中搜索了AI和Robert,结果发现这两个词在上世纪80年代的出版物中的用词频率最高。上世纪80年代,是机器人、人工智能等概念进入大众视野的时间点。而麦克尤恩正是在上世纪70年代末来到伦敦,进入了写作圈,开始参与作家举办的下午茶会和谈话会。小白认为,《我这样的机器》所讲述的人工智能进入人类社会的故事,在某种程度上也影射了麦克尤恩自己的经历。这本小说带有自传体的性质。

   

在张峥看来,《我这样的机器》不只是麦克尤恩的个人自传,而是群体性的自传,包含了科技和人类之间的冲撞、过去与未来的交织。而书中体现出的两处遗憾,同样体现出这一特点。第一处在于,小说的主要人物只有图灵和戴维斯,但人工智能的发展则是站在很多巨人的肩上,其中也有中国码农的贡献,从这一角度来看,麦克尤恩有其视角的局限。第二处则在于,小说实际上可以绕开人工智能领域的某些专业化概念,用更简单的方法来解释,如书中提到的P(多项式时间)和NP(不确定多项式时间)。但张峥仍称赞麦克尤恩是个非常伟大的产品经理,他小说中的机器人出厂设置跟人的进化很吻合。查理和米兰达共享对于机器人的初始设置权,这是父母遗传给孩子各自一半DNA的生物过程的精妙比喻。

   

机器人会梦见自己吗?

   

牛津大学研究人工智能的哲学家尼克·博斯特罗姆(Nick Bostrom),著有《超级智能》。书中有两章论述了人工智能的价值观植入和加载问题。机器的学习能力可能几百万倍地超过人,如果让其随意学习,很可能会发展出终结者那样的机器,危及人类的生存。因此,人类必须给机器加载价值观。

 

小白介绍了麦克尤恩这部小说的多种加载方式,比如通过图灵与机器人聊天完成加载,以及亚当出场设定输入的两种价值体系,这最终都是为了形成人和机器的一致推断意愿(coherent extrapolated volition)。但他也认为,正因为机器人有比人更强大的计算力,所以能发展出比人更大的伦理目标和价值观,最后这就可能导致亚当既不听从于米兰达,也不被查理所驯服,从而形成了这本书最重要的冲突点。

 

人工智能与人类的冲突,在小说中除了以感情纠葛的形式呈现,麦克尤恩也以幽默的笔触勾勒了很多有趣的细节。黄昱宁尤其喜欢其中被垃圾弄到失灵的清洁工机器人,以及机器人和人类的尬聊。麦克尤恩也经常讲书中的一个情节:查理和这个机器人到米兰达父亲家里拜访,但这位老人却把机器人误认为女儿的男朋友,对他很满意。而查理只好讪讪一笑,说自己要下去充电,冒充机器人来解除尴尬。

 

尽管这些看起来只是科幻小说和影视作品中的场景,但在生活中也有一定的印证,张峥分享了人工智能在大家的生活中的应用实例。搜索引擎的top10规则背后,已经有人工智能和算法的影子。现在很多平台的内容推荐原则,也是根据用户需求推送相关讯息。一方面,信息服务更加贴心,另外一方面,也有可能导致信息垃圾的内循环。目前,人工智能仍旧是对人类需求和喜好的放大。在此,最本质的问题仍旧是“我是谁?”,对机器人来说则是“自我作为机器人到底属于谁?”。

 

电影《银翼杀手2049》剧照

 

机器人到底会不会有自我意识?小白指出,麦克尤恩给出了肯定的答案,他自己也觉得有这样的可能性:“有人做过一个非常好的比喻,超过人的人工智能出现,就像进入森林。有人告诉你森林里有很多吓人的野生动物,当你进去之后,可能走了两个小时都看不到,但其实它们就在距离你几米的一棵树后。超级智能其实已经在那边,但你可能意识不到。”张峥以手机举例,说明了机器具有最基本的自我意识:当手机快没电时,会先把数据备份到云端。而这个动作就意味着手机可以自行了解机体的状况,并作出判断。

 

机器人的自我意识问题在这本书中最集中的表现就是关闭按钮。黄昱宁发现书中的二十几个亚当、夏娃机器人都在想方设法废除关闭按钮。不论是拒绝让人类关闭自己,还是想要自己关闭自己,其实都是自我意识的表现。而麦克尤恩又一次巧妙地回避了这个问题。他通过查理和亚当的一场冲突,即,机器人不小心将把人的手腕捏碎,从而取消了开关。

 

麦克尤恩式结局:

两段遗言

 

麦克尤恩的小说很少有大团圆结局。在这本小说中,机器人和人类的家庭最终瓦解了。

 

瓦解的过程,是一系列紧扣的连环事件。豆瓣读者将这种典型的“麦克尤恩写法”称为“反高潮”。至于瓦解的原因,小说已借图灵之口讲了出来:“ 他们不理解我们,因为我们不理解自己。他们的学习程序无法处理我们,如果我们自己都不理解自己的大脑,我们怎么能设计它们的大脑?还指望它们能跟我们一起幸福呢?”

 

黄昱宁点出这句话正是这本书的中心思想。小说的副标题“你们这样的人”与题目“我这样的机器”对应。事实上,麦克尤恩写的是机器人,但他最关心的仍是人类本身,表达的仍是人类的困境。归根结底,我们要理解自己的大脑,理解自己的生活,理解自己到底想要什么?

 

在小白看来,麦克尤恩只是把机器作为变量放进了人类社会,放进了上世纪80年代的社会语境,描写了它可能会造成的一系列后果。机器人亚当、夏娃身上发生的事情,也是人类可能会遭遇的问题。小说中有很多机器通过让自己的系统崩溃而自杀。这个矛盾实际上因人类而起。当人类自己都不清楚自己的问题时,机器也必然会处于各种各样的矛盾、冲突和撕扯当中。

 

而亚当的遗言,表达的就是这样一种悲伤的情感:“写的是像我这样的机器,像你们这样的人,以及我们未来共处的生活……未来的悲伤。会发生的。随着时间推移慢慢改善……我们会超过你们……比你们活得久……尽管我们爱你们。相信我,这些诗行表达的不是胜利……只有遗憾。”

 

人造的心智能否解决自由的问题、生存的问题和存在主义的困惑?张峥认为麦克尤恩并没有给出明确的答案。人类将有智能和自我意识的机器推入了不完美的世界,它们与人类同样置身于矛盾之中,那么,他们也能像人类一样获得幸福与爱吗?

 

撰文丨新京报记者 董牧孜 实习生 周洁

编辑丨木子 校对丨陈荻雁