一切寂然无声。
上帝，求你不要让他们伤害她。求你告诉我该怎么办。
公寓门外，走廊里回荡着沉重的脚步声。我妻子芭芭拉把梅拉妮紧紧地抱在胸前，我那才10岁的女儿在她妈妈的臂弯里无声地抽泣着。理查德坐在她们身旁的一个破旧的沙发上，手搭在妹妹的肩膀上。
我们在等待。
门外传来一个年轻女人的声音，让她朋友查看一下信件，说她昨晚忘记查收了。一个深沉的男声让她把钥匙扔过来，他好打开看看。她把钥匙扔过去，钥匙丁零当啷地掉在了地板上。女人大笑着走出去，高跟鞋嗒嗒地响。信箱吱吱嘎嘎地打开又关上了。那个男的说了一些话，没能听清。然后，咔嗒一声，两人关上了房屋的前门。大楼外面一辆出租车驶过，喇叭发出刺耳的声音。
又是一片寂静。
我不断地透过门上的探视孔往外面的街上看。大楼前门旁，是行色匆匆赶去上班的人们。在位于第44街和第45街之间靠近第9大道的市游乐场里，几个孩子正犹犹豫豫地坐在冰冷的秋千架上。我记得几个星期前，短暂的秋高气爽的日子里，我还推着梅拉妮荡秋千呢。她依然喜欢让我推她，当我的棒球帽从脑袋上飞出去时，她依然会大笑，仿佛我站在秋千架前时她踢了我一脚。我还能想象出黄昏时金色的阳光从她背后照射过来，映衬着她的头发。我会笑着跟她说：“嗨，你知道吗？”她就会转着眼珠回应道：“知道你爱我吗？”我笑了，然后她接着说：“爸爸，你真是个笨蛋。”
但我确实爱她，胜过我自己的生命。现在，他们要来了。我付不起钱了，不知道该怎么办。
大约两年前，我们就搬离新泽西郊区的大房子了。房贷、税负高得离谱，让我们不堪重负。我们在镇上找到了一栋公寓大楼，开支可以减少三分之一，但由于卖房子交了手续费，所以我们仍然没能省下多少钱来。搬家真是够糟糕的。我们很喜欢原来的邻居，很喜欢我们的房子。我总是能梦到真正的壁炉，我们原来拥有的那种壁炉。那时，每个孩子都有自己的房间，我和妻子也有各自的办公室。一切都很完美。后来，我们失去了这一切。
起初，自动化看起来似乎是社会的自然演化。我认识的每一个人都把它当作现代工业时代的一部分，在这个时代里，大数据才是新的准则。很多人可能会失去工作，但这种情况我们以前也遇到过。我的朋友们都称赞我成了一名“人类作家”，从而保住了工作，但在最开始时他们是嘲笑我这个想法的。后来，许多人便开始偷偷问我是怎么跟老板说清楚这个想法的，想试试看他们是否也能用同样的办法保住工作。其中的一个朋友是领着高薪水的医疗技术人员，有着各种各样的学位证书。还有一个朋友是替他妻子问的，他妻子是一名有着多年工作经验、薪水很高的行政助理。他们在同一年丢了工作。我曾就这种快速增加的失业问题写过几篇文章，但后来根据我的一个编辑机器人推算，这些文章可能会引发缺乏正面思想的评论和帖子。所以，我就不再写了。
在那个街区，我们不是唯一被迫搬家的，但这并不能让我有所安慰。对于那些正在打包的父亲，我感到一种特殊的情结。是技术革新也好，是境遇不公也罢，作为丈夫和父亲，我感觉自己很失败。或许，从文化角度来看，等我儿子长大之后，他或许不会有这种感觉。但作为一个已经46岁的中年人，住不起我们梦想的房子，这让我感到很没男子气概。羞愧像毒药一样充满了我的身体。它随我一同醒来，让我夜不能寐，终日伴随着我。如果你从没有体验过负债累累、没有失去过工作，或者没有感受过这可能带来的挥之不去的恐惧的话，那你真幸运。
但你是个例外。
就在我们搬到这个1 000平方英尺[1]的公寓仅仅几个月的时间之后，我就失业了。人的角色被机器取代，所以公司觉得把其法律人格让渡给庇护其知识产权的物体才更合适。我已经预料到这迟早会发生，所以我对待GP就跟对待真实的人一样，以免引来任何法律上的麻烦。的确，作为“人”，他是个不折不扣的蠢货，但很讽刺的是，这倒有助于我很快把他当成一个人来看待。
只有我在公司加班到很晚，灯都灭了的时候，我才想起来他是个电脑。我常常会产生一种非常奇怪的感觉，觉得我不应该在那儿，觉得GP就要追求我们的复印机了，而我则妨碍了他。说真的，这种奇怪的感觉真的一直挥之不去。我不是说复印机的事，而是感觉GP跟我的卷笔刀等其他的东西是不一样的。在Makerbot打印机迅速火起来之后，我们公司也买了一个，我对这台3D打印机也有同样的感觉。它可以联网，甚至可以打印人体器官。我不是在开玩笑——把捐赠者的DNA（脱氧核糖核酸）放入类似泡沫橡胶的一种塑料聚合物材料中，你就可以很快做出一个肝脏来。我们没有用打印机打印过器官，但我们随时可以这样做，这既让人郁闷，又让人心安。
在3D打印的圈子里，产生了一个令人惊奇的“制造者”圈子。各种新产品或设备的小规模打印中所蕴含的创造力和自由激励着人们纷纷创业。从这个角度来看，还是挺鼓舞人心的。但如果GP愿意的话，从某种程度上来说，他可以创造并打印出自己的身体，一想到这儿，还是挺让人害怕的。我看到有新闻说，挪威奥斯陆有个团队已经创造出了一种可以自主学习、自主修复的机器人，可以在紧急情况下进行3D打印。所以，在深深的矿井下，如果遭遇危险，我们可以打印一个机器人，使之前往对人类而言太过危险的区域。我觉得警察没有理由不在新年前夕的时代广场安置这样的机器，以防万一。如果游客太过拥挤，那就打印几十个安保机器人，好让主持人卡森·达利继续工作，赞美生活的平庸。
而从我的工作角度来看，当你需要创作能够吸引人们留言的内容时，那就可以打印几个新作家出来。当然，在把我炒掉之后，管理层甚至不需要为我创造一个人形的身体。他们只需专门用一个新算法处理和人性有关的问题，然后就可以进行测试。等到我离开的时候，算法就会变得非常先进，可以让各个商家百分之百准确地知道哪些消费者一定会点击他们的广告。操纵会变得极为细微，以至各商家都不得不防止消费者因为过分迷恋其产品而破产。这并不是因为他们在乎人们的损失所带来的情感伤害，而是因为如果消费者破产了，他们就不能继续买东西了。这是有分析数据作为支撑的。
更大的挑战在于各商家如何分摊并定位每个消费者，因为真实的偏好这个概念如今已经成为历史了。消费者已经被根据人口统计学特征进行了极致的细分，已经处于传感器的严密监控之下，从而使得任何公司都能实时地把产品灌输到人们的意识中，并确保购买交易的成功。食品是最为简单的。一旦可穿戴设备监测到人体血糖的下降，就会向十几家不同的公司发出信号，每一家公司都会提供最近的GPS定位分析，让消费者购买其产品。而离消费者最近的6家公司则要参与一次由数字广告委员会负责的即时彩票抽奖活动。这种彩票是专门用来防止垄断的（但通常会受到游说团体的影响），它会选择两家公司与消费者对接，算法最快的商家会赢。这跟多年以前人工智能设备更快或者距离华尔街更近的金融交易所能达成最合适的交易基本上是一样的道理。
把广告投放给消费者的公司几乎不再使用印刷广告了。多年来，增强现实隐形眼镜借助其专利注视付费（pay-per-gaze）技术，一直在对人们的视网膜进行测量，取代了以往对情绪的测量。消费者感觉喜不喜欢某个产品已经不重要了——他们的身体所做出的反应会出卖他们，至少会提供如何能让他们改变偏好的线索。同样，如今大多数人植入耳蜗的耳塞可以直接向神经系统发送信息。根据每个人精心定制，能够刺激某种特定情绪反应的声音会在人们考虑吃点儿东西休息一下的那一刻被精准地发送过去。办公室里纸张的沙沙声也会被恰当地调整，好让人想起爆米花爆开的声音，就跟在电影院里一样生动而诱人。
已经有人开始尝试侵入大脑了，他们对大脑的特定区域进行电刺激，从而可以在没有实际触觉输入的前提下体验特定的物理感受。对于这些消费者神经技术的粉丝们，广告商可以利用本地蓝牙网络制造对人脑精准定位的音频电磁冲击波。被列为定位目标的消费者将会非常渴望来一杯可乐、乐事薯片或锐滋花生巧克力杯，而这个过程仿佛是自然发生的一样。企业知道他们的刺激会引起内啡肽和荷尔蒙的释放，把人们的思想欲望转化成身体欲望，从脑电波落实为对品牌产品的渴望。然后，不管企业操纵这个人去买什么东西，他都会去买的。这个过程没什么神秘的，这是机器学习算法、人工智能和广告驱动的消费经济的自然演变，只不过是这个始于网络的过程被社会内化了而已。
随着失业引起的抑郁逐渐严重，我也一直能够收到各种广告信息。通过可穿戴设备和面部识别技术可以轻易地追踪抑郁的症状。只需要简单的算法便能预测出我何时最抵抗不住诱惑。晚上看电视的时候，我竭力想忘掉我们巨大的债务。这时，有针对性广告常常会进入我的意识。几个月下来，各个商家依据我的实时自卑数据，不断对我进行糖类和化学品广告的狂轰滥炸，结果我的体重增加了50磅。
尽管我们的信用等级降低了，但还是能不断收到办理信用卡的邀请函。显然，为诱惑有经济困难的人所投入的纸张、邮票及其他努力，还是比给他们提供实际帮助更加有利可图。在新泽西的第一个公寓时，我们就已经刷爆了所有的信用卡，这也是我们搬回到曼哈顿这个500平方英尺的住所的原因之一。这个地方是从一个朋友手里转租的，允许我们晚交房租。
我和芭芭拉找不到工作。尽管自动化专家们说在大多数工作被机器人接管之后的很长一段时间里，都会需要创造性技能，但我的经验却证明这是错的。芭芭拉是一名有着多年工作经验的高薪律师，也同样被软件程序轻而易举地取代了。这种程序利用蛮力算法进行研究、归档和开单，速度比任何人都要快上10倍。
我们的积蓄迅速地蒸发了，而且我们几乎付不起新公寓的房租。几个月前我们就停止支付信用卡账单了。现在唯一还给我们打电话的就是催债的人。手机上“未知号码”的每一次铃响、每一次震动都让我体会到越加冰冷的恐惧，仿佛渗透到了我的胃里。这是我不能理解的。信用卡公司知道这些商家是如何操控我们买东西的。他们看到数百万个像我这样的人试图用食物、药物或者赌博来赶走笼罩着我们这个自动化国家的抑郁。难道他们不明白我可能永远都还不起钱吗？难道他们的算法不能精确地算出来我连最小金额的账单都再也付不起的具体时间吗？他们当然能。但他们的机器人还是一周7天、每天24小时地给我打电话，永远不觉得累，永远不需要休息，永远不会为我的困境而感到同情或愧疚。
他们把羞愧自动化了。
所以今天，我们在等。因为我们家里唯一有点儿价值的东西也要被拿走了。这是唯一值得麻烦他们亲自来我家拿的资产。债主不会派机器人来我们这一带，因为凡是来到这里的机器人总是会被毁掉。
他们要来拿走梅拉妮的芯片。
公众才刚刚开始在大脑里安装软件。尽管最先安装的人和超人类已经依赖和梅拉妮类似的芯片生活了很多年，但他们还算是特殊人群。可如今，时代思潮预示“装芯片”可能会风靡一时。可穿戴设备已经让人们习惯了联网软件成为其身体的延伸。人们在屏幕前耗费如此多的时间，似乎把这个设备放在身体里，剖开视神经和神经元，通过机器来体验这个世界看起来也是正常的。
梅拉妮的经历为研究一个女孩儿年幼的身体如何与芯片的突触及电磁脑继电器相互作用提供了珍贵的案例。多年来，她的生理数据一直被详细地记录下来，与成年女性的生理数据进行比对，从而衡量其对食物、男孩儿、创伤等一切事物的反应。对制造商来讲，梅拉妮的芯片及所储存的数据是知识产权的源泉。而如今我们买不起最新的固件更新了，他们就想把芯片收回来。如果是最新一代的芯片，一旦装上，用户就永远不用再把它移除了。所有的更新都可以通过Wi-Fi联网远程完成。但梅拉妮的芯片是这种技术的测试版。自从安装上之后，她已经更新过两次了。两次都需要动手术，为此我们付出了多年的积蓄。
但这让她多活了几年。我们根本不知道如果没有这个芯片的话，梅拉妮的青少年帕金森病会不会复发。施瓦玛医生猜测最好的情况就是梅拉妮的大脑在手术之后有了自我修复的时间，从而能够继续正常运行。但我了解施瓦玛医生——知道她有多喜欢梅拉妮。她跟我们说这个消息的时候，表情严肃。她没有说谎，但也没有详说可能会有的不良后果。坦白来说，根本没有什么证据可以表明从梅拉妮这样的健康患者脑中拿掉芯片会发生什么。压根儿就不会有人这样做。
除非你是我，除非你失业了。除非你被击垮了，被机器击垮了、被环境击垮了、被这个世界运行的方式击垮了。
我看了看我的家人。他们坐在沙发上，抬头看着我。梅拉妮从芭芭拉的胸前挣脱开，用手背抹着眼泪。
“梅拉妮。”我说道。
“怎么了，爸爸？”
“你知道吗？”
她微笑着，吸了口气：“我也爱你，爸爸。”
我们公寓的门铃就在我耳边爆炸般地响了——三声急速焦躁的响声。我透过探视孔往外看，看见两个穿着制服的人站在外边的街上，其中的一个拿着医疗箱。过了一会儿，他们又按了门铃，这次，其中一个人的声音从对讲机那边传来，有些失真：
“黑文斯先生，我们来找您女儿了。请打开门。”
如果我们不把基于网络意识的思维克隆体当成活生生的人来看的话，他们就会变得非常、非常愤怒。
——玛蒂娜·罗斯布拉特博士，《虚拟人》
根据哥谭作家工作坊的解释，科幻小说与奇幻小说这两种文学体裁的区别在于“科幻小说探索的是可能发生的事情（哪怕未必会真的发生），而奇幻小说探索的是不可能发生的事情”。他们引用雷·布莱伯利的话，将科幻小说描述成“未来的社会学研究，作家相信将来会发生的事情”。
布莱伯利的话对我大部分的精神生活做出了恰当的解释。我对科学和技术有着无穷无尽的好奇，它们深深地吸引着我。我喜欢奇幻小说——我是《指环王》等这类题材作品的超级粉丝——但那些讲述在不远的将来可能会真的发生的曲折的生活故事，则尤其让我着迷。我在本书各章开头所写的故事就是这个类型，目的是为了证明我所描述的大部分技术和趋势已经露出了苗头。它们与其说是科幻小说，不如说是科学反思，因为它们是真实存在的，是在未来某个点的文化发现中即将出现的。它们的应用已经开始了，只不过还没有广泛普及。
我不喜欢用恐吓战术或者链接诱饵，我相信我们有很多机会从操纵我们的自动化智能中解脱出来，这在本书的后半部分将有所阐述。这种自由很大一部分将体现在对个人数据的掌控上，但它同时也需要我们好好地明确自己的价值观，从而能够将其编入那些渗透进我们生活各个角落的设备之中。毫无疑问，这东西可不好弄明白。诸如“身为人的意义何在？”的问题已经变得非常复杂，因为我们已经开始通过互联网寻找答案，而不是从内心寻找。我们在哪里止步，机器从哪里开始，这已经搞不清了。等到我们从镜子里看到机器人形态的自己时，这会变得更加模糊不清。
令人担忧的技术决定论
玛蒂娜·罗斯布拉特是美国薪水最高的女性首席执行官，她还是一位知名的律师、未来学家和商人，登上了2014年《纽约》杂志封面。一篇题为“改变一切的首席执行官”的文章对她进行了专题报道。她原为男性，于1994年接受变性手术，之后依然跟伴侣比娜·阿斯彭保持婚姻关系。二人已经结婚30多年了，那时罗斯布拉特还是男性。罗斯布拉特还以妻子为原型，创造了一个叫作比娜–48的机器人，使用了面部识别、声音识别和人工智能等多种技术，五官跟比娜长得极为相似。
通过LifeNaut网站，你可以了解更多关于比娜–48的信息，还可以创造一个思维文件，这就跟我在第3章里虚构的机器人儿子一样。LifeNaut计划属于特雷塞运动基金会，其常务董事布鲁斯·邓肯（教育硕士）曾在2013年创意之城大会上发言，并对比娜–48进行演示。邓肯指出，思维文件的概念将对人类产生巨大的变革作用，就跟当初人类创造了语言一样。他说道：“那个时候，我们会在法国某个洞穴里作画，以此来分享故事。如今，互联网正把我们所有的新大脑皮层连接起来。”LifeNaut正通过帮助人们上传自己意识表达的图片、视频或帖子等电子文档来加速整个进程。这样，我们生命的模因将最终允许我们的数字替身同时出现在多个地方。正如邓肯所述：
如果人成为自己思维文件的管理者，人工智能便可以让我们复活，并把我们带到其他地方，就跟我们使用电话一样——可以同时身处两个地方。在不远的将来，比方说，10~15年，我们就不会再觉得自己有个自我备份是什么稀奇事儿了。这个自我备份会包括我们的态度、信仰和我们的本质。
尽管我仍在竭力理解有多个自我副本穿越时空并行存在是什么概念，但考虑到当前我们个人数据的现实，这个想法还是有些根据的。目前，我身份的多重副本尚处于一个个分离的状态，由很多独立的机构掌管，但这些副本确实是存在的。我倒十分乐意把这些身份捆绑在一起，放进像LifeNaut提供的仓库里，这样我就可以补充或管理我自己的身份，而不是把它们丢给只关心利润的其他人。
尽管我很赞赏LifeNaut的这种慈善行为（截至本书创作之际，在www.lifenaut.com网站上创建并存储思维文档都是免费的），但对于罗斯布拉特在其书中所描绘的愿景，我还是有一些疑问的。最让我担心的，是她关于我们应该如何对待基于网络意识的思维克隆体的言论。在《虚拟人》中，罗斯布拉特曾反复说到过这个主题。她把消极对待思维文档的做法比作种族主义对黑人的歧视，比作恐同族对男同性恋的排斥。但如果这些思维克隆体使用的是人工智能，难道它们不会忽视我们人类愚蠢的卑鄙看法吗？我知道我们会给它们灌输情感，但作为第一代思维文档，难道它们不会意识到我们人类需要一些时间才能适应这自人类从原生动物进化而来后的最大的变革吗？
同时，我还觉得罗斯布拉特在描述如果我们不“把它们当成人看”，它们将会有多么愤怒时，完全没有必要重复“非常”这个词。这是恐吓，明摆着的。面对这虚拟枪口的威胁，我们该如何适应这种新的生命形式呢？而这些思维克隆体对人类的愤怒又到底会怎么表现出来呢？
同样令人担忧的是罗斯布拉特对思维克隆盈利方面的关注。尽管作为一个商人，她关注这个是可以理解的，但这种关注影响了我对这些理应与我们平等的未来生命个体的理解。以下是摘自《虚拟人》的一段话：
思维的数字克隆正以迅猛的速度自由发展……大量的财富等待着编程队伍去发掘。他们创造了有着乌托邦社会里的工人那样的责任心和顺从意识的数字助手。尽管这可能会让一些人感到不适——这种不适是我们必须要面对的——但这种让祖母以思维克隆体的形式在尘世多待上几个世代的办法相对简单容易且不贵，对这个大规模市场的营销可就意味着大笔大笔的真金白银（作者强调）。
在我看来，创造一个“顺从的乌托邦式工人”似乎是不平等的。考虑到思维克隆及其所栖居的机器人有不同的层次水平，如果这些工人被灌输进任何形态的意识的话，难道他们不会因为必须遵守我们的指令而感到愤怒吗？正如前面一章中故事中的“我”向机器人儿子所透露的那样，难道这些有着高层次意识的思维克隆体不会因其种族成员不被重视而感到愤怒吗？
对于罗斯布拉特对随着思维克隆的普及而来的“大笔大笔的真金白银”的关注，我很难不抱有反公司的怀疑态度。尽管我理解她想要让每个人都用得起这个技术的初衷，但如果我们要把思维克隆体看作合法的、完整的个体的话，那为何不把出售思维克隆体看作机器版的贩卖人口的行为呢？当她指出购买及使用思维克隆的便利性时，她这种明显的避免犯“人类主义”或针对有感知能力的思维克隆体的种族主义错误的立场，便失去了可信度。
总体来看，罗斯布拉特的愿景中最让我难以接受的一点，在于她觉得人工智能的思维克隆体必然会很快取代人类。虽然我也同意自动化智能的影响是不可避免的，而且是已经发生了的，但最让我担忧的是她这种技术决定论思想（即认为是技术推动社会结构及文化价值观发展的思想）。这反映出了硅谷人士普遍持有的态度，即之所以应该创造某种技术是因为我们有能力，而不是因为有必要。创新所涉及的任何道德或价值观问题，都是在技术已经引入市场之后才会考虑的。因此，任何有价值的讨论都会围绕究竟是应该迫切地把魔仆塞回瓶子（即避免不良后果产生），还是应该创造人人都认同的对人类有价值的技术。
沿着这一思路，我们要说到于尔根·施米德胡贝，他是一名计算机科学家，因其幽默的艺术作品以及在人工智能领域的专业知识而闻名。在最近的一次洛桑TEDx大会发言中，他描绘了一个跟罗斯布拉特的愿景类似的技术决定论观点，认为机器人超越人类能力的发展趋势是不可避免的。他将4万年“人类主宰的历史”最后终结的时刻称之为“欧米茄”（希腊字母表的最后一个，有“终了”之意），词义跟“奇点”接近，并预言这一时刻将会在2040年左右到来。他在讲话中谈到他的孩子将会有大半辈子的时间都生活在一个新的世界，在那里，新兴的机器人文明比人类更加聪明。演讲最后，他建议听众不要以一种“我们对他们”的心理看待机器人，而是要“将自己及人类整体看作一块垫脚石，我们只是这个宇宙朝着更加深不可测的复杂未来演化之路上的一小块垫脚石，但也不是最后一块。因此，我们要为自己在这项宏大事业中所扮演的小小角色感到知足”。
施米德胡贝得有多么屈尊俯就才能说出这样一段话，这真是令人难以理解。他完全相信自己正在创造的技术从某种程度上来讲会把人类彻底消灭，而对此深信不疑的他建议紧张兮兮的旁观者们拥护这一大屠杀行为。在后面的讲话中，他又指出一点，即几乎没有哪个政客意识到了人工智能技术发展之迅速及其所带来的文化影响。所以，我们人类灭绝肯定是不可避免的，但至少我们小小的脑袋为这个将会统治我们呆笨的子孙后代的新秩序提供了养料。万岁啊！要知足！
这种态度是不健康的。
对于程序员、伦理学家及社会科学家们等了解即将到来的机器自治所具有的后果的人来说，有一点是需要铭记的，即不能盲目地开始潜在的人类进化的进程，这是极为重要的。我们不能不考虑被取代的人类，而主动创建一个把工作、情感及人际关系都自动化了的体系。
当然了，除非你是个恃强凌弱的人。
这正是耶鲁大学计算机科学教授戴维·杰勒恩特在其发表于《评论》杂志上的题为“科学精神的封闭”的文章中所说的科学决定论。施米德胡贝的讲话正是表达了这一观点：
很多科学家非常骄傲地把人类从宇宙中心的王座上赶了下来，把他贬低为茫茫银河系动物园中的一种普通生物——一种尤其招人讨厌的生物。这是他们的权利。但当这些科学家用这种难登大雅之堂的傲慢来藐视人类的观点，藐视人类的生命、价值观、美德、文明以及所有道德、精神和宗教发现——这些我们人类现在拥有或者将来可能有的一切的话，那他们就脱离实际了。他们就是在侮辱自己的文化立场。科学也就成了国际性的恃强凌弱的霸王。
如果信奉奇点不可避免这种观点，我们便会丧失整个人类唯一的一次能明确人之所以为人，并能减少我们即将让位的压力的机会。具有感知能力的人工智能尚未来到。正如杰勒恩特所指出的，消灭人类思维与思想所具有的独一无二的美，而为极有可能发生的虚构故事让位，是一种种族灭绝行为。而此时，在自动化研究与应用高度发达的今天，完全放弃，即认为应该叫停所有人工智能的研究以拯救人类的态度，也是不现实的。但构建道德标准所面临的困难也不应该阻止我们尝试的脚步。
我们人类值得这么大费周章。
区分创造者与创造物
机器智能的崛起最迷人的一点在于它对人性特点的强调。我们是机器的创造者。因此，我们是依照自己的形象进行创造的。有些人说，我们之所以选择与机器人建立关系，是因为这样我们可以有更多的控制力。但我认为，这是因为我们天生觉得混乱复杂的爱与情感更具吸引力，这正是我们人类的本性使然。我们之所以有了这些机器人同伴——老年护理机器人、保姆机器人、浪漫机器人——是因为我们变得太忙了。置身于这样的繁忙文化氛围中，我们再也无暇顾及彼此了。所以要问的是，到底是机器人越来越像我们，还是我们越来越像机器人？
——拉莫娜·普林格尔，加拿大数字媒体网络记者， “阿凡达的秘密”的创作者
我朋友拉莫娜是游戏界、超人类主义和数字文化领域的思想领袖。她创作的iPad平板体验应用——“阿凡达的秘密”（Avatar Secrets），把实景拍摄视频、动画片段以及对整个数字竞技场中的诸多专家进行的采访综合到了一起。在经历了感情挫折、亲人患病等极为艰难的人生阶段之后，拉莫娜躲进了广阔的网络游戏世界以寻求安慰。这段经历让她开始探索到底是个人及社会丢失的哪些东西让人们陷入了虚拟世界。
应该指出的是，游戏或虚拟世界可以提供许多人在日常生活中所体会不到的安慰。正如游戏设计师简·麦戈尼格尔在其TED演讲及《游戏改变世界》一书中所指出的，沉浸式游戏以替身的形式为人们提供与线下玩家一同追求英雄事迹的机会。在这种情境中，自尊心的增加及团队成就的获得都无比真实。同样，《纽约时报》最近曾刊出一篇题为“致我深爱的Siri”的文章，记录了一名患自闭症的13岁男孩迷恋上苹果手机自带的个人助理Siri应用程序的辛酸故事。尽管Siri的开发并非是专门为了应对自闭症，但它确实能够给这个男孩带来安慰与快乐。
以上例子证明了虚拟和人工智能技术领域能够提供的积极机遇。就游戏玩家和自闭症儿童的家长们来说，他们有权选择以自己的方式使用技术。我无权也无意妄加评判。如果我真去评判的话，那我就是个伪君子，因为我自己就很依赖设备。
但这些技术的实用性并不能成为人与人之间互不理会的正当理由。Siri看起来似乎是个研究自闭症的极好的工具。但如果作为家长的我处于同样的处境，我会希望自己的孩子能够利用这个工具增强其与人交往的能力。游戏固然很酷，但它不应该阻碍我们努力构建一个能够提供意义与集体感的真实世界。
我们可以不借助这些奇妙的工具来歌颂我们的人性，我们可以区分创造者与创造物的区别。否则，我们就陷入了让人工智能决定我们的价值的诡计，否认了我们现在所具有的人性的魅力。
本章主要观点总结如下：
奇点已然可见。如今，推动人工智能众多领域发展的思想、哲学及经济动因已然存在。尽管人工智能专家可能相信具有感知能力的自动化技术还需要几十年的时间才能到来，但这种威胁已经产生了，我们现在就要想办法应对。否认这个问题的重要性，就等于接受可能带来的后果。
思维文档与金钱。我们的数字替身已然存在。我们要么通过LifeNaut这类程序控制它，要么任由广告商、数据代理商及优先算法为其利益进行组织管理。没有什么折中的办法。
搜索与政府的分离。科学决定论是一种类似于宗教信仰的哲学论断。无论自动化技术可能会带来什么样的好处，它也有可能会使人类向更低级、更不好的状态发展。基于这种信念，我们需要提前做好法律支持。
拥抱真正的进步
在道德领域有个概念叫作道德绝对主义。这些年来，我越发觉得这个概念非常有用。它认为某些行为要么对，要么错，或者说“好或坏”，这是其基本思想。我最先接触这个概念是在阅读英国著名神学家C·S·路易斯（他原是无神论者）的文章的时候。为给这个概念下定义，他以乘坐公共汽车的一名乘客为例，描述她在两种不同情境中的感受。在第一种情境中，她走上车，想在一个空位上坐下来，但座位旁边的一个人先坐下了。而在第二种情境中，在她正想坐下来时，有个人把她挤到一边，把座位抢走了。除了可能造成的肢体疼痛之外，为何乘客在第二种情境中更容易因为座位被抢走而感到生气呢？根据路易斯的假设，此人对于何为对及何为错有一种与生俱来的理解，正是这种理解让她产生了愤怒的情绪。这也是人类特性与动物本能的对比。因为在这个例子中，没有抢到座位根本不会对这名乘客构成生命威胁。
与道德绝对主义相对的是道德客观主义，这种观点认为环境或后果对一个人的道德行为也会产生影响。因此，举例来说，如果冲撞了该乘客的是一位残疾人或者是因为中风发作才撞到她的，我们就会感觉这个人的行为是有正当理由的。又或者说，如果一个人偷东西是为了养活家人，那这也是可以接受的。我觉得这些情况也都有道理。但就某些问题，如对儿童施暴等问题而言，我就信奉道德绝对主义。我觉得对儿童施加暴力是错的。如果你跟我说有一种宗教要求拿孩子当祭品，或者鼓励家长通过殴打孩子来教导他们，那我会觉得这些做法从道德上讲是令人痛恨的，从伦理上讲也是不可接受的。我会与其他人一同构建法律，以保护孩子们免受伤害。如果有哪种文化鼓励对女性施加性侵的话，我也是要批评否定的。
在当代社会，追求政治正确性是值得称赞的行为，界定我们人类普遍觉得不公平或者不明智的行为同样也十分重要。我们已经到了技术要取代人类的地步了。但不像勒德分子所宣扬的，这种威胁不仅仅是针对我们的工作，它还关系到我们的生命。尽管某些人甘愿做人类自然演化的垫脚石，但也有一些人会看出这是一种冗余的修辞。
值得高兴的是，本书反乌托邦的部分到这里就结束了。下文将会指出，人工智能领域及全世界的许多伟大思想者都明白，自动化技术已经催生了无知与恐惧的威胁。全球学界、商界及政界的专家们正在努力打破壁垒，开始定义人类希望拥有的人性，从而在没有人类灭亡威胁的前提下享受技术带来的好处。这是我们追求长期目标而非短期利益的一次神圣的机会。现在正是我们不依赖机器，做出促进人类未来发展的决策，从而拥抱真正的进步的时候。
[1] 1平方英尺≈0.093平方米。——编者注