今日简史 · 第18章 · 真相 · PDF 374–385

未来不是科幻小说:无法逃离的母体逃出布景以后,欲望从哪里来

科幻常让英雄找到未受操纵的真实自我;如果自我也由环境与身体塑造,故事还怎么继续?

开始阅读

可带走的原则

区分作品提供的思想实验与科学证据,同时检查故事怎样预先定义自由、幸福和自我。

一个普通成年人从摄影棚布景的门走向日常城市,身后可见有限拍摄设施,前方生活仍有广告、亲友和习惯;原创编辑情境,不复制电影人物服装或标志道具。
一个成年人从摄影棚布景的门走到日常城里。身后是有限的拍摄设备,前面仍有广告、亲友和习惯。走出布景,还带着哪些愿望,是这个问题。图不说现实已被证明是模拟(原书 PDF 375—379 页)。
一个普通成年人从摄影棚布景的门走向日常城市,身后可见有限拍摄设施,前方生活仍有广告、亲友和习惯;原创编辑情境,不复制电影人物服装或标志道具。

一个成年人从摄影棚布景的门走到日常城里。身后是有限的拍摄设备,前面仍有广告、亲友和习惯。走出布景,还带着哪些愿望,是这个问题。图不说现实已被证明是模拟(原书 PDF 375—379 页)。

本章的关键判断

  1. 作者认为科幻影响公众技术观,应避免把有智能直接写成有意识。
  2. 外在操纵被解除后,人的愿望仍有形成历史;真实自我不是简单藏在系统外。
  3. 体验来源可能被操纵,痛苦却仍是真实的伦理问题。

可带走的原则

区分作品提供的思想实验与科学证据,同时检查故事怎样预先定义自由、幸福和自我。

01

科幻不是无关现实的消遣

原章导读 赫拉利认为,人们接触电影和电视剧的机会,远多于阅读机器学习、基因工程的研究,因此艺术会实质塑造公众对技术的想象。他批评一些作品把智能与意识混为一谈,把注意力放在机器觉醒反抗,却忽略少数人利用算法支配多数人的权力问题。对《机械姬》,他更提出一种性别政治解读,认为女性机器人与男性创造者的设置可能在讲别的焦虑。

编者分析 这是作者的作品解读,不是对创作者唯一意图的证明。艺术可以用机器谈性别、亲密与劳动,也不必扮成科研论文。公共讨论需要的是辨认它正在作何种比喻:一部电影让人感到害怕,不等于已证明对应技术能力;但它突出谁、忽略谁,确实会影响人们提出什么政策问题。

02

门外的生活,可能仍是学来的愿望

原章导读 《黑客帝国》和《楚门的世界》让主角发现生活被安排,并努力逃出控制环境。作者认为,两部作品最后都保留了一个安慰:里面有被蒙蔽的真实自我,外面有可以抵达的真实生活。但楚门追求的爱情与旅行,仍很像作品所属文化提供的理想;尼奥离开系统后,也继续受恐惧、爱、欲望和冲突驱动。

编者分析 这不是说逃离囚禁无意义,或自主权不存在差别,而是说自由问题不会在打开一扇门后结束。一个人可以解除具体强制,却仍需要理解自己为何想要某种生活。把过去影响全部删除也不是现实选择;较可行的自主,是能认识影响、反思目标,并拥有重新选择与实践的机会。

03

现实有争议,体验仍要认真对待

原章导读 作者以大脑处理经验、社会提供故事为两层盒子,挑战有一个完全未受塑造的自我等待被释放的想法。他甚至设想整个世界是模拟,但指出,这也不能取消人在其中感到的疼痛、恐惧和爱。解释经验的世界图景可能改变,屠杀受害者的痛苦却不会因为背景被重新定义就变得不重要。

编者分析 模拟世界在这里是思想实验,不是现实证据;心理体验真实,也不表示每个人对外部原因的解释都正确。这个区别非常重要:可以承认某人的恐惧,同时核查是否真的有其所说的威胁。对体验保持关切、对事实保持检验,两者应同时成立,才不会把怀疑一切变成冷漠的借口。

外在操纵与内在形成历史。外界安排与叙事;生物过程;学习到的欲望;解除一层外部控制;仍然真实的痛苦与感受
外界的安排和叙事、身体里的生物过程、学习来的欲望,要分开。解除一层外部控制之后,痛苦和感受仍可能是真的。图比较的是外在操纵和内在如何形成,不宣称现实已被证明为模拟,也不把智能自动等同于意识(原书 PDF 374—380 页)。
  1. 外界安排与叙事

  2. 生物过程

  3. 学习到的欲望

  4. 解除一层外部控制

  5. 仍然真实的痛苦与感受

把图中的比较与条件分开看。

外在操纵与内在形成历史。外界安排与叙事;生物过程;学习到的欲望;解除一层外部控制;仍然真实的痛苦与感受

外界的安排和叙事、身体里的生物过程、学习来的欲望,要分开。解除一层外部控制之后,痛苦和感受仍可能是真的。图比较的是外在操纵和内在如何形成,不宣称现实已被证明为模拟,也不把智能自动等同于意识(原书 PDF 374—380 页)。

  1. 外界安排与叙事

  2. 生物过程

  3. 学习到的欲望

  4. 解除一层外部控制

  5. 仍然真实的痛苦与感受

把图中的比较与条件分开看。

04

谁在头脑里坐主位

原章导读 作者把《头脑特工队》视为更激进的作品。莱莉的困难并不靠发现一个隐藏灵魂解决,而通过不同情绪机制重新协调。乐乐起初把快乐当成主导原则,最后才看见悲伤等情绪也有作用;身份和幸福由冲突与合作形成,不能等同于某一个控制角色。

编者分析 拟人化情绪是一种有启发的表现方式,却不是大脑内部真有控制室的科学证明,也不能单凭动画裁决自由意志。它能帮助读者看到的,是一个较具体的心理问题:把某种情绪视为唯一真正的我,可能压抑其他需要;理解复杂性也许比追求永远快乐更有帮助。

05

当控制者不让人痛苦,反对还基于什么

原章导读 《美丽新世界》把问题推进一步。世界政府不主要靠恐惧,而靠条件塑造、消费和药物,让居民满足。作者认为这种控制比纯粹暴力更难批评:如果没有战争、饥饿和明显不满,制度为什么仍令人不安?小说中控制者与约翰的争论,围绕舒适与真、美、自由、冒险的价值展开。

控制者反问,为了保留英勇、挣扎和选择,是否也愿意要疾病、衰老与不确定?约翰拒绝只剩舒服的生活,但他对莎士比亚和宗教的眷恋同样有自己的塑造历史。他离群之后又被公众关注困住,最终走向自我毁灭,小说没有给出轻松逃脱的结局。

编者分析 这场对话不必被接受为只能在痛苦与被操纵的幸福之间二选一。可以消除可避免的疾病,也保留知情、拒绝与价值多样性;可以重视满足,也不让统治者独占满意的定义。关键是谁设计条件、居民能否理解和修改它,以及看起来满意是否真的足以授权永久控制。

06

不把自己的故事当最后一层

原章导读 作者由此认为,二十一世纪需要探索的或许不是逃到一个完全无影响的纯粹自我,而是摆脱对自我的狭窄定义。他把科幻当作检视预设的工具:我们想象机器人之前,自己的心智就已经受到文化与生物塑造,单纯打倒机器人不能处理这一点。

编者分析 从作品带回现实,最有用的提问不是我是否活在电影里,而是哪些目标已经被故事设定为当然,哪些人有权改变它。扩大反思不应取消具体权利:解除强制、保护隐私、允许拒绝,仍有实质价值。承认选择有来处,可以使自由更具体,而不是把所有自由宣布成幻觉。

论证比较

三部作品把自由放在哪里

比较作者的解读,同时保留作品与现实的边界。

逃出被安排的外在环境

原书证据

尼奥和楚门离开控制网络。

怎样推到下一步

解除外部操纵是重要的自由形象。

还需要什么条件

门外的愿望也有形成历史,逃出不等于不受任何影响。

PDF 375–377

协调内部不同情绪

原书证据

莱莉不能被乐乐单独代表。

怎样推到下一步

身份可能来自多种机制的合作与冲突。

还需要什么条件

动画隐喻不是神经机制或自由意志的实验裁决。

PDF 379–380

对被保证的满足保留异议

原书证据

约翰与控制者争论舒适、冒险和不快乐的权利。

怎样推到下一步

幸福指标不能自动回答自主与价值问题。

还需要什么条件

不必接受消除疾病就必须接受全面控制的二分。

PDF 381–385

好作品可以改变问题,但作品设定本身仍要接受追问。

还可以想下去

如果一种服务能让你持续满意,你还需要哪些知情和拒绝权,才愿意交给它?

查看来源、页序与论证限度

尤瓦尔·赫拉利著,林俊宏译,中信出版集团。《今日简史:人类命运大议题》。第2章作者正文是 PDF 35–58;59–72 是译者百科,不计入本章论证。

本章作者正文:PDF 374–385。原章阐释与编者分析分别标明;画面为对应论证的概念表达。

  1. 科幻影响公众对技术问题的关注分配。

    作者推断 · PDF 374–375

    作品不等于科研证据,性别解读也不是唯一解释。

  2. 解除外在操纵不等于得到没有形成历史的自我。

    作者推断 · PDF 376–379

    不否定摆脱强制的现实价值。

  3. 模拟背景不取消体验痛苦的伦理意义。

    作者推断 · PDF 377–378

    思想实验不证明世界是模拟。

  4. 头脑特工队被作者用于说明多种机制共同形成身份。

    原书叙述 · PDF 379–380

    拟人化控制室不是脑科学实物模型。

  5. 满足不自动赋予控制者决定全部价值的权利。

    编者分析 · PDF 381–385

    不必将自由与减少疾病设为互斥。