大分离三种威胁各自停在哪一步

01

总动员解释了扩展，没有规定权利

原章导读1793年春天，欧洲各王朝派出军队，要把法国大革命扼杀在摇篮里。巴黎的革命者宣布全国总动员，发动作者所说的第一波全面战争。8月23日，国民公会下令：直到敌人被逐出共和国，全体人民处于征发状态。动员是普遍的。十八岁至二十五岁的未婚公民，或无子女的鳏夫，首先参军；青年打仗，已婚男子制造武器、运送粮食，妇女制作帐篷和衣服并做医务，儿童把旧布改成绷带，老年人到广场鼓舞士气，宣传对国王的痛恨和共和国的统一。

几乎同一时刻，《人权和公民权宣言》认定公民价值同等、政治权利平等。作者问这是不是巧合，但写明学者对确切关系仍有争辩。此后两个世纪的常见论点是：给了权利，士兵和工人表现更好。这是“据称”，不是结案。查尔斯·艾略特1917年8月5日在《纽约时报》说，民主军队强于独裁军队，由民众决定和战的国家也更强。1918年威尔逊对参议院说，若没有女性进入过去属于男性的工作，美国和其他参战国打不赢；不给完整权利，就是失去信任。

编者分析编者分析必须把两类问题分开。某些历史条件是否曾经让政治权利更容易扩展，这是解释。1793年的征发、1917年的战斗力文章、1918年的投票权游说，问的都是大规模人力战争有没有给过“人人有用，所以应有权利”一个支点。一个人的权利应不应该取决于市场用途或军事用途，这是规范。前一步即使成立，也推不出后一步。宣言和征发令可以互相支撑，也可以只是并列。尾注还指向一项试图证明民主国家士兵战斗力较强、并被正反双方广泛引用的研究。正文没有把它写成已经关闭的证明。

原章导读到了21世纪，作者推演大多数人可能失去军事和经济价值。军队靠少数精兵和会操作先进技术的专家。无人机与蠕虫病毒取代人海，关键决定交给算法。从尼布甲尼撒二世到萨达姆·侯赛因，战争仍按人的步调；网络战可能只有几分钟，命令报到最高层时也许已经结束。2093年是思想实验：老旧的欧盟用无人机和机器人镇压新的法国大革命，大多数人顶多当人肉盾牌。他另把当下说成事实：许多不对称冲突里，大多数公民只能做人肉盾牌。两者不能合成“人不再被征召”。1916年索姆河的士兵与无人机并置，对照的是需要无数双手的战场。

他还从正义上推进一步。人类士兵会劫掠和误杀，伦理算法遵守国际刑事法院规约的可能性更高。这一步要规约真被执行，误击仍有人负责。表现更好，不回答谁授权。经济是同一条链。锤子和按钮贬值之后，“伦理与增长可以兼得”就受挫。20世纪的说法是开放既道德又有利，土耳其、巴西或中国若要繁荣就该效法，许多专制政府后来开放也多半为了经济。大众若不再能被用来获利，仅靠伦理还够不够？这是问题，不是政策。

02

意识可以缺席，任务却能被拿走

原章导读过去半个世纪，计算机智能进展很大，意识几乎停着。据作者所知，2016年的计算机并不比20世纪50年代的原型更有意识。革命在于智能与意识脱钩。下棋、开车、诊疗可以靠模式识别，不必先有科幻片里的意识。对军队和企业，智能必要，意识可有可无。首尔的司机可以听音乐、为孩子落泪，系统只要把人更快更便宜地送到。马在嗅觉和跳跃上超过福特T型车或兰博基尼，仍被取代，因为它输在系统要的那几项功能。马不是权利主体。人是否如此，不能由马推出。

2015年8月，谷歌的实验车因行人刹车，被走神的人类司机追尾。作者推论：车若都由相连的算法指挥，这种相撞就不会发生；省下时间、金钱和性命的同时，也会砍掉几千万人的工作。两笔账不是一回事。三维打印进入手工，算法进入交易。2013年4月23日13点07分，叙利亚黑客用美联社的账号谎称白宫遇袭、奥巴马受伤。道琼斯指数60秒跌150点，约1360亿美元蒸发，13点13分几乎收回。2010年5月6日14点42分至14点47分跌1000点，一万亿美元消失，三分多钟后回到原位。专家说不清错在哪一套算法。诉讼只说明速度差会进法庭；尾注里有驳回报道，侵权并未定案。脑扫描测谎尚未实现。教学程序能按人调整，也不等于学习失去意义。

医生的时间被压得很短，也记不全病史。沃森2011年在《危险边缘》赢过人类，被写成诊断工具：药物和疫情可以每天更新，亲属的基因组也能一并看。一项实验称，肺癌诊断算法约90%，医生约50%；CT和乳房X射线已常用算法。障碍不会明天消失；一旦消失，得到的是无数副本。一千亿美元若换来这种副本，长期仍可能比逐个培养医生便宜。创意工作会留下精锐，却不再需要几百万名家庭医生。编制变瘦不是道德升级。2011年旧金山的机器人药剂师第一年开出超过两百万张处方，作者说没有出错；人类约错1.7%，美国一年超过五千万张。这是转述。芝加哥的Mattersight按语调转接客服，比的仍是任务，不是体验应否被尊重。

03

无用的阶级是一条会停的链

原章导读高度智能而没有意识的算法若把工作做得更好，多余的人还能有什么功用？公元1800年前绝大多数人在农业。工业革命后，发达国家的人进入工业，服务业扩大。作者给出2010年的美国数字：农业2%，工业20%，服务业78%。算法若更能教书、诊断和设计，这78%就不再自动是避难所。旧职业消失时曾经出现新职业，作者说这不是定律。机器只在体力上竞争时，人还有认知任务；算法若在记忆、分析和识别上超过人，退路就窄了。

三项原则是：生物是算法；材料无关，木珠铁珠都是二加二得四；所以没有理由说，结果有效时非有机算法就永远不能赶上。那种“永远”常常不过一二十年。面部识别后来超过了人。作者写道，1996年2月10日深蓝击败卡斯帕罗夫。2015年2月，DeepMind只凭像素和得分学会49款游戏。2016年3月AlphaGo在首尔以四比一击败李世石；赛前多数人看好李世石，赛后多数人认为人已赢不了它和后来者。

2002年，奥克兰运动家队的比利·比恩用算法找被低估的球员。成本4400万美元的队伍，能与1.25亿美元的纽约扬基队抗衡，并成为大联盟第一支二十连胜的队。富队随后在球员和软件上花更多钱，优势消失。2004年利维和默南仍把卡车司机当作难自动化的例子；十几年后谷歌和特斯拉已经在做。狩猎要认路、协同和治伤，现代岗位窄得多。作者认为，对大多数工作，99%的人类特性是多余的。优步用少量员工和算法管理数百万司机。2014年5月，Deep Knowledge Ventures让VITAL与另外五名董事一样投票，并投资使用OncoFinder的Pathway Pharmaceuticals。作者讽刺它偏爱把权力交给算法的公司。这是讽刺，不是定律。

数百万人开车时还能罢工、投票；换成单一算法，财富就进极少数所有者的口袋。作者设想算法自己成为法人。丰田和阿根廷没有身体，也能起诉；五千年前恩基和伊南娜主宰苏美尔大部分地区。法人不是意识，不能证明所有者必然变成程序。艺术也不被留作净土。柯普的EMI编了七年，一天写出五千首巴赫风格的赞美诗；揭晓后有人发怒。拉尔森在俄勒冈大学让听众分辨巴赫、EMI和他自己，结果EMI被当成巴赫，巴赫被当成拉尔森。2011年两千首俳句不署名。隐藏作者时，情感归因会错。这仍不能推出没有市场的人失去权利。

19世纪的无产阶级推动了社会主义；作者认为自由主义吸收其中一部分之后，才压过苏联和东欧。21世纪可能出现没有经济、政治或艺术贡献的新阶级。2013年9月，弗瑞和奥斯本估计，美国47%的工作在未来二十年里被取代的风险很高。作者落到2033年：电话营销员和保险业务员约99%，裁判98%，收银员97%，厨师96%，服务员和律师助手94%，导游91%，面包师和公交车司机89%，建筑工人88%，兽医助手86%，安保84%，船员83%，调酒师77%，档案管理员76%，木匠72%，救生员67%，考古学家只有0.7%，因为既要极细的识别，利润又薄。这些是估计，不是已经发生的失业，也不是后文那个87%。四十岁转行未必成功，2030年或2040年也无法预知。许多人做不到一辈子重造自己。就算养得起无事可做的人，作者仍问靠什么打发时间，并把药物和三维虚拟世界称为对“生命神圣”的一击。

编者分析编者分析要打在这一问上。失去用途，即便发生，也不自动取消规范意义上的权利。“何来神圣”把用途写成了神圣的条件。解释的链是三步：算法在特定任务上超过人；任务若覆盖足够多的岗位，大多数人失去经济和军事用途；制度若仍只用“人人有用”来支撑权利，政治理由就会变弱。技术困难、政治反对、尚未发现的能力，或一套不把资格写成生产能力的制度，都可以让链停住。作者自己后文也说，第一项不是预言。伯斯特隆姆所警告的、为了算圆周率而改写宇宙的超级智能，是另一条更陡的情节，不能代替这条慢的制度链。

04

两个87%，各管一件事

原章导读第一项只是可能。即便人仍被需要，第二项也可能发生：系统比每个人更了解他，并替他做重要决定。人可以留在岗位上，失去的是“只有我知道我自己”。这也不等于第三项。这里仍是人类整体有价值，只是价值不再经过不可分割的个人。

个人主义被写成三个假设：有一个剥得出来的内在声音；这个自我完全自由；因此只有本人知道自己，选民、顾客和情人最有权威。生命科学被用来逐条反对：人是许多算法的组合；决定由基因和环境塑造，可以是被决定的或随机的，但不是自由的；外部算法理论上可以比本人更清楚感觉和欲望。19世纪和20世纪没有这种监测能力。克格勃和联邦调查局也分析不了全部生物特征、基因组和每一次互动。21世纪被写成比较级：不必全知、无错，只要错得比本人更少，把人生大事交出去就被说成合理。

医学被说成已经跨过这条线。2014年耶鲁的人工胰脏试验有52名患者，腹部的传感器和泵由手机程序释放胰岛素或升糖素。眼镜、尿布和手环把眼泪、粪便、心跳变成数据。“量化自我”的箴言是通过数据认识自己。下棋还是打网球，回答可以来自胆固醇、左前额皮质和家族病史，而不是内心。第一个87%是疾病风险，只属于2013年5月14日朱莉在《纽约时报》公开的这则案例，不是今日的临床建议。文中她写自己带BRCA1并做了双乳切除；作者所引统计是，带有此类变异的女性，乳腺癌概率高达87%。当时她没有患病。感觉说放心，数字说定时炸弹。书中同时写明，她的情绪和独特个性仍然是决定的一部分；另一位携带同样致癌变异的人，可以不做手术。选择并没有全部交给算法。此后书中假设还有另一种变异，并用括号声明那只是假设，用来问：如果评估概率的能力本身被削弱，人还能否信任自己的感觉。这是思想实验，不是已经证实的决策机制。

第二个87%是后文台词。作者用1993年的电影作对照：片中机械人在2074年为自由逃走，现实里的朱莉公开隐私来换健康。诊所要等犹豫、热茶和挂号；搜索词快得多。他假设伦敦每天约十万次出现头痛、发烧一类的词，升到三十万次就是流感。2008年的谷歌流感预测仍在开发。出于隐私，据称它只追踪搜索词、不读私人邮件。书上接着说，即便只是这样，也已经比传统体系早十天发出警报。

编者分析编者分析停在边界：尾注同时列入一篇2013年的报道，标题即指判断出错。正文没讨论这个反例。早十天不是主权。23andMe收九十九美元，用唾液看二十三对染色体。准不准取决于数据库多大。书中记下的担心是，隐私一严，市场可能让给中国。这不是判决。

原章导读咨询台词里，系统建议在约翰和保罗之间选约翰，因为大约有87%的概率，长期满意度更高；它还说远古演化把外表在择偶里算成35%，自己的统计只算14%。这些全是作者写的话。这里的87%是虚构的满意度概率，不是患癌风险，也不是某件产品的实测准确率。把两个87%焊成“算法准确率87%，所以自由主义结束”，是把三件不同的事粘在一起。民主被放进同一逻辑：人在投票站记得的是极端和最近的事，减税、好处和当天的感冒都能改写四年的抱怨。作者说外部系统会记得细节，也知道人生病时会稍微有“右”倾倾向。它不必永远正确；只要比人更了解人，自由主义就会垮。

脸谱网委托的研究测的是问卷。86220名志愿者答题，算法用点赞预测：超过十次高于同事，七十次高于朋友，一百五十次高于家人，三百次高于配偶。成瘾程度和社交圈规模上，自评也不如算法。论文设想重大抉择可以交给计算机。书中再写选举场景：平台会知道某州选情，还有32417人未定。这是“会知道”里的数字，不是研究清点的名册。珠子换岛屿，说的是用数据换邮箱和影片。

编者分析编者分析停在误差与权威之间。题目更准，不等于可以替人选配偶、选票或生活。目标谁定、出错谁担、输出算不算主权，这三样若还在人手里，第二项就停在咨询。

05

先知要再跨一步，才是君主

原章导读导航应用Waze知道堵塞、事故和警车。直觉向右、它向左的时候，用户迟早改信它。这时它仍是先知。接到自动驾驶上，人只指定最近、最美或最干净的路，它才成为代理人。君主出现在思想实验里：人人都信它，一号路堵塞、二号路顺畅，若它告诉所有人，二号路也会堵死。为了整体，它或许只告诉一半人。作者没有说这套应用已经这样分配过。从“更准”走到“应当隐瞒”，中间要有人同意整体目标压过每个人当时的知情。

Cortana若能读文件和邮件，可以在多巴胺过低时建议先别签字，也可以替主人谈会议和婚配。买得起新版的人再加一层优势。新年的决心要锻炼，一周后的体验要食物。闹钟可以按掉，助理却知道按哪一个内部按钮。阅读器记得人忘掉的页；人若必须整天在线才不被接管，断开才等于死亡。那仍是前提，不是事实。

作者把动力追溯到生物学：一旦认定生物就是算法，有机与无机之间的墙就拆了，权威可以从个人转到网络。数百万人已经乐意把生活放到网上。他区分两种恐惧。外部监测可以重演独裁者对身体和大脑的控制；更大的威胁却可能是从内部散掉。为了按每个人的愿望提供医药、教育和娱乐，机构把人拆成可监测的过程，不可分割的个体就变成一种信仰。这仍是第二项：人类整体还在被服务。它不是第三项。

06

再升级是另一条路

原章导读第三项是少数人仍然不可或缺，算法也难以了解他们。他们由升级后的人组成，大多数人则成为同时受算法和超人类主导的低等阶层。自由主义可以忍受贫富差距，因为它给不同体验同等价值，而不是同等体验。富翁会读农民的故事。音乐剧里，好位子要价数百美元，观众仍会为冉·阿让偷面包去救侄子、因而入狱十九年感到同情。穷人一票，富翁也是一票。作者问：差距若变成身体和认知上的真实差异，这套办法还行不行？

朱莉的检测要价三千美元，还不包括手术。作者对照的是十亿人每天收入不到一美元，十五亿人在一到两美元之间。到2016年年初，六十二名最富的人拥有的财产等于最穷的三十六亿人；全球人口约七十二亿。检测以后可以变便宜，新疗法却会继续昂贵。历史上的蓝血和天生更聪明多半是胡说。未来可能第一次出现真实的身体差距。这些数字说明的是写作时所引的支付能力，不是物种已经分裂。

疫苗和抗生素从富人开始，后来全体受益。作者认为21世纪重演只是愿望。医学从“治到和大家一样”转向“让健康的人更强”；普及一次，基线就抬高一次。到2070年，穷人的医疗仍可能好于今天，与同时代富人的差距却更大。拿一百年前或2017年作安慰，打不中这个比较。2070年是对照，不是记录。另一条只是可能：国家和精英也许根本不想再为穷人提供医疗保健。20世纪需要几百万健康的士兵和工人。1914年日本精英为穷人接种，在贫民区建医院和污水系统，因为国家需要这数百万人。群众时代结束，资源就可能改去升级极少数人。

日韩孩子变少，投入却大。印度、巴西、尼日利亚被比作长车：头等车厢接近最富裕社会，数亿人坐在后面。精英是处理后面的问题，还是只升级少数人？作者说最无情也最有效的办法，可能是拆掉后排。与把少量孩子培养到极致的国家竞争，需要的也许不是几百万工人，而是少数升级过的人。链是：只有少数人买得起，精英不再依赖大众的兵役和劳动，钱从公共卫生转向增强。任一环不成立就停。出生率下降不是抛弃已经开始。1914年说明依赖能产生公共医疗，依赖减弱却不使抛弃成为应当。

章末把两条路并列。20世纪压低饥荒、瘟疫和战争，要的是所有人的温饱、健康与和平。21世纪若去追求更长的生命、快乐和如神的能力，目标是越过基本线，就可能造出新阶层。那些人看普通人，会像19世纪欧洲人看非洲人。这是作者的类比。那种目光嵌在帝国、种族理论和暴力里，本章没有重写那段历史，技术差距也不必长成殖民帝国。类比加压，不能代替论证。紧接着的“又或者”把两类人的分裂，和决定权完全转到算法，写成两种都会压垮自由主义的情况。社会仍重视人类整体、只是不重视个人，与只有超人类有价值，是两种制度。

编者分析编者分析要把它们分开，也不能写成已经发生的同一种现状。用途消失，也不自动取消规范上的权利。

原章导读下一章从缺口接下去，但不是继续计算谁会失业。新的信仰更可能出自实验室，而不是阿富汗的洞穴或中东的宗教学校。下一章把它们分成两支：科技人文主义仍想造出能对抗无意识智能的新人；数据主义认为人该把位置交出去，留到再下一章。本章只指出缺口，没有选定填充物。

07

条件停在哪里

原章导读这里是条件性的政治推演。任务表现与意识分开，用途从大多数人身上抽走，制度又不再用“人人有用”或“只有你了解你自己”来支撑权威，三步里缺任何一步，推演就停。这不是把种群规模和个人处境分成两种历史尺度，也不是在就业不可预知时讨论如何安置技能。那是另外两卷的问题，这里只标出边界，不是对它们的细读。本章能想的是台阶，不是某一年的就业数字，也不能把写作时的情境写成后来的事实。

第一，大规模人力与权利扩展的联系，究竟解释了哪些权利。把1793年的征发、1917年的战斗力文章和1918年的投票权游说分开看，再找没有引用战场表现却仍然扩展的权利，以及人显然有用却没有得到的权利。同时出现若只发生在某些战争里，就不能改写成“资格本来就是用途”。

第二，外部记录比感觉更准时，准的是什么。2013年5月14日那则公开案例所引的患癌概率高达87%，只属于该案，不是今日临床建议。咨询台词里约87%的长期满意度，是思想实验。十次、七十次、一百五十次和三百次点赞，是问卷预测超过同事、朋友、家人和配偶的门槛。误差更小，是否等于可以替人选择配偶、选票或手术？只要输出仍是证据而不是主权，第二项就没有走完。

第三，医学从拉平转向增强之后，20世纪那种扩散还要哪些条件才重复得了。先写出1914年依赖数百万士兵和工人的条件，再问这些条件减弱时，拆掉后排为什么会在策略上看起来有效。有效是算计，不是权利失效。2070年只作对照年份，不用来报告已经到来的结果。