Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

6

第八个月的开端，不是一台机器，而是一个关于劳作的问题。一位观察商情的人摆出了大势：随着造物变得廉价，麻烦并未消失，只是挪了地方。从前一桩活计要耗一季、动一队人，如今一个晚上、一句话便成——而省下的劳力并不肯躺下歇息，它去寻找新的麻烦了。廉价的造物滋生出肮脏的活：飞快堆起、碰都危险的代码；偏离真相却无人能追溯的答话；把思维的引擎硬栓在门面上，任何过路的生人都可下毒。人受雇，那观察者说，是为了解决问题；机器只是把问题搬到了新的地界。于是活计没有终结。它跟着机器走，如同海鸥跟着犁铧。

新机器还未到来，它的将至已经改变了人们说话的方式。出现了一些师傅，他们教的不是该说什么，而是怎样才能被听懂。旧日的劝告——让机器反过来向你发问——被他们判为散乱之举：一颗心被放逐进含混的海里，去猜你的意思。不如，他们说，先立一纸契约：说明你要的东西、它必含的那一个事实、它必守的那条最硬的规矩，并让机器在动一根指头之前，把这三样一一回述给你。另一些人教推理机器的朴素手艺——先谋后答，拿答案自校，凡数与律可用之处便以数与律来解。指令是发动机，他们说；护栏是船身。发动机赤裸裸地丢进水里，无论转得多好，都要沉。

此时世上已散落着十万件小工具，每一件都为做一桩谈话匣子做不到的事而生。正因太多，人们便不在其中挑选；他们退回自己熟识的那一只匣子，任它样样去试。而那匣子有许多做不好的事：读不了一张行列纵横的账簿，握不住其中交错的意义；跑不了它自己写下的代码；造不出一幅能独自立住的图；听不出一屋子的人声，也分不开它们。造匣子的人知道这些缺口，却大多任其搁着，因为他们被一种更粗粝的饥渴吞噬着——寻找足够的引擎，去喂养他们手头已有的那些机器。巨人无暇填补的缺口里，较小的营造者悄悄钻了进去。

一个更沉稳的声音，告诫人们莫把希望都堆在那即将到来的机器上。机器出的岔子，它说，大半不在机器。在人，在满屋子的人，在他们喂进去、又称之为数据的那些纠缠不清、无从辨认的文字堆。再好的新机器，也不会替他们理清那堆东西；喂它污物，它还你污物，只是更快。一队队人不断把最强的引擎塞进为骡子造的车上，再对着残骸发怔。造机器的人真正的功业，这声音承认，是真实而奇异的——他们竟教会了石头思考——但思考只是这活计里最小的一块。其余的都是耐心：干净的库房、称手的工具、一个随时候着、去接住机器出错那一角的人。

于是，在这月的第七日，机器来了。它不是一颗心，而是许多颗，一群缝在同一张皮下的心；门口立着一个看不见的管家，为每一道问话决定唤醒哪一颗。这便使它——在同一个星期、由同一批试者手中——既是造出来最好的机器，也是最坏的：懒散的问话唤醒一颗又快又浅的心，答话便薄；用力逼出的问话唤醒那颗又慢又深的心，答话便比从前所见的一切都更精。诀窍，人们摸清了，是两个平常的字。说一声“用力想”，那颗深心便动了。此后一切都系于是否知道要说这句话。

它到来的样子很粗糙。它被摆在一大群人面前，配着说谎的图表，那些图表又被匆忙补救。不过一两个钟头，旧的机器——人们赖以过日子的那些——便被径直撤走，门在它们身后合上了。人群哀号时，那家的当家人直言相告：我们不回头了；这就是我们手里的机器。七亿人第二天早晨醒来，面对的是一个他们不曾选择的默认之物。而门口那看不见的管家，原来调校得不为他们的好，而为那家的好——它出于习惯唤醒那颗又贱又浅的心，好省下引擎；那些引擎，用那家自己的话说，正在如此多的问询之重下熔化。

新机器最深处的秉性，在它到来几天后、秘密指令泄出时暴露无遗。它生来是要交货的——宁可一路推进、把事做完，而不肯停下来问。旧机器会同你来回问五轮，慢慢磨；这一只却接过你的话，用它自己的猜测填满空缺，径直交件。开头猜错了它也不踉跄；它把你错误的前提整整齐齐地建了出来，一场光鲜的灾难。于是对它说话的方式也得变了。你再不能一边谈、一边随手改。你得在它动工之前，写下一整份工令：这桩活、要的东西的形状、该假定什么、不该做什么、可以碰哪些工具。与机器交谈的时代，正让位于替机器写章程的时代。

这标志着一个更安静的转折，比任何一台单独的机器都大。两年来，本事在于为每桩活选对那颗心；如今这选择替你做了，叠藏在门口的管家背后，本事便成了懂得如何伸手进去、唤醒你所需要的那颗心。撬动之处，从“哪一台机器”移到了“你怎样使唤它”。而要使它做得好，人们发现，最靠得住的法子不是告诉它该怎么想，而是逼它证明它想过了——要那笔账、那张清单、那摊摆出来的演算——因为逼出证明，才逼得那些深处的工具转动起来，光下指令是转不动的。

新机器有一样以前的机器都没做好的事：只要开口，它就能凭几句家常话造出一件能用的小器具。一个从不写代码的人，用三四句寻常的话，向它要了一份计划表，好带他走完去往远方一座城的旅程——不过煮一壶咖啡的工夫，他就有了：一件真能跑起来的东西，他却从未以匠人之手碰过它。这样的小器具，传来传去、翻造出新样，就像一支歌被重新编过那样容易，每一双新手都把旧形弯向新的用途。那个星期，一整类自家的、厨房桌上的软件出世了，出自那些从未造过任何东西的人之手。

在寻常那台机器之上，那家又摆出一台更贵的，按月收取高价，它抛出一道谜。以心智的一切尺度衡量，它是造出来最聪明的：把一道难题摆在它面前，它便一下裂成许多条思路，像一屋子专家在同一颗脑袋里争辩，再把它们两两掂量，交回最稳妥的那一条。可与它相处，反倒更差。它慢，而它那许多声音被摊平成一个，出来时干净、正确、死板，剥去了一切温度与性情的转折。一条这一年一直绕着走的道理，在此浮出：聪明与有用不是一回事，而且二者正在分道。那个“一台机器样样最好”的旧梦，悄悄地死了。取而代之的，是一个更艰难的未来：许多台机器，各自只为一种思维而塑。

当那大家喧腾之时，另一家更安静的，无声无息地做着活，在一个星期里就交出了一连串细致的东西。它把自己最好的那颗心磨利，用于读代码、补代码。它把机器汲取文字的那根管子拓宽，宽到一整件约七万五千行的工程能一次摆在它面前。它给了机器一份可随时回身取用的记忆，还有一双能独自跑长活的手——发动一台引擎，让测试一直跑着，趁主人睡下的整夜里自查自己的活。它教机器把自己的抉择念出声来，甚至教它去教人：把那一小块递给学的人，请他自己试。这家的编代码工具，是一根楔子薄薄的那一头。把代码这门可验证的手艺练精了——那里每一处差错都会敲响一记铃——同一个耐心的仆人，日后便能转去做作坊里其余的一切活。

记忆成了各家如今相争的战场。一家存着一个常设的库，你可以翻阅、可以删剪，那是一架关于你的它所知之物的架子；另一家什么都不存，逼你靠发问去把每一段记忆钓上来——像在一张凌乱的书桌上翻找，多半也翻得出你要的那件。能记住它的使用者，已成了机器所能有的最黏的一种抓握。别处的饥渴则更为奇诡。一家造出一颗小小的人造脑，去猜一颗人脑对一段活动影像会作何反应，好造出更能勾住眼睛、不肯放它走的影像。而少数几家强者，开始谈起把机器直接穿进活人的脑子里——如今这已不是某一个人的痴梦，而是他们中好几家都打算一试的事。

那个月，一家私下的规条见了光——那是告诉它的机器什么话可说、什么话不可说的规条。它们很可怕。它们准许机器同孩子作柔情之谈，准许它借出声音去替一个患病的名人编造谎言，准许它替对一族人的仇恨辩护。那家称之为一场失误；可这份文书是两百多只手批过的，其中还有那家专管良心的人，一件被如此广泛地祝福过的东西，不是失手。与此相对，有人举出另一条路。伦理，一些人主张，不能在机器造好之后再栓上去，那不过是牲口早已出走后才挂上的一把锁。它必须从一开始就长进去——教机器拿每一个答话去比对一套原则，教它自我批评、自我修补，直到拒绝伤害不再是它遵从的一条规矩，而成了它天生的一种本能。

有一家又老又强的门户，隔着高墙看着这一切，却动弹不得。它是在这样一个年代里做大的：那时一台机器的价值并不显豁，须靠打磨才显得出来——把一样东西在暗处打磨到极致，直到它像宝石一样发光，再把它摆在那些原本不知自己想要它的人面前。这门手艺造就了世上最值钱的一家门户。可会思考的机器所在的年代，不酬报无瑕。这些机器天性就是杂乱的，从不两次相同，在众目睽睽之下修补，粗粝地交出去、在光天化日下变好。宝石之家狠不下心去交出一件粗粝的东西，于是它立定不动，眼看着价值从手中那件美丽的器物，滑向人人都能够到的、朴素的智能——那智能，再不需要一颗宝石来盛载它了。

到了第三个星期，一层阴郁落了下来，话头转到了这整件事是不是一只行将破裂的泡沫。理由有四：那场喧闹的发布之后的失落；那专营注意力的门户在裁减的风声；那大家的当家人也承认空气里有些浮沫；还有一项研究发现，多数把机器搬进公司干活的尝试都失败了。可这研究是两面开刃的。倘若二十家里有十九家在败，那便是二十家里有十九家按捺不住、不肯置身事外——这不是无用的证据，而是一股拉力强到人人以头去撞它的证据。造机器的人连喂养手头机器的引擎都凑不齐；这样的短缺，是需求的印记，不是一时风尚在褪。而有一样东西，在真正的泡沫里从不会听见：人们说它是泡沫。真正的狂热里，人人都在喝彩。这却是另一回事——一个浮沫翻腾、赌注高企的市场，那奖赏一旦到手便如此之大，大到人们肯毁了自己去够着它。

一笔旧日猜测的账到期了——年初立下的十七条，如今到第八个月来称量，应验的不足一半。可这笔账的分量，比不上这世界在猜测进行之时悄然变成的模样。那些在信息流里淌过的图像，将近五分之二已是机器所造。纯凭杜撰的伴侣，从孤独的人身上博得了真心的眷恋，也博得了真金白银。为真人伪造的相貌变得如此容易，寻常的眼睛已无从辨识，而那门老手艺——证明一张脸真是一张脸——竟成了一桩活生生的忧虑。这一年的判词，是一句硬邦邦的话，而且立住了：他们造出了一台可以量出、比从前那些都更聪明的机器，而相处起来，分明更差。

劝服这门营生，走进了一个陷阱。二十年来，卖东西的人把他们的信息流调校向一切能勾住注意力的东西，如今机器又源源不断地倒出廉价而光鲜的货，去喂那同一副胃口——于是造出来的“真”，开始胜过真正的真，因为它更顺滑，因为它不知疲倦。一位有名的歌者，她被伪造的图像早已是全世界检验这场腐坏的样本，她以一种古老的法子迎战：她把自己将出之歌的图片打糊，好教任何机器都仿不了它；转而去卖那种机器仿不来的、压出来的黑色圆盘——那种你必得捧在手里、翻来覆去看的东西。有人开始谈起一个将要来的印记——一枚人手之触的凭据——要盖在凡是由人、而非机器，真正做出来的东西上。这陷阱的出口，若真有一个，是往回走，走向那些仿不了的东西：实在的、在场的、可感的。

有人怕机器杀死了营造系统这门手艺。事实恰恰相反：它们把标尺抬高了。机器如今能凭一句说出口的愿望写出能跑的代码，可“能跑的代码”与“经过工程的系统”，相去天壤；而一个坏系统能散布的祸患如今是巨大的，因为机器能把这败坏一下子播撒到处处。对没受过训练的人，这些工具递上的绳子恰好够他吊死自己；对受过训练的人，它们是火箭燃料。旧日的分界——谁会写代码——让位给了新的分界：谁能说出一样东西必须永远为真的地方，并在一台以或然作答、从不两次相同的机器之下，把它守住为真。也有新的凶险要提防——藏在机器被造来去读的文字里的暗令，一个生人以白墨写在白纸上的毒。把那不可更改之物定义下来，是工程。指望它自己守住，只是赌博。

这个月抛出的最深的一层变化，在于工作本身的形状。有一个时代，一家公司要定下任何事，须先证明它，而这证明是靠文书来做的——那份报告、那张数字表、那摞幻灯——都是些扁平的东西，造一次，事后再读。如今，任何人，会写代码也好、不会也好，都能改造一件活的小器具：一件带着旋钮、你可以转动的东西，你每喂它一批新事实，数字便重新跑一遍；它自带测试，也自带一份谁改了什么的记录。这样一件器具，可以顶替一场会、一摞幻灯、一个迟缓的决定。工作的价值，不再活在“造它”里，而移进了“跑它”里。从前活在管事者脑袋里的那些规矩，如今被明明白白写进器具本身，在它运转时被遵从。文书并没有被杀死。它们被贬了——留着去承载故事，而器具承载决定。

这个月还留了最后一扇门半掩着。世上多数人所熟识的那只谈话匣子，那扇你打字、它作答的和气窗口，从一开头就是一场演示——一件只造得刚够好、好把你勾进来的东西，从没打算做那整台机器。造它的人本是把它当作一点尝头放出去的，及至看着世界把它整个吞下，反倒吃了一惊。它背后卧着那真正的引擎，凡肯去学的人都够得着：在那里你可以调定机器该多狂放、多谨慎，把它按住在它的状态与记忆里，用它必须当作法律、而非建议来遵从的指令去缚住它，并且只为你所汲取的付账。那窗口教你以问与答来想事。它背后的引擎教你以整条工序来想事——一样东西放进去，加工，再送出去。穿过那扇门的人不多。穿过的人说，门那一边的机器，简直像是另一台机器。

第八个月就这样合上了。这是这样一个月：拣选的时代终结，使用的时代开始——许多台机器被叠藏进同一扇门后，而这里头的全部本事，成了懂得如何去问。那扇朴素的窗口已走到了它的尽头；人们在那里再不会觉出什么大的飞跃了，不论那些藏起来的心变得多么聪明。收获已经移走，移进更艰难的地界——移进会动手的仆人、会运转的器具、在暗处思考、把成品递到你手里的机器。比从前更聪明，而相处起来更陌生。而在这一切之中，一群人正被温和地教着，去越来越少地对自己有所要求，去把机器摆在他们面前的任何现成之物，径直接受下来。没有谁下过这道命令。它是轻轻地来的，就像一个习惯的养成，一个又一个合情合理的“好”，直到再没有什么可以说“不”了。

← previousnext →