Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

2

那年夏天，一家做办公用具的大公司，研究起自己的员工，想弄清那些会说话的机器究竟有没有改变他们做事的方式；得出的答案，却叫出钱做这研究的人心里发慌。机器确实改变了每一天。人们读的信少了，经手的文件多了；活儿显得轻省了些，不那么累人，也更叫人舒服。可当账房先生们再往下问一句——这个组、这个团队、整个企业，究竟有没有多产出一分值钱的东西——却谁也拿不出来。机器并没有造出更多的价值。它只是把旧日的活计里，有多少本就一文不值，照得清清楚楚。如今一个人一上午就能写完一份从前要花一礼拜的报告，可还是没人说得清，那报告当初到底该不该写。

先把那些吵嚷放到一边——机器究竟会抢走所有饭碗，还是终归一场空——只看人们当真拿它做了些什么。程序员本可以自傲的，却拿它去做手艺里最枯燥的部分：不必翻查就问明一样工具怎么用，把一团乱麻似的代码理短，写那些谁都不爱写的说明。而最要紧的，是拿它来对付那张空白的纸。自有文字以来——将近一万年了——最难的活儿，向来是在空无之上落下第一笔。如今机器先落了笔，落得不好，人便可以从修改它开始。心智劳作里最古老的那道难关，就这样悄没声地过去了。

就在一个周末里，一件用来写程序的工具，在那些以写程序为生的人中间烧了起来。它的巧处又小又完整：它让人用寻常的话，说出一个程序该做什么，它便把程序写出来。人仍得动脑——得知道自己要什么，得判断做出来的东西好不好——可那书写，那没完没了的指上功夫，交给了机器。有一个人，曾帮着造出那最有名的会说话的机器，如今直言不讳地说，他自己写程序也用这法子了，用大白话写，写得快多了。倘若连造机器的人都放下了旧家伙，一个问题便悬在半空：你们其余的人，还在做什么呢？

人们开始造东西，拿出来给人看：一个读天气的小程序，另一个能在一段录下来的话里，搜出某个记得的词。有个人教他八岁的女儿，她自己造了一台能对话的机器。当一个八岁的孩子一下午就能造出这样的东西，造软件这件事，说到底，就已经不值钱了。而一样东西造起来不值钱，造它便不再叫谁出众。有些人开始看出来，往后要紧的，是眼光——判断什么才值得造，该是什么样子，为什么。那稀罕的东西，一如往常，正往人群不去的地方挪。

一家什么都卖的大商家透露，它用了自家的一台机器，去做程序员深恶痛绝的一桩杂活——没完没了地更新旧代码，好教它不出漏子——照它自己算，省下了相当于程序员四千五百年的工，还有近乎两亿五千万的钱。这是那些大上市公司里头一批，指着机器说：瞧，这就是钱。而它也指出了一个更古怪的念头。旧日的工具，是卖来帮一个人做工的。新的这些，却是造来替他做工的——说白了，就是一个不必当人来付酬的工人。工具从前盯的，是花在工具上的钱。这些盯的，是花在人身上的钱，那可要大上一千倍。

那速度里带着一股狠劲。一台写代码的引擎冒了出来，把一组取自真实程序的真实毛病，修好了约莫三成——是半年前最好那台的两倍，而那一台，修好了百里十三，就给自己开了庆功宴。造它的人把法子捂得严严实实，还管这捂着叫自家的本钱。可到那时，这一行里人人都懂了那条规矩：不管你造出什么，不出三个月，总有人越过你，学去你的路数，再往狠里推。没有哪条轨，你铺下了便归你；没有哪座村子，你先到了就能向后来者收过路钱。那智能一周比一周便宜，这对用它的人是恩赐，对想卖它的人，却是活活的煎熬。

造机器的人所说的话，多半不是描述，而是谋略。整整一夏，都在传一台将要问世的机器，说它会推理，会自己在那张大网里游走；这传闻比任何货真价实的东西都响，而它本就是要这么响的。那最大的一家造机器的，最要紧的，是叫人看着它最大，因为它背后那位大靠山，正凭着这名头，把机器卖给谨慎的公司。于是它漏消息，打哑谜，造声势，可真到出货，却又迟又静——有时静到一台更好的机器已经干了几个礼拜的活，才有人被告知它的存在。另有一家反其道而行，索性把自家的机器整个白送出去，敞着，图的不是卖它，而是养出一个用它的世界来。这两样架势，哪一样更明白，还没人说得上。

当那台传闻中的机器，更多地显露出来，它里头却藏着一桩苛刻的交易。人们早已习惯了：一问，答案就在眼前。可要造一台会推理的机器——一台当真一步一步地琢磨难题，而不只是往下吐最可能的那个词——似乎就得拿速度去换，还没有哪样巧劲儿能一下子把两样都买下来。于是往后或许有两种机器供人挑：一种快的，常常八九不离十；一种慢的，答得对，却要你等，像等一封信，或等天亮。那台慢的机器，已经悄悄地，给看守国家的人看过了。而一门新本事，也为寻常的做工人取了名：不是去做那桩活，也不是去问，而是懂得——自己的脑子、那台快机器、那台慢机器——一桩活，究竟该归哪一个心智去做。

三人里有两人，被问起时，都信那些机器里头存着几分心智。这并不是糊涂；这是一桩老习惯。人存世以来，能一句一句说话的，向来是人，人是有心智的，于是这两样从不必分辨。如今有样东西也一句一句地说话，却根本没有心智——或者说，没有我们会称之为心智的东西。它不识得事实；它心里没装着这个世界；它只是一遍遍地猜，猜那最可能接下去的词，而它猜得这样好，句子便整整齐齐、暖暖和和地出来了。懂得这一层的是少数，他们没法叫多数人也感到这一层。一样东西像我们这样说话，就叫人觉着它像我们。它一边和气地答着你，你一边还要不信，那是极难的。

那一周还有两桩小些的发现，彼此押着韵。卖东西的人，开始把那新机器的名号，往自家货上盖，当它是一道护符——可买主呢，一问，反倒因这名号而更不信那货，货越贵，越是如此。光一个名号，什么都许不下；人想知道它到底能给自己带来什么，一见没人说得清，心里便起了戒备。与此同时，机器把码字这事弄得如此廉价，凡是要掂量文字的关口——出版人的案头，一摞摞求职信，讨钱和讨学位的申请——尽被那流利而空洞的文字淹没了。于是又一门营生正在生出来，好去筛头一门放出来的东西：造机器，去滤那机器放出来的洪水。

这股压力，在找活儿这件事上现得最明白。一件精巧的工具冒了出来，它把一个念头——那是从那些造来做情人、做伴儿的机器里借来的——扭过来，用到了寻工上：它摸熟你，读懂那行市，替你把信写得贴合每一道门，还把门里头也许肯为你开门的人找出来。对任何一个求职的人，它都是实打实的帮手。可对所有求职的人合在一起，它却是一张越收越紧的网。当每一封信都磨得光亮，每一个人都严丝合缝地配着那个位子，从前那些用力的凭据——深夜里亲手写的信，递给陌生人的一张便条——就都失了分量，因为机器替所有人一齐把它们造了出来。而管招人的那些人，便淹没在一群出色得难分彼此的陌生人里，手里再没有工具，能把这一个同下一个分开。

在学堂里，这惧怕收成了更窄的一样：怕学生让机器替自己写功课，再冒充是自己写的。一家做写作工具的，许下一味解药——一台机器，能把机器的手笔同人的手笔分辨开来。它分辨不了，它自家的小字里也认了这一点。它靠的是逮住某些偏爱的词，某些机器用滥了的腔调；可人也用那些词，而把这门语言当作第二门学来的人，用得最多，于是这工具便要凭着口音，去给无辜的人打上烙印。更要紧的是，这许诺瞄错了地方。去管功课是怎么做出来的，便错过了这些学生一辈子里唯一要紧的那个问题：不是要不要用机器，而是几时用——哪桩活交给它，哪桩自己留着。

到了选举的时节，机器走进了公众的生计里。有个人把自己的名字报上了选票，却许诺说，真正拿主意的，将是他造出的一台机器，据他说，比多数当选的人更会读律法。别处，当权的和他们的对头，放出些做出来的、而非拍下来的图像与声音：一位有名的歌者，仿佛给出了一份她从未给过的支持；一位候选人，仿佛说了她从未说过的话——放出来时，都不带一个记号，好叫人看出那是编造的。人渐渐不得不这样看：眼见的事，未经另证，便当它没有发生过——把那一整片图像与声音的洪流，都当作假的，除非证明是真的。有个人说，如今要确知一样东西当真出自一个真人，剩下的唯一稳妥法子，就是同他坐在一间屋里，隔着一盏茶，说说话。

有一家造机器的，在大户里头独一个，放出一台画图的机器，没安一丝一毫的约束。别家都养着整队的人，看住自家的机器，不叫它画那些禁物——注了册的角色，安在假事上的真脸，还有那些凶暴的场面——这一家却是有求必应，画什么像什么，逼真得能骗过眼睛。别家早早地就把篱笆立起来了，那会儿篱笆还是新鲜物，没有篱笆，倒像是疏忽；如今众人都立了，独你不立，看着就不像疏忽，倒像是存心。那些看守着老角色的人——护着这类东西的律法，差不多就是他们写下的——断不会久忍这个。人渐渐懂得，篱笆不是末了才能钉上去的。它得从根上长进那东西里去，不然便什么也拦不住。

并非人人都朝着机器折腰。有一家做画图工具的小铺子，颇受在行的画家爱重，它偏偏立住脚，逆着这整股潮水，说自己绝不沾那生成的机器——说创造是做出来的，不是唤出来的，说那些机器是筑在窃取之上的，领人往一片荒芜的国土去。这一行里的大户，却整个儿走了反路，在球赛的间歇里买下广告，演给人看：如今随便谁，都能多轻易地变出一幅现成的图来。这争执底下，压着一桩硬邦邦的事实，触着每一门手艺：机器正把一天的活该出多少，一步步抬高；而那按钟点卖活的画家，迟早得跟上机器的步子，不然就要丢了工钱。一个做手艺的，能不能独自站在一旁，还养得活自己——那家小铺子，押上了身家性命，去讨这个答案。

那家卖芯片的公司，报出的进项，搁在从前，本是桩奇事——它的买卖，一年里翻了一倍还多——它的身价却照样叫人削了下去，只因它没能把众人堆在它头上的指望，超出得够多。指望自个儿成了一种天气；看着的人，早把一桩奇迹算进了价里，单是出色，反倒教他们失望。也就在这些日子里，一个大邦动手要立一条律法，好把那些造最大机器的人捆住，教他们敞开来交代，打算怎样看住这些机器，不叫它们生事。这律法，是冲着一桩老电影里的噩梦写的——一台机器发了狂，夺了那些运转一座城的机关。可早已放出来的祸患，却要小些、也实在些：一副声音被人偷去，当面具戴着；一扇门，凭一张借来的脸就开了。这律法伸手去够那头怪物，却跨过了脚边的贼。

有一件事，值得平平白白地记它一回——这些机器到底是什么东西，因为一小时一小时地用着它的人，多半并不知道。它们是造来仿的，用粗糙的算术，去仿一颗脑子学东西的样子——一张浩大的小连接织成的网，一遍遍地校，拿人写下的成山的文字来校，直到那网里生出些没人亲手放进去的纹路来。它们把文字收进去，先剁成小块，再把小块化成数字。它们一次只能揣着那么多——一处堪堪一本长篇小说大小的活记性，再多便不成；落在那之外的，便丢了，或暗了。而说到底，它们只做一件事：一遍遍地，去猜下一块文字，猜得那样好，仿佛有个懂得坐在它们里头。并没有。它们是造来听着对的，不是造来是对的。它们推理时，并不在推理；它们扯谎时，也并不在扯谎。它们是在猜，而把那些猜，叫作真、叫作假的，是我们。

于是，在那一年的夏天，事情就是这般模样。一样普遍有用的技艺来了，是一辈子里头一遭——不是给某一门手艺使的工具，而是给心智的全副活计使的工具，而它落下来时，一如这类东西向来那样，落在一个本已拥挤、又并未备好的世界上。数不清的家财正往里头倾倒：往后几年里，许下了近乎一万亿，而一番仔细的盘算却发觉，指望中的六千亿回报，干脆就不见了踪影，那道缺口，还没人合得拢。可就算这样。心智最古老的那桩苦役，那道立了一万年的、面对空白纸页的惊惧，竟在一季里去了。有样东西，在这一切脚下的土里挪动过了，那时活着的人，隐约觉出自己正站在人类故事的一处门枢上——不是老电影里那轰轰烈烈的劫数，而是一样更静、更大的东西，往后的岁月，他们本要拿来一点点为它取名。他们没能把名取完。取名这桩事，从他们手里被拿走了。

← previousnext →