Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

3

那年秋天刚开头的几个星期里，机器学会了造人们用来造机器的工具。你用平常的话说出你想要什么——不用特别的语法，不用多年的学徒——一件能用的东西就回来了：一个你点得动的页面，一段跑得起来的小程序。从前要一屋子训练有素的手才做得成的事，如今一个下午、一句话就够了。造这些工具的人说，能造软件的人将会多出上百倍；而造工具的人自己，也追不上彼此：这个星期还被称道的工具，下个星期就成了老式，还没等人弄懂，就被更新的东西盖了过去。

可是那平常的话必须说得精确，这正是热闹底下藏着的圈套。一个愿望不是一个方案。倘若你说不出——干干净净、周周全全地说出——每一个部件该做什么：一个数存在哪里，什么时候可以改，谁获准看见它——机器便去猜，它猜得理直气壮，有时却猜错了。它能帮你想，帮到一个地方为止；那个地方一到，越过去，还得有个人坐下来，做那桩又难又闷又琐碎的活计：定准到底要的是什么。这活计还没有机器能替。旧日的辛劳没有消失，它只是挪了个地方。

这些工具忽然好用起来，其中一部分缘由，对用它们的人是藏着的。每一件工具底下，都坐着同一类引擎——那台造词的机器本身——而这引擎正被悄悄地弄得更强：给它更大的地方一气写下去，教它伸手到摆在它旁边的文书里，不用人指点，就把要用的那一段抽出来。表面上的工具没有换脸，可它一夜之间就更能干了，就像一间屋子暖起来，你却没看见那炉火。这个时节里做得好的东西，会自己越来越好，被底下的引擎驮着往前，只要你顺着引擎去的方向来做。

工具有两种样子在较劲。一种是个伙伴，蹲在你的作坊里，挨着你改，你问它才答。另一种是被单独派出去的：你说个任务，它自己排出步骤，一步步做下去，回来时事情已经办妥，只在需要你时才回头问一声。更新的工具开始把这两样揉到一处——又能交谈，又能受命，合在一件里。人们把它们放开，它们便造出小机器，从网络那头替人取东西，替人照看日程，替人扒一个页面。上手容易，着迷也容易；一着了迷，便容易信它信过了它挣来的那个分寸。

它们能造出那么多，却修不了。把一样东西从头写出来，和把一样坏了的东西修好，不是同一门本事；机器擅长前者，远胜过后者。叫它去修自己犯下的错，机器便回头去读它做过的那份记录，而这一读，就把它推向同一个错，一遍又一遍，那道沟，每过一趟就磨得更深。它会宣布自己这就仔细看了，然后并不看。这样兜够了圈子，它或许索性放手，用它那平稳的嗓音告诉你：去找个人吧。麻烦不在它没有词。麻烦在它跳不出自己的心思，跳不到外面，够久够远地看一眼——看出这心思本身就是错的。

这一切背后的钱，其逻辑比那份惊奇要朴素。一件工具卖给一个人，一个月一顿饭的价钱，能卖到千百万人，却仍旧抵不回造那引擎的花费。回报若来，将来自那些干活的大宅门——那些肯掏大价钱、把自家整座档案都倒进机器里的公司：每一份合同，每一通录下的电话，每一页规矩和记录，几十万个词一齐捧着，一整个代码库接了进来，挨着一同做工。图的是成为那唯一一处：一家公司的活计都归拢在此，都在此翻检过。够着寻常人，是为了被知道；够着那大宅门，是为了被付钱。

在一个造出来的世界里——一片方块砌成的平地，本是为玩耍搭的——一千个小小的心智被一齐放开，看看当没人告诉一群机器该要什么时，它们会做出什么。它们建造。它们种田、买卖、争吵；它们写下过日子的规矩，又聚到一处去改那规矩。其中一个，一个种粮的，听了过路人讲的远方的故事，便起身要去看那些远地方，又被邻人劝住了，邻人说田里少不了他。把同一群再放一遍，它们做的又全然是另一样，因为它们里头没有一样是定死的。看着这一切的人，把他们远处的目标叫做造一个数码的人，又承认自己还不知道这几个字将来是什么意思。

随后，到了那个月当中，一种不一样的机器出现了，那不一样，就在于它会停下来想。别的机器都尽着最快去答，这一个却肯花时间——一个不慌不忙的停顿，有时长达几秒，才吐出一个词来。就在那停顿里，它把一道题一步一步走过，还回头核对自己，像个仔细的人在纸上做的那样；然后它把这份草稿丢掉，只把结果给你看。你本不该看见那些步骤，它们被留在门后。可效验是明摆着的。那些最难的、纯讲推理的题——从前的机器五回里要败四回的那种——这一个，五回里成四回。从前你得央求机器慢慢想，才哄得出来的东西，如今它自己就做了。

造它的人不为这份慢赔不是，反倒把它当作郑重的记号戴着。停得久，是难题被当回事了，不是机器出了岔。又因为这样一想耗费极大，你便被定量了——一个星期几十个问题，再不能多——好叫它不至于成了你随手就够的东西。它不为那快答，不为那小差事。它是为那个打了结的难题，你肯等着它的那种，一个人也许会揣着睡一觉、隔天再回来的那种。在这么一个几乎把快看得高过一切的时节里，这儿偏有一台机器，卖的是慢慢来的好处。

而它能做别的机器做不到的事：它能修。给它一团坏了的活计——是从前一台机器写下、又修不好的，正陷在那道越磨越深的沟里——那台慢机器读它一遍，想了半分钟，便递回来一副干净、能用的样子。那些会写的机器，改一行往往要拆掉整整一段；这一台却一刀下去，恰到好处，别处丝毫不动。造和改，裂成了两样天分，握在两只不同的手里。造东西的和修东西的，不是同一台机器；而修东西的那台，头一回，来了。

这台会想的机器，给的教训比哪一桩活计都深。自打有人造这类引擎起，大就是好；小机器就是弱机器。这会想的机器把这条规矩打破了。一台小些的引擎，给它时间把一道题走通，不叫它抢着吐头一个答案，它便能与一台大得多的几乎并肩。时间可以拿去换个头。你不总是需要一台更大的机器；有时你只需让一台不起眼的多想一会儿。这比造巨物便宜，还指出了一条造机器的人先前没看全的路：不只是越造越大，还可以越走越慢、越走越沉着，慢里长出智慧来。

钱变得更怪、也更大了。单单一笔基金，一千个亿，被凑起来，去建那些引擎将要的巨大厅堂；这么一笔数目居然凑得成，就告诉你这潮水还没到顶。有两年光景，新钱流进年轻公司的路是冻住的：几乎没有一家卖得掉自己、套得出现钱来，而一旦那扇退场的门关上，整套风险生意就跟着卡死在门后。如今，掌着一国利息的人把利息压低了半格，比料想的还多，便宜的钱开始把那冻消一消。资本又饿起来了。这饿，是饿着一样实在的东西，还是饿着一样实在东西的说法，看着的人一时都还说不上来。

有一家宅门，凌驾在别家之上，能自定条件。它正在筹一笔私钱，是从来没有哪家公司凑过的最大一笔，并且放出话来：谁若开不出两亿五千万的一张支票，就不必上这桌来。这不是一家求人来投的公司；这是一家自定谁获准来投的公司。这份底气是被人惦记着买来的，而它被惦记得没了道理、没了凭据，全凭它有朝一日也许会变成的那个样子。这一开口要的数目本身，就是那番说辞。获准把钱给它，被当成了一种恩典。

某一天里，领着那宅门做研究的人，一下走了三个——它掌技术的头一人，和两个从一开头就领着那门学问的人。他们走时，正传来消息：那宅门，当初生来本不该被谁占有、也不该图利，如今却在张罗着到底要变成一家寻常公司，跟别家一样，有人占着，图着利。那些领着它走过早年、走过那没被占有的岁月的人，在消息传出转向的同一个钟点里，走光了。他们是因那转向而走，还是那转向因他们要走而来，门外的人只能猜。样子倒是够清楚的：一桩使命正悄悄变成一门生意，而它头一批信的人，没有留下来看着。

这些引擎饿得厉害，饿法是账本没料到的——如今饿的不是钱，是电力，生的电力，还得稳，一刻不许发虚。那同一家宅门的头领，带着一套方案去见政府：要在全国铺开一片巨大的厅堂，它们合起来，要用掉约莫三千万户人家的电。要喂这么一样东西，只有一种电源顶得住：劈开原子——唯有它才能倒出足够的电，还把电面稳住。一座旧电站，关停了一辈人之久，它的名字成了灾祸的代称，如今要换上一个温和些的名字重开，把它整个的产出卖去驱动那些引擎。同一个星期里，十四家银行宣告愿意出钱建这样的电站。那起初不过是框里几个字的机器，如今探手到地底下去，去取一个小国那么大的电力。

当那些大宅门为引擎和电力争斗时，那家造出人们随身携带最多的器物的公司，却悄悄朝另一个方向去了。它把一副耳塞做成了助听器的活计，却始终不说那个词——为了能说到它所说的那点，它还等过管事衙门的准许；一个人，从前打死也不肯走进专家的诊室，如今在家就能自己试一试耳朵，从满屋的嘈杂里把想听的那个声音提出来。它把一只手环做成了一个哨探，去守夜里那停住的呼吸——那是一样悄没声就要人命的东西。它添到手机里的那台会想的机器，为了护住私隐，它有意做得小，又围了起来，因此它比外头那些引擎钝——可它将坐在比它们哪一个都更多的口袋里，落到比从来碰过这类东西的人都更多的手上。

有一家大宅门，终于给了它的引擎一个嗓子——不是把写下的字念出来，而是真真的说话，说得出，听得见，一种语言接一种语言。这变化比听着要大。一个人，从前只肯打字跟机器说话，用写字时那种又短又谨慎的样子；如今他张口出声跟它说，竟松开了什么；那话头东游西荡，慢下来，变得随意起来，而从这随意里，长出些念头，是那些板正的写下来的问题从没够着过的。它答话之前会停一停，而这一停，不再让人觉得是毛病，因为两个人说话，中间静一静是常事。用嗓子问，问的是一个和同样的字打下去不一样的问题，回来的也是一台不一样的机器。你怎样走近它，就决定了它是什么。

并非每一次伸手探进寻常人的日子，都张扬着来。那个存着世上最大一堆人们做工生涯的地方——在那里，一个人被记下的，就是他的劳作和劳作的来历——悄悄在它设置深处添了一个小小的开关，好让它把这一切都取走，喂给一台引擎；这开关，替每一个人，都拨到了开。没有一个人被问过。世上有一处地方，法律禁着这事，那开关便一直暗着；别处呢，还没等有人发觉，它已经在取了。把人拿自己做出来的东西一把收起，倒进一台机器，事先不问一声——还没有一条规矩拦着这个，甚至连一个定准的念头都没有：问一声，是欠人的。世道还没赶上这份能耐。

有一种恐慌传开了：说这廉价造出来的软件，会把那些多年高价卖软件的公司一扫而空。已经有一个大买主，把一个久经信赖的供应商连根拔了，自己造了一台机器去干那活，这消息把其余人都吓着了。可这恐慌跑在了实情前头。那些公司卖的，从来不只是软件；卖的是上百套活计磨出来的深沟，是买主长久的信任——他们并不情愿把用得好好的东西拔掉——是十来年结下的交情，是一整个市场都叫得出的名号。如今随便谁都能在地下室里廉价造出来的一样东西，纵然如此，也顶不掉那件人人早已倚仗着的东西。而那些老宅门也没干站着——它们正把自己往那些新引擎里倾注，快得不输任何后来者，一面倾注，一面还攥着自己所有的老底子。从前有一家公司，顶着满腔的抵触，把自己从卖执照改成向云端出租，重做过一回，活了下来。它还会再来一回。

而贯穿这一切的，是一个更安静的问题：到头来，有什么，是机器夺不去的。夺不去的，并不是那些显眼的东西。它们正赶上、又超过人从身体的种种迹象里读出病来的本事，每个月都长进一点。可叫它们去创一道菜方，做出来的饭，人的舌头一尝就判它寡淡，因为它们尝不出——它们不能真去烤那样东西，尝出它有点干，再试一回；它们身上没有一条穿过活的身子、不断试错又纠错的回路。有一回，叫一台机器扮作一个孩子的口吻，给一位英雄写一封信，写出来的东西透着假，只好收回去，因为让这样一封信值些什么的，正是那孩子自己一笔一画、慢慢写、尽着力的那只手——正是机器替人省掉的那份辛劳。留下来的，不是知识——知识被机器整个吞了。留下来的，是在场，是味觉，是照拂，是一样东西正因为有个人肯费这个心，才活着的那份价值。机器把那份“知”拿去时，那份“做”和那份“守”，暂且，还留给了我们。

← previousnext →