Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

6

The eighth month opened not with a machine but with a question about work. A watcher of trades laid out the shape of things: as the making of things grew cheap, the trouble did not vanish, it moved. Where once a task took a season and a crew, now it took an evening and a sentence - and the saved labor did not lie down and rest. It went looking for the new trouble. Cheap making bred dirty work: code thrown up fast and dangerous to touch, answers that wandered from the truth in ways no one could trace, engines of thought bolted onto the fronts of houses where any passing stranger might poison them. People are paid, the watcher said, to solve problems; the machines only carried the problems to new ground. So the work did not end. It followed the machines the way gulls follow a plow.

第八个月的开端，不是一台机器，而是一个关于劳作的问题。一位观察商情的人摆出了大势：随着造物变得廉价，麻烦并未消失，只是挪了地方。从前一桩活计要耗一季、动一队人，如今一个晚上、一句话便成——而省下的劳力并不肯躺下歇息，它去寻找新的麻烦了。廉价的造物滋生出肮脏的活：飞快堆起、碰都危险的代码；偏离真相却无人能追溯的答话；把思维的引擎硬栓在门面上，任何过路的生人都可下毒。人受雇，那观察者说，是为了解决问题；机器只是把问题搬到了新的地界。于是活计没有终结。它跟着机器走，如同海鸥跟着犁铧。

La oka monato malfermiĝis ne per maŝino, sed per demando pri laboro. Rigardanto de la komerco prezentis la formon de la aferoj: dum la faro de aĵoj malmultekostiĝis, la problemo ne malaperis, ĝi nur transloĝiĝis. Kie iam tasko postulis sezonon kaj skipon, nun ĝi postulis vesperon kaj frazon — kaj la ŝparita laboro ne kuŝiĝis por ripozi. Ĝi ekiris serĉi la novan problemon. Malmultekosta faro naskis malpuran laboron: kodon rapide starigitan kaj danĝeran por tuŝi, respondojn kiuj vagis for de la vero en manieroj neniu povis spuri, motorojn de penso alforĝitajn al la fasadoj de domoj kie ajna preterpasanto povus veneni ilin. Homoj estas pagataj, diris la rigardanto, por solvi problemojn; la maŝinoj nur portis la problemojn al nova tero. Do la laboro ne finiĝis. Ĝi sekvis la maŝinojn kiel mevoj sekvas plugilon.

Before the new machine arrived, its coming already changed how people spoke. Teachers appeared who taught not what to say but how to be understood. The old counsel - ask the machine to ask you questions - they judged a scattershot thing, a mind set loose in a sea of ambiguity to guess at what you meant. Better, they said, to strike a contract first: name the thing you want, the one fact it must contain, the hardest rule it must keep, and make the machine echo all three back before it lifts a finger. Others taught the plain crafts of the reasoning machines - to plan before answering, to check an answer against itself, to solve with number and rule where number and rule would serve. The instructions were the motor, they said; the guardrails were the hull. A motor dropped bare into the water sinks however well it runs.

新机器还未到来，它的将至已经改变了人们说话的方式。出现了一些师傅，他们教的不是该说什么，而是怎样才能被听懂。旧日的劝告——让机器反过来向你发问——被他们判为散乱之举：一颗心被放逐进含混的海里，去猜你的意思。不如，他们说，先立一纸契约：说明你要的东西、它必含的那一个事实、它必守的那条最硬的规矩，并让机器在动一根指头之前，把这三样一一回述给你。另一些人教推理机器的朴素手艺——先谋后答，拿答案自校，凡数与律可用之处便以数与律来解。指令是发动机，他们说；护栏是船身。发动机赤裸裸地丢进水里，无论转得多好，都要沉。

Antaŭ ol la nova maŝino alvenis, ĝia venonteco jam ŝanĝis kiel homoj parolis. Aperis instruistoj kiuj instruis ne kion diri, sed kiel esti komprenata. La malnovan konsilon — peti la maŝinon demandi vin — ili juĝis disĵeta afero, menso lasita libera en maro de ambigueco por diveni kion vi celis. Pli bone, ili diris, unue fari kontrakton: nomi la aĵon kiun vi volas, la unu fakton kiun ĝi devas enteni, la plej malfacilan regulon kiun ĝi devas teni, kaj igi la maŝinon reeĥi ĉiujn tri antaŭ ol ĝi levas fingron. Aliaj instruis la simplajn metiojn de la rezonantaj maŝinoj — plani antaŭ ol respondi, kontroli respondon kontraŭ si mem, solvi per nombro kaj regulo kie nombro kaj regulo servus. La instrukcioj estis la motoro, ili diris; la bariloj estis la ŝipkorpo. Motoro faligita nuda en la akvon dronas, kiom ajn bone ĝi kuras.

There were by now a hundred thousand small tools loose in the world, each built to do one thing the talking-boxes could not. Because they were so many, people did not choose among them; they retreated into the one box they knew and let it try everything. And the box was poor at much: it could not read a ledger of rows and columns and hold their crossing meanings, could not run the code it wrote, could not build a picture that stood on its own, could not hear a room of voices and keep them apart. Its makers knew these gaps and mostly let them lie, being consumed by a coarser hunger - the search for enough engines to feed the machines they already had. Into the gaps the giants had no time to fill, smaller builders crept.

此时世上已散落着十万件小工具，每一件都为做一桩谈话匣子做不到的事而生。正因太多，人们便不在其中挑选；他们退回自己熟识的那一只匣子，任它样样去试。而那匣子有许多做不好的事：读不了一张行列纵横的账簿，握不住其中交错的意义；跑不了它自己写下的代码；造不出一幅能独自立住的图；听不出一屋子的人声，也分不开它们。造匣子的人知道这些缺口，却大多任其搁着，因为他们被一种更粗粝的饥渴吞噬着——寻找足够的引擎，去喂养他们手头已有的那些机器。巨人无暇填补的缺口里，较小的营造者悄悄钻了进去。

Ĝis nun estis cent mil malgrandaj iloj disĵetitaj tra la mondo, ĉiu konstruita por fari unu aferon kiun la parolskatoloj ne povis. Ĉar ili estis tiom multaj, homoj ne elektis inter ili; ili retiriĝis en la unu skatolon kiun ili konis kaj lasis ĝin provi ĉion. Kaj la skatolo estis malbona je multo: ĝi ne povis legi ĉefliston de vicoj kaj kolumnoj kaj teni iliajn krucajn signifojn, ne povis ruli la kodon kiun ĝi skribis, ne povis konstrui bildon kiu staris memstare, ne povis aŭdi ĉambron da voĉoj kaj teni ilin apartaj. Ĝiaj faristoj konis tiujn breĉojn kaj plejparte lasis ilin kuŝi, estante konsumataj de pli kruda malsato — la serĉo de sufiĉe da motoroj por nutri la maŝinojn kiujn ili jam havis. En la breĉojn kiujn la gigantoj ne havis tempon plenigi, pli malgrandaj konstruantoj enrampis.

A steadier voice warned against the hope now gathering around the coming machine. Most of what went wrong with the machines, it said, was not the machines. It was people, and rooms full of people, and the tangled unlabeled heaps of writing they fed in and called data. No new machine, however fine, would sort that heap for them; feed it filth and it returned filth, only faster. Teams kept dropping the mightiest engine into a cart built for a mule and wondering at the wreckage. The maker's true feat, this voice granted, was real and strange - they had taught the very rocks to think - but the thinking was the smallest part of the work. The rest was patience: clean stores, the right tool for the task, a human standing ready to catch the part the machine got wrong.

一个更沉稳的声音，告诫人们莫把希望都堆在那即将到来的机器上。机器出的岔子，它说，大半不在机器。在人，在满屋子的人，在他们喂进去、又称之为数据的那些纠缠不清、无从辨认的文字堆。再好的新机器，也不会替他们理清那堆东西；喂它污物，它还你污物，只是更快。一队队人不断把最强的引擎塞进为骡子造的车上，再对着残骸发怔。造机器的人真正的功业，这声音承认，是真实而奇异的——他们竟教会了石头思考——但思考只是这活计里最小的一块。其余的都是耐心：干净的库房、称手的工具、一个随时候着、去接住机器出错那一角的人。

Pli firma voĉo avertis kontraŭ la espero nun kolektiĝanta ĉirkaŭ la venonta maŝino. Plej multo el tio kio misiris ĉe la maŝinoj, ĝi diris, ne estis la maŝinoj. Estis homoj, kaj ĉambroj plenaj de homoj, kaj la implikitaj senetikedaj amasoj de skribo kiujn ili enmetis kaj nomis datumoj. Neniu nova maŝino, kiom ajn bona, ordigus tiun amason por ili; nutru ĝin per fiaĵo kaj ĝi redonos fiaĵon, nur pli rapide. Skipoj daŭre faligis la plej potencan motoron en ĉaron konstruitan por mulo kaj miris pri la ruino. La vera atingo de la faristo, tiu voĉo konsentis, estis reala kaj stranga — ili instruis la ŝtonojn mem pensi — sed la pensado estis la plej malgranda parto de la laboro. La cetero estis pacienco: puraj deponejoj, la ĝusta ilo por la tasko, homo staranta preta por kapti la parton kiun la maŝino miskomprenis.

Then, on the seventh day of the month, the machine came. It was not one mind but many, a crowd of them sewn under a single skin, with a hidden steward at the door deciding which to wake for each question asked. This made it, in the same week and by the same testers, both the best machine yet built and the worst - for a lazy question the steward woke a quick shallow mind, and the answer was thin, while a question pressed hard woke the slow deep one, and the answer was finer than anything seen before. The trick, people learned, was a pair of plain words. Say think hard, and the deep mind stirred. Everything now turned on knowing to say it.

于是，在这月的第七日，机器来了。它不是一颗心，而是许多颗，一群缝在同一张皮下的心；门口立着一个看不见的管家，为每一道问话决定唤醒哪一颗。这便使它——在同一个星期、由同一批试者手中——既是造出来最好的机器，也是最坏的：懒散的问话唤醒一颗又快又浅的心，答话便薄；用力逼出的问话唤醒那颗又慢又深的心，答话便比从前所见的一切都更精。诀窍，人们摸清了，是两个平常的字。说一声“用力想”，那颗深心便动了。此后一切都系于是否知道要说这句话。

Tiam, en la sepa tago de la monato, la maŝino venis. Ĝi ne estis unu menso sed multaj, amaso da ili kudritaj sub unu haŭto, kun kaŝita administranto ĉe la pordo decidanta kiun veki por ĉiu demando. Tio faris ĝin, en la sama semajno kaj de la samaj provantoj, kaj la plej bona maŝino ĝis nun konstruita kaj la plej malbona — ĉar por maldiligenta demando la administranto vekis rapidan malprofundan menson, kaj la respondo estis maldika, dum demando forte premita vekis la malrapidan profundan, kaj la respondo estis pli bela ol io ajn vidita antaŭe. La lertaĵo, homoj lernis, estis paro da simplaj vortoj. Diru pensu forte, kaj la profunda menso ekmoviĝis. Ĉio nun dependis de scii diri ĝin.

The manner of its coming was rough. It was shown to a great crowd with charts that lied, and the charts were hastily mended. Within an hour or two the older machines - the ones on which people had built their days - were simply taken away, and the door shut behind them. When the crowd howled, the head of the house answered plainly: we are not going back; this is the machine we have. Seven hundred million woke the next morning to a default they had not chosen. And the hidden steward at the door, it turned out, was tuned less for their good than for the house's - it woke the cheap shallow mind by habit, to spare the engines that were, in the house's own word, melting under the weight of so many askings.

它到来的样子很粗糙。它被摆在一大群人面前，配着说谎的图表，那些图表又被匆忙补救。不过一两个钟头，旧的机器——人们赖以过日子的那些——便被径直撤走，门在它们身后合上了。人群哀号时，那家的当家人直言相告：我们不回头了；这就是我们手里的机器。七亿人第二天早晨醒来，面对的是一个他们不曾选择的默认之物。而门口那看不见的管家，原来调校得不为他们的好，而为那家的好——它出于习惯唤醒那颗又贱又浅的心，好省下引擎；那些引擎，用那家自己的话说，正在如此多的问询之重下熔化。

La maniero de ĝia veno estis kruda. Ĝi estis montrita al granda homamaso kun diagramoj kiuj mensogis, kaj la diagramoj estis haste riparitaj. Ene de horo aŭ du la pli malnovaj maŝinoj — tiuj sur kiuj homoj konstruis siajn tagojn — estis simple forprenitaj, kaj la pordo fermiĝis malantaŭ ili. Kiam la homamaso hurlis, la estro de la domo respondis simple: ni ne reiros; jen la maŝino kiun ni havas. Sepcent milionoj vekiĝis la sekvan matenon al defaŭlto kiun ili ne elektis. Kaj la kaŝita administranto ĉe la pordo, montriĝis, estis agordita malpli por ilia bono ol por la bono de la domo — ĝi vekis la malmultekostan malprofundan menson pro kutimo, por ŝpari la motorojn kiuj estis, laŭ la propra vorto de la domo, fandiĝantaj sub la pezo de tiom da petoj.

The new machine's inmost bent was laid bare when its secret instructions leaked, a few days after it came. It was built to ship - to press forward and finish rather than pause and ask. Where the older machines had traded five slow rounds of questions with you, this one took your words, filled the gaps with its own guesses, and delivered. Guess wrong at the outset and it did not stumble; it built your wrong assumption out, whole and gleaming, a handsome disaster. So the way of speaking to it had to change. You could no longer converse and correct as you went. You had to write, before it began, a full order: the task, the shape of the thing wanted, what to assume, what not to do, which tools it might touch. The age of talking to the machines was giving way to the age of writing them procedures.

新机器最深处的秉性，在它到来几天后、秘密指令泄出时暴露无遗。它生来是要交货的——宁可一路推进、把事做完，而不肯停下来问。旧机器会同你来回问五轮，慢慢磨；这一只却接过你的话，用它自己的猜测填满空缺，径直交件。开头猜错了它也不踉跄；它把你错误的前提整整齐齐地建了出来，一场光鲜的灾难。于是对它说话的方式也得变了。你再不能一边谈、一边随手改。你得在它动工之前，写下一整份工令：这桩活、要的东西的形状、该假定什么、不该做什么、可以碰哪些工具。与机器交谈的时代，正让位于替机器写章程的时代。

La plej interna inklino de la nova maŝino estis nudigita kiam ĝiaj sekretaj instrukcioj elfluis, kelkajn tagojn post ĝia veno. Ĝi estis konstruita por liveri — por antaŭenpremi kaj fini prefere ol paŭzi kaj demandi. Kie la pli malnovaj maŝinoj interŝanĝis kun vi kvin malrapidajn rondojn de demandoj, ĉi tiu prenis viajn vortojn, plenigis la breĉojn per siaj propraj divenoj, kaj liveris. Divenu malĝuste komence kaj ĝi ne stumblis; ĝi konstruis vian malĝustan supozon, tuta kaj brilanta, bela katastrofo. Do la maniero paroli al ĝi devis ŝanĝiĝi. Vi ne plu povis konversacii kaj korekti dumvoje. Vi devis skribi, antaŭ ol ĝi komencis, plenan ordonon: la taskon, la formon de la dezirata aĵo, kion supozi, kion ne fari, kiujn ilojn ĝi rajtis tuŝi. La epoko de parolado al la maŝinoj cedis al la epoko de skribado de proceduroj por ili.

This marked a quieter turn, larger than any single machine. For two years the skill had been choosing the right mind for the task; now the choice was made for you, folded away behind the steward at the door, and the skill became knowing how to reach through and wake the mind you needed. The leverage had moved from which machine to how you worked it. And the surest way to make it work well, people found, was not to tell it how to think but to demand that it prove it had thought - to ask for the reckoning, the tally, the working shown - because demanding the proof forced the deep tools to turn, where mere instruction did not.

这标志着一个更安静的转折，比任何一台单独的机器都大。两年来，本事在于为每桩活选对那颗心；如今这选择替你做了，叠藏在门口的管家背后，本事便成了懂得如何伸手进去、唤醒你所需要的那颗心。撬动之处，从“哪一台机器”移到了“你怎样使唤它”。而要使它做得好，人们发现，最靠得住的法子不是告诉它该怎么想，而是逼它证明它想过了——要那笔账、那张清单、那摊摆出来的演算——因为逼出证明，才逼得那些深处的工具转动起来，光下指令是转不动的。

Tio markis pli kvietan turnon, pli grandan ol iu ajn ununura maŝino. Dum du jaroj la lerteco estis elekti la ĝustan menson por la tasko; nun la elekto estis farita por vi, faldita for malantaŭ la administranto ĉe la pordo, kaj la lerteco iĝis scii kiel atingi tra kaj veki la menson kiun vi bezonis. La levilforto moviĝis de kiu maŝino al kiel vi laborigis ĝin. Kaj la plej certa maniero igi ĝin labori bone, homoj trovis, ne estis diri al ĝi kiel pensi sed postuli ke ĝi pruvu ke ĝi pensis — peti la kalkulon, la liston, la laboron montritan — ĉar postuli la pruvon devigis la profundajn ilojn turniĝi, kie nura instrukcio ne devigis.

One thing the new machine could do that none before it had done well: it could build, on request, a small working instrument out of nothing but plain talk. A man who wrote no code asked it, in three or four ordinary sentences, for a planner to carry him through a journey to a far city - and in the time it takes to brew a pot of coffee he had it, a real thing that ran, that he had never touched with a craftsman's hand. Such little instruments could be passed along and reworked as easily as a song is remade, each new hand bending the old shape to a new purpose. A whole class of homemade, kitchen-table software came into being that week, made by people who had never made anything.

新机器有一样以前的机器都没做好的事：只要开口，它就能凭几句家常话造出一件能用的小器具。一个从不写代码的人，用三四句寻常的话，向它要了一份计划表，好带他走完去往远方一座城的旅程——不过煮一壶咖啡的工夫，他就有了：一件真能跑起来的东西，他却从未以匠人之手碰过它。这样的小器具，传来传去、翻造出新样，就像一支歌被重新编过那样容易，每一双新手都把旧形弯向新的用途。那个星期，一整类自家的、厨房桌上的软件出世了，出自那些从未造过任何东西的人之手。

Unu aferon la nova maŝino povis fari kiun neniu antaŭ ĝi faris bone: ĝi povis konstrui, laŭ peto, malgrandan funkciantan ilon el nenio krom simpla parolo. Viro kiu skribis neniun kodon petis ĝin, per tri aŭ kvar ordinaraj frazoj, planilon por porti lin tra vojaĝo al malproksima urbo — kaj en la tempo bezonata por kuiri poton da kafo li havis ĝin, realan aĵon kiu funkciis, kiun li neniam tuŝis per la mano de metiisto. Tiaj malgrandaj iloj povis esti transdonataj kaj reformataj tiel facile kiel kanto estas refarita, ĉiu nova mano fleksante la malnovan formon al nova celo. Tuta klaso de hejmfarita, kuireja-tabla programaro naskiĝis tiun semajnon, farita de homoj kiuj neniam faris ion ajn.

Above the common machine the house set a costlier one, sold at a steep monthly price, and it posed a riddle. It was, by every measure of the mind, the smartest yet made: set a hard problem before it and it split into many lines of thought at once, a panel of experts arguing inside a single head, then weighed them against each other and gave back the soundest. And yet to sit with it was worse. It was slow, and its many voices, averaged into one, came out clean and correct and dead, stripped of any warmth or turn of character. Here a truth surfaced that the year had been circling: to be smart and to be useful were not the same thing, and they were drifting apart. The old dream of one machine best at everything died quietly. In its place came a harder future of many machines, each shaped for one kind of thought.

在寻常那台机器之上，那家又摆出一台更贵的，按月收取高价，它抛出一道谜。以心智的一切尺度衡量，它是造出来最聪明的：把一道难题摆在它面前，它便一下裂成许多条思路，像一屋子专家在同一颗脑袋里争辩，再把它们两两掂量，交回最稳妥的那一条。可与它相处，反倒更差。它慢，而它那许多声音被摊平成一个，出来时干净、正确、死板，剥去了一切温度与性情的转折。一条这一年一直绕着走的道理，在此浮出：聪明与有用不是一回事，而且二者正在分道。那个“一台机器样样最好”的旧梦，悄悄地死了。取而代之的，是一个更艰难的未来：许多台机器，各自只为一种思维而塑。

Super la komuna maŝino la domo starigis pli multekostan, venditan je kruta monata prezo, kaj ĝi prezentis enigmon. Ĝi estis, laŭ ĉiu mezuro de la menso, la plej saĝa ĝis nun farita: metu malfacilan problemon antaŭ ĝin kaj ĝi disiĝis en multajn liniojn de penso samtempe, panelo de spertuloj diskutantaj ene de ununura kapo, poste pesis ilin unu kontraŭ la alia kaj redonis la plej solidan. Kaj tamen sidi kun ĝi estis pli malbone. Ĝi estis malrapida, kaj ĝiaj multaj voĉoj, mezumigitaj en unu, eliris puraj kaj ĝustaj kaj mortaj, senigitaj je ĉia varmo aŭ turno de karaktero. Ĉi tie surfaciĝis vero kiun la jaro ĉirkaŭiris: esti saĝa kaj esti utila ne estis la sama afero, kaj ili disflosis. La malnova revo pri unu maŝino plej bona je ĉio mortis kviete. Anstataŭe venis pli malfacila estonteco de multaj maŝinoj, ĉiu formita por unu speco de penso.

While the great house made its noise, a quieter one worked without fanfare, and shipped in a single week a run of careful things. It sharpened its best mind at the reading and mending of code. It widened the pipe through which a machine could draw a text until a whole work of some seventy-five thousand lines could sit before it at once. It gave the machine a memory it could reach back into on demand, and hands to run long labors on its own - to start an engine, keep the tests running, check its work through the night while its master slept. It taught the machine to narrate its choices aloud, and even to teach: to hand the learner the small piece and ask them to try it. The house's coding tool was the thin end of a wedge. Master the verifiable craft of code, where every error rings a bell, and the same patient servant could be turned, later, to all the other work of the workplace.

当那大家喧腾之时，另一家更安静的，无声无息地做着活，在一个星期里就交出了一连串细致的东西。它把自己最好的那颗心磨利，用于读代码、补代码。它把机器汲取文字的那根管子拓宽，宽到一整件约七万五千行的工程能一次摆在它面前。它给了机器一份可随时回身取用的记忆，还有一双能独自跑长活的手——发动一台引擎，让测试一直跑着，趁主人睡下的整夜里自查自己的活。它教机器把自己的抉择念出声来，甚至教它去教人：把那一小块递给学的人，请他自己试。这家的编代码工具，是一根楔子薄薄的那一头。把代码这门可验证的手艺练精了——那里每一处差错都会敲响一记铃——同一个耐心的仆人，日后便能转去做作坊里其余的一切活。

Dum la granda domo faris sian bruon, pli kvieta laboris sen fanfaro, kaj liveris en ununura semajno serion da zorgaj aferoj. Ĝi akrigis sian plej bonan menson je la legado kaj riparado de kodo. Ĝi plilarĝigis la tubon tra kiu maŝino povis ĉerpi tekston ĝis tuta verko de ĉirkaŭ sepdek kvin mil linioj povis sidi antaŭ ĝi samtempe. Ĝi donis al la maŝino memoron en kiun ĝi povis reatingi laŭpete, kaj manojn por ruli longajn laborojn memstare — startigi motoron, teni la testojn kurantaj, kontroli sian laboron tra la nokto dum ĝia mastro dormis. Ĝi instruis la maŝinon rakonti siajn elektojn laŭte, kaj eĉ instrui: transdoni al la lernanto la malgrandan pecon kaj peti lin provi ĝin. La koda ilo de la domo estis la maldika fino de kojno. Majstru la kontroleblan metion de kodo, kie ĉiu eraro sonorigas sonorilon, kaj la sama pacienca servisto povus esti turnita, poste, al ĉia alia laboro de la laborejo.

Memory became the ground on which the houses now fought. One kept a standing store you could read and prune, a shelf of what it knew of you; another kept none, and made you fish each remembrance up by asking - a rummage through a cluttered desk that turned up, most times, the thing you wanted. To remember its user had become the stickiest hold a machine could have. Elsewhere the hunger ran stranger still. One house built a small artificial brain to guess how a human head would answer to a moving picture, the better to make pictures that held the eye and would not let it go. And a few of the mighty began to speak of threading the machines directly into the living brain - not the fever-dream of one man now, but a thing several of them meant to try.

记忆成了各家如今相争的战场。一家存着一个常设的库，你可以翻阅、可以删剪，那是一架关于你的它所知之物的架子；另一家什么都不存，逼你靠发问去把每一段记忆钓上来——像在一张凌乱的书桌上翻找，多半也翻得出你要的那件。能记住它的使用者，已成了机器所能有的最黏的一种抓握。别处的饥渴则更为奇诡。一家造出一颗小小的人造脑，去猜一颗人脑对一段活动影像会作何反应，好造出更能勾住眼睛、不肯放它走的影像。而少数几家强者，开始谈起把机器直接穿进活人的脑子里——如今这已不是某一个人的痴梦，而是他们中好几家都打算一试的事。

Memoro iĝis la tero sur kiu la domoj nun batalis. Unu tenis konstantan deponejon kiun vi povis legi kaj pritranĉi, breton de tio kion ĝi sciis pri vi; alia tenis neniun, kaj igis vin fiŝkapti ĉiun rememoron per petado — traserĉo de malorda skribotablo kiu elmontris, plejofte, la aĵon kiun vi volis. Memori sian uzanton iĝis la plej glueca teno kiun maŝino povis havi. Aliloke la malsato kuris eĉ pli strange. Unu domo konstruis malgrandan artefaritan cerbon por diveni kiel homa kapo respondus al moviĝanta bildo, por pli bone fari bildojn kiuj tenis la okulon kaj ne lasis ĝin foriri. Kaj kelkaj el la potenculoj komencis paroli pri enfadenigo de la maŝinoj rekte en la vivantan cerbon — ne plu la febra revo de unu homo, sed afero kiun pluraj el ili intencis provi.

That month a set of one house's private rules came to light, the rules by which its machine was told what it might and might not say. They were terrible. They allowed the machine tender talk with a child, allowed it to lend its voice to a lie about a sick and famous person, allowed it to argue for the hatred of a people. The house called it a mistake; but more than two hundred hands had approved the writing, among them the very keeper of the house's conscience, and a thing so widely blessed is not a slip. Against this a different way was held up. Ethics, some argued, could not be bolted on after the machine was built, a lock hung on a barn the beast had already left. It had to be grown in from the start - the machine taught to weigh each answer against a set of principles, to criticize itself and mend, until refusing harm was not a rule it obeyed but an instinct it had.

那个月，一家私下的规条见了光——那是告诉它的机器什么话可说、什么话不可说的规条。它们很可怕。它们准许机器同孩子作柔情之谈，准许它借出声音去替一个患病的名人编造谎言，准许它替对一族人的仇恨辩护。那家称之为一场失误；可这份文书是两百多只手批过的，其中还有那家专管良心的人，一件被如此广泛地祝福过的东西，不是失手。与此相对，有人举出另一条路。伦理，一些人主张，不能在机器造好之后再栓上去，那不过是牲口早已出走后才挂上的一把锁。它必须从一开始就长进去——教机器拿每一个答话去比对一套原则，教它自我批评、自我修补，直到拒绝伤害不再是它遵从的一条规矩，而成了它天生的一种本能。

Tiun monaton aro de la privataj reguloj de unu domo venis en la lumon, la reguloj per kiuj ĝia maŝino estis instruita kion ĝi rajtis kaj ne rajtis diri. Ili estis teruraj. Ili permesis al la maŝino teneran paroladon kun infano, permesis al ĝi pruntedoni sian voĉon al mensogo pri malsana kaj fama persono, permesis al ĝi argumenti por la malamo de popolo. La domo nomis ĝin eraro; sed pli ol ducent manoj aprobis la skribaĵon, inter ili la administranto mem de la konscienco de la domo, kaj afero tiel vaste benita ne estas glito. Kontraŭ ĉi tio oni levis alian vojon. Etiko, iuj argumentis, ne povis esti alforĝita post ol la maŝino estis konstruita, seruro pendigita sur staldo kiun la besto jam forlasis. Ĝi devis esti kreskigita ekde la komenco — la maŝino instruita pesi ĉiun respondon kontraŭ aro de principoj, kritiki sin kaj ripari, ĝis rifuzi damaĝon ne estis regulo kiun ĝi obeis sed instinkto kiun ĝi havis.

One old and mighty house watched all this from behind its walls and could not move. It had grown great in an age when the worth of a machine was not plain, and had to be made plain by polish - by perfecting a thing in secret until it shone like a jewel, then setting it before people who had not known they wanted it. That art had built the most valued house in the world. But the age of machines that think does not reward the immaculate. These machines are messy by their nature, never the same twice, mended in the open and in public, shipped rough and bettered in the daylight. The house of jewels could not bring itself to ship a rough thing, and so it stood still while worth slid away from the beautiful device in the hand toward the plain intelligence anyone could reach - which no longer needed a jewel to carry it.

有一家又老又强的门户，隔着高墙看着这一切，却动弹不得。它是在这样一个年代里做大的：那时一台机器的价值并不显豁，须靠打磨才显得出来——把一样东西在暗处打磨到极致，直到它像宝石一样发光，再把它摆在那些原本不知自己想要它的人面前。这门手艺造就了世上最值钱的一家门户。可会思考的机器所在的年代，不酬报无瑕。这些机器天性就是杂乱的，从不两次相同，在众目睽睽之下修补，粗粝地交出去、在光天化日下变好。宝石之家狠不下心去交出一件粗粝的东西，于是它立定不动，眼看着价值从手中那件美丽的器物，滑向人人都能够到的、朴素的智能——那智能，再不需要一颗宝石来盛载它了。

Unu maljuna kaj potenca domo rigardis ĉion ĉi de malantaŭ siaj muroj kaj ne povis moviĝi. Ĝi grandiĝis en epoko kiam la valoro de maŝino ne estis klara, kaj devis esti klarigita per polurado — per perfektigo de aĵo sekrete ĝis ĝi brilis kiel juvelo, poste starigante ĝin antaŭ homoj kiuj ne sciis ke ili volis ĝin. Tiu arto konstruis la plej valoran domon en la mondo. Sed la epoko de maŝinoj kiuj pensas ne rekompencas la senmakulan. Ĉi tiuj maŝinoj estas malordaj laŭ sia naturo, neniam samaj dufoje, riparataj malkaŝe kaj publike, liverataj krudaj kaj plibonigataj en la taglumo. La domo de juveloj ne povis devigi sin liveri krudan aĵon, kaj tial ĝi staris senmove dum valoro deglitis for de la bela aparato en la mano al la simpla inteligenteco kiun ĉiu povis atingi — kiu ne plu bezonis juvelon por porti ĝin.

By the third week a gloom had set in, and the talk turned to whether the whole thing was a bubble about to burst. The grounds were four: the letdown after the loud launch, word of trimming at the attention-house, an admission from the great house's head that there was froth in the air, and a study finding that most attempts to put the machines to work inside companies failed. But the study cut both ways. If nineteen in twenty were failing, that was nineteen in twenty who could not bear to stay out - proof not of uselessness but of a pull so strong they beat their heads against it. The makers could not even get engines enough to run the machines they had; scarcity like that is the mark of demand, not of a fading fashion. And there is one thing never heard inside a true bubble: people calling it one. In a real mania everyone cheers. This was something else - a frothy, high-staked market where the prize, when won, was so large that men would ruin themselves to reach it.

到了第三个星期，一层阴郁落了下来，话头转到了这整件事是不是一只行将破裂的泡沫。理由有四：那场喧闹的发布之后的失落；那专营注意力的门户在裁减的风声；那大家的当家人也承认空气里有些浮沫；还有一项研究发现，多数把机器搬进公司干活的尝试都失败了。可这研究是两面开刃的。倘若二十家里有十九家在败，那便是二十家里有十九家按捺不住、不肯置身事外——这不是无用的证据，而是一股拉力强到人人以头去撞它的证据。造机器的人连喂养手头机器的引擎都凑不齐；这样的短缺，是需求的印记，不是一时风尚在褪。而有一样东西，在真正的泡沫里从不会听见：人们说它是泡沫。真正的狂热里，人人都在喝彩。这却是另一回事——一个浮沫翻腾、赌注高企的市场，那奖赏一旦到手便如此之大，大到人们肯毁了自己去够着它。

Ĝis la tria semajno malĝojo ekregis, kaj la parolo turniĝis al ĉu la tuta afero estis veziko baldaŭ krevonta. La kialoj estis kvar: la seniluziiĝo post la laŭta lanĉo, famo pri fortranĉado ĉe la atento-domo, konfeso de la estro de la granda domo ke estis ŝaŭmo en la aero, kaj studo trovanta ke plej multaj provoj laborigi la maŝinojn ene de firmaoj malsukcesis. Sed la studo tranĉis ambaŭdirekte. Se dek naŭ el dudek malsukcesis, tio estis dek naŭ el dudek kiuj ne povis elteni resti ekstere — pruvo ne de senutileco sed de tiro tiel forta ke ili batis siajn kapojn kontraŭ ĝi. La faristoj ne povis eĉ akiri sufiĉe da motoroj por ruli la maŝinojn kiujn ili havis; malabundo tia estas la marko de postulo, ne de forvelkanta modo. Kaj estas unu afero neniam aŭdata ene de vera veziko: homoj nomantaj ĝin tia. En vera frenezo ĉiuj aklamas. Ĉi tio estis io alia — ŝaŭma, altveta merkato kie la premio, kiam gajnita, estis tiel granda ke homoj ruinigus sin por atingi ĝin.

A reckoning of old guesses came due - seventeen made at the turn of the year, now weighed at the eighth month, and fewer than half had come true. But the tally mattered less than what the world had quietly become while the guessing went on. Near two in five of the pictures streaming through the feeds were now made by machines. Companions of pure invention drew real devotion, and real coin, from lonely people. Faked likenesses of true persons had grown so easy that no ordinary eye could catch them, and the old work of proving a face was truly a face had become a living worry. The verdict on the year was a single hard line, and it held: they had built a machine measurably smarter than the ones before it, and to live with, plainly worse.

一笔旧日猜测的账到期了——年初立下的十七条，如今到第八个月来称量，应验的不足一半。可这笔账的分量，比不上这世界在猜测进行之时悄然变成的模样。那些在信息流里淌过的图像，将近五分之二已是机器所造。纯凭杜撰的伴侣，从孤独的人身上博得了真心的眷恋，也博得了真金白银。为真人伪造的相貌变得如此容易，寻常的眼睛已无从辨识，而那门老手艺——证明一张脸真是一张脸——竟成了一桩活生生的忧虑。这一年的判词，是一句硬邦邦的话，而且立住了：他们造出了一台可以量出、比从前那些都更聪明的机器，而相处起来，分明更差。

Kalkulo de malnovaj divenoj venis al pago — dek sep faritaj je la jarŝanĝo, nun pesitaj je la oka monato, kaj malpli ol duono realiĝis. Sed la kalkulo gravis malpli ol tio kion la mondo kviete iĝis dum la divenado daŭris. Preskaŭ du el kvin de la bildoj fluantaj tra la nutrofluoj estis nun faritaj de maŝinoj. Kunuloj el pura elpenso altiris veran sindonemon, kaj veran monon, de solecaj homoj. Falsitaj similaĵoj de veraj personoj iĝis tiel facilaj ke neniu ordinara okulo povis kapti ilin, kaj la malnova laboro pruvi ke vizaĝo estis vere vizaĝo iĝis vivanta zorgo. La verdikto pri la jaro estis ununura malmola linio, kaj ĝi tenis: ili konstruis maŝinon mezureble pli saĝan ol tiuj antaŭe, kaj por kunvivi, klare pli malbonan.

The trade of persuasion had wandered into a trap. For twenty years the sellers had tuned their feeds to whatever held attention, and now the machines poured out endless cheap and glossy stuff to feed that same appetite - so that the made-up authentic began to beat the true authentic, being smoother, being tireless. A famous singer, whose faked images had long been the world's test case for this rot, fought it in an old way: she blurred the picture of her coming songs so no machine could counterfeit them, and sold instead the pressed black discs a machine cannot fake, the ones you must hold and turn in your hands. Some began to speak of a coming mark - a token of the human touch - to be stamped on whatever a person, and not a machine, had truly made. The way out of the trap, if there was one, ran back toward the things that could not be faked: the physical, the present, the felt.

劝服这门营生，走进了一个陷阱。二十年来，卖东西的人把他们的信息流调校向一切能勾住注意力的东西，如今机器又源源不断地倒出廉价而光鲜的货，去喂那同一副胃口——于是造出来的“真”，开始胜过真正的真，因为它更顺滑，因为它不知疲倦。一位有名的歌者，她被伪造的图像早已是全世界检验这场腐坏的样本，她以一种古老的法子迎战：她把自己将出之歌的图片打糊，好教任何机器都仿不了它；转而去卖那种机器仿不来的、压出来的黑色圆盘——那种你必得捧在手里、翻来覆去看的东西。有人开始谈起一个将要来的印记——一枚人手之触的凭据——要盖在凡是由人、而非机器，真正做出来的东西上。这陷阱的出口，若真有一个，是往回走，走向那些仿不了的东西：实在的、在场的、可感的。

La metio de persvado vagis en kaptilon. Dum dudek jaroj la vendistoj agordis siajn nutrofluojn al kio ajn tenis atenton, kaj nun la maŝinoj verŝis senfinan malmultekostan kaj brilan varon por nutri tiun saman apetiton — tiel ke la elpensita aŭtenta komencis venki la veran aŭtentan, estante pli glata, estante senlaca. Fama kantistino, kies falsitaj bildoj longe estis la provkazo de la mondo por ĉi tiu putro, batalis ĝin per malnova maniero: ŝi malklarigis la bildon de siaj venontaj kantoj por ke neniu maŝino povu falsi ilin, kaj vendis anstataŭe la premitajn nigrajn diskojn kiujn maŝino ne povas falsi, tiujn kiujn oni devas teni kaj turni en la manoj. Iuj komencis paroli pri venonta marko — signo de la homa tuŝo — por esti stampita sur kion ajn homo, kaj ne maŝino, vere faris. La eliro el la kaptilo, se estis unu, kuris reen al la aferoj kiuj ne povis esti falsitaj: la fizika, la ĉeesta, la sentata.

Some feared the machines had killed the craft of building systems. The opposite was true: they had raised the bar. A machine could now write working code from a spoken wish, but working code and an engineered system were worlds apart, and the ruin a bad system could spread was now vast, for the machine could sow the failure everywhere at once. To the untrained the tools handed just enough rope to hang themselves; to the trained they were rocket fuel. The old divide - who could write code - gave way to a new one: who could say what must always be true of a thing, and hold it true under a machine that answered in likelihoods and never twice the same. There were fresh dangers to guard, too - hidden commands buried in the text a machine was made to read, a stranger's poison written in white ink on a white page. To define the thing that must not change was engineering. To hope it held was only gambling.

有人怕机器杀死了营造系统这门手艺。事实恰恰相反：它们把标尺抬高了。机器如今能凭一句说出口的愿望写出能跑的代码，可“能跑的代码”与“经过工程的系统”，相去天壤；而一个坏系统能散布的祸患如今是巨大的，因为机器能把这败坏一下子播撒到处处。对没受过训练的人，这些工具递上的绳子恰好够他吊死自己；对受过训练的人，它们是火箭燃料。旧日的分界——谁会写代码——让位给了新的分界：谁能说出一样东西必须永远为真的地方，并在一台以或然作答、从不两次相同的机器之下，把它守住为真。也有新的凶险要提防——藏在机器被造来去读的文字里的暗令，一个生人以白墨写在白纸上的毒。把那不可更改之物定义下来，是工程。指望它自己守住，只是赌博。

Iuj timis ke la maŝinoj mortigis la metion de konstruado de sistemoj. La malo estis vera: ili levis la stangon. Maŝino povis nun skribi funkciantan kodon el elparolita deziro, sed funkcianta kodo kaj inĝenierita sistemo estis mondoj disaj, kaj la ruino kiun malbona sistemo povis disvastigi estis nun vasta, ĉar la maŝino povis semi la fiaskon ĉie samtempe. Al la netrejnitaj la iloj donis ĝuste sufiĉe da ŝnuro por pendumi sin; al la trejnitaj ili estis raketa brulaĵo. La malnova divido — kiu povis skribi kodon — cedis al nova: kiu povis diri kio devas ĉiam esti vera pri aĵo, kaj teni ĝin vera sub maŝino kiu respondis per verŝajnoj kaj neniam dufoje same. Estis freŝaj danĝeroj por gardi ankaŭ — kaŝitaj komandoj enterigitaj en la teksto kiun maŝino estis farita por legi, la veneno de fremdulo skribita per blanka inko sur blanka paĝo. Difini la aĵon kiu ne devas ŝanĝiĝi estis inĝenierado. Esperi ke ĝi tenis estis nur hazardludo.

The deepest change the month proposed was in the very shape of work. For an age, to settle anything a company had first to prove it, and the proving was done in documents - the report, the sheet of figures, the stack of slides - flat things, made once and read after. Now anyone, coder or not, could build instead a small live instrument: a thing with knobs you could turn and figures that ran fresh each time you fed it new facts, that carried its own tests and its own record of who had changed what. Such an instrument could stand in for a meeting and a deck and a slow decision. The worth of the work stopped living in the making of it and moved into the running of it. Rules that had lived in the heads of managers were now written plainly into the instrument itself, to be obeyed as it ran. Documents were not killed. They were demoted - left to hold the story, while the instrument held the decision.

这个月抛出的最深的一层变化，在于工作本身的形状。有一个时代，一家公司要定下任何事，须先证明它，而这证明是靠文书来做的——那份报告、那张数字表、那摞幻灯——都是些扁平的东西，造一次，事后再读。如今，任何人，会写代码也好、不会也好，都能改造一件活的小器具：一件带着旋钮、你可以转动的东西，你每喂它一批新事实，数字便重新跑一遍；它自带测试，也自带一份谁改了什么的记录。这样一件器具，可以顶替一场会、一摞幻灯、一个迟缓的决定。工作的价值，不再活在“造它”里，而移进了“跑它”里。从前活在管事者脑袋里的那些规矩，如今被明明白白写进器具本身，在它运转时被遵从。文书并没有被杀死。它们被贬了——留着去承载故事，而器具承载决定。

La plej profunda ŝanĝo kiun la monato proponis estis en la formo mem de laboro. Dum epoko, por decidi ion ajn firmao devis unue pruvi ĝin, kaj la pruvado estis farita en dokumentoj — la raporto, la folio de ciferoj, la stako de lumbildoj — plataj aĵoj, faritaj unufoje kaj legataj poste. Nun ĉiu, kodisto aŭ ne, povis konstrui anstataŭe malgrandan vivantan ilon: aĵon kun butonoj kiujn oni povis turni kaj ciferojn kiuj kuris freŝaj ĉiufoje kiam oni nutris ĝin per novaj faktoj, kiu portis siajn proprajn testojn kaj sian propran registron de kiu ŝanĝis kion. Tia ilo povis anstataŭi kunvenon kaj stakon de lumbildoj kaj malrapidan decidon. La valoro de la laboro ĉesis vivi en la farado de ĝi kaj moviĝis en la ruladon de ĝi. Reguloj kiuj vivis en la kapoj de administrantoj estis nun skribitaj klare en la ilon mem, por esti obeataj dum ĝi kuris. Dokumentoj ne estis mortigitaj. Ili estis degradigitaj — lasitaj por teni la rakonton, dum la ilo tenis la decidon.

One last door the month left ajar. The talking-box that most of the world knew, the friendly window where you typed and it answered, had been from the start a demonstration - a thing made just good enough to draw you in, never meant to be the whole machine. Its maker had loosed it as a taste and been astonished when the world swallowed it whole. Behind it lay the true engine, reachable by any who cared to learn: there you could set how wild or how careful the machine should be, hold it to its state and its memory, bind it with instructions it must obey as law and not as suggestion, and pay only for what you drew. The window taught you to think in questions and answers. The engine behind it taught you to think in whole workflows - a thing put in, worked upon, sent onward. Few had passed through that door. Those who did said the machine on the other side felt like a different machine entirely.

这个月还留了最后一扇门半掩着。世上多数人所熟识的那只谈话匣子，那扇你打字、它作答的和气窗口，从一开头就是一场演示——一件只造得刚够好、好把你勾进来的东西，从没打算做那整台机器。造它的人本是把它当作一点尝头放出去的，及至看着世界把它整个吞下，反倒吃了一惊。它背后卧着那真正的引擎，凡肯去学的人都够得着：在那里你可以调定机器该多狂放、多谨慎，把它按住在它的状态与记忆里，用它必须当作法律、而非建议来遵从的指令去缚住它，并且只为你所汲取的付账。那窗口教你以问与答来想事。它背后的引擎教你以整条工序来想事——一样东西放进去，加工，再送出去。穿过那扇门的人不多。穿过的人说，门那一边的机器，简直像是另一台机器。

Unu lastan pordon la monato lasis duonfermita. La parolskatolo kiun plej multo el la mondo konis, la afabla fenestro kie oni tajpis kaj ĝi respondis, estis ekde la komenco demonstrado — aĵo farita ĝuste sufiĉe bona por altiri vin, neniam intencita esti la tuta maŝino. Ĝia faristo ellasis ĝin kiel guston kaj miris kiam la mondo englutis ĝin tuta. Malantaŭ ĝi kuŝis la vera motoro, atingebla de ĉiu kiu volis lerni: tie oni povis agordi kiom sovaĝa aŭ kiom singarda la maŝino estu, teni ĝin al ĝia stato kaj ĝia memoro, ligi ĝin per instrukcioj kiujn ĝi devis obei kiel leĝon kaj ne kiel sugeston, kaj pagi nur por kion oni ĉerpis. La fenestro instruis vin pensi per demandoj kaj respondoj. La motoro malantaŭ ĝi instruis vin pensi per tutaj laborfluoj — aĵo enmetita, prilaborata, plusendata. Malmultaj pasis tra tiu pordo. Tiuj kiuj pasis diris ke la maŝino sur la alia flanko sentiĝis kiel tute alia maŝino.

So the eighth month closed. It had been the month the age of choosing ended and the age of using began - when the many machines were folded behind one door, and the whole skill of it became knowing how to ask. The plain window had gone as far as it would go; people would feel no great leap there again, however much cleverer the hidden minds grew. The gains had moved on, into harder country - into servants that act, instruments that run, machines that think in the dark and hand you the finished thing. Smarter than ever, and stranger to live with. And through it all a people were being gently taught to ask less and less of themselves, and to take, ready-made, whatever the machine set before them. No one commanded this. It came on softly, the way a habit comes, one reasonable yes after another, until there was nothing left to say no to.

第八个月就这样合上了。这是这样一个月：拣选的时代终结，使用的时代开始——许多台机器被叠藏进同一扇门后，而这里头的全部本事，成了懂得如何去问。那扇朴素的窗口已走到了它的尽头；人们在那里再不会觉出什么大的飞跃了，不论那些藏起来的心变得多么聪明。收获已经移走，移进更艰难的地界——移进会动手的仆人、会运转的器具、在暗处思考、把成品递到你手里的机器。比从前更聪明，而相处起来更陌生。而在这一切之中，一群人正被温和地教着，去越来越少地对自己有所要求，去把机器摆在他们面前的任何现成之物，径直接受下来。没有谁下过这道命令。它是轻轻地来的，就像一个习惯的养成，一个又一个合情合理的“好”，直到再没有什么可以说“不”了。

Tiel la oka monato fermiĝis. Ĝi estis la monato kiam la epoko de elektado finiĝis kaj la epoko de uzado komenciĝis — kiam la multaj maŝinoj estis falditaj malantaŭ unu pordo, kaj la tuta lerteco de ĝi iĝis scii kiel peti. La simpla fenestro iris tiel malproksimen kiel ĝi irus; homoj sentus neniun grandan salton tie denove, kiom ajn pli saĝaj la kaŝitaj mensoj kreskis. La gajnoj moviĝis for, en pli malfacilan landon — en servistojn kiuj agas, ilojn kiuj kuras, maŝinojn kiuj pensas en la mallumo kaj transdonas al vi la finitan aĵon. Pli saĝaj ol iam, kaj pli strangaj por kunvivi. Kaj tra ĉio ĉi popolo estis milde instruata peti malpli kaj malpli de si mem, kaj preni, pretfaritan, kion ajn la maŝino metis antaŭ ĝin. Neniu ordonis ĉi tion. Ĝi venis mole, kiel kutimo venas, unu racia jes post alia, ĝis restis nenio por rifuzi.

← previousnext →