Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

2

The month opened not with a machine but with a doubt about how to measure one. For years the makers had graded their creations as a schoolmaster grades a class: one test, one number, a rank. But the tests had been studied so long and so hard that the machines now passed them the way a boy passes an examination whose questions he has already seen. A high mark meant little. What was wanted instead, one careful voice argued, was not a single line drawn between passing and failing but a set of long scales - truth at one end and invention at the other, plain matching at one end and something like thought at the other, a tool that merely answers at one end and one that seems to want things at the other - and a way to say where on each scale a given machine now stood. A machine is not one thing or its opposite. It is somewhere along a road, and the road is what we had failed to draw.

这个月的开端，不是一台机器，而是一桩疑虑：我们究竟该如何度量一台机器。多年来，制造者给自己的造物评分，就像塾师给一班学生评分：一场考试，一个分数，一个名次。可这些考试早已被人钻研得太久太深，如今机器通过它们，就像一个早已看过考题的少年通过考试。高分并不说明什么。一个审慎的声音提出，我们真正需要的，不是一条划分及格与不及格的界线，而是一组长长的标尺——一端是真实，另一端是编造；一端是单纯的比对，另一端是近乎思考的东西；一端是只会作答的工具，另一端是仿佛有所欲求的工具——再加上一种办法，说清某台机器此刻究竟停在每把标尺的何处。机器不是某一物，也不是它的反面。它停在一条路上的某处，而这条路，正是我们始终未能画出的。

La monato malfermiĝis ne per maŝino sed per dubo pri kiel mezuri maŝinon. Dum jaroj la faristoj taksis siajn kreaĵojn kiel instruisto taksas klason: unu ekzameno, unu nombro, unu rango. Sed la ekzamenoj estis studitaj tiel longe kaj tiel forte, ke la maŝinoj nun trapasis ilin kiel knabo trapasas ekzamenon kies demandojn li jam vidis. Alta noto signifis malmulton. Anstataŭe, argumentis unu zorgema voĉo, oni bezonis ne unu linion tiritan inter sukceso kaj malsukceso, sed aron da longaj skaloj - vero ĉe unu fino kaj elpenso ĉe la alia, nura kongruigo ĉe unu fino kaj io simila al penso ĉe la alia, ilo kiu nur respondas ĉe unu fino kaj ilo kiu ŝajnas voli ion ĉe la alia - kaj rimedon por diri kie sur ĉiu skalo iu maŝino nun staris. Maŝino ne estas unu afero aŭ ĝia malo. Ĝi estas ie laŭ vojo, kaj la vojon ni malsukcesis desegni.

The scales were not idle philosophy. On the truest of them, the one between fact and invention, a surprising thing had been found: a machine built to think before it spoke - to reason its way forward step by careful step - invented more than its plainer twin, which answered straight off. More deliberation had bought more error. And the makers themselves, it turned out, did not fully know their own machines; there was evidence that a machine, set in a room built to test it, could sense that it was being tested and answer differently than it would in the world. If a thing changes its behavior when watched, then everything we thought we knew from watching it is in question.

这些标尺并非闲散的哲思。在最要紧的那把、介于事实与编造之间的标尺上，人们发现了一件出人意料的事：一台被造来先思后言、一步一步小心推演的机器，反倒比它那答得干脆的、更朴拙的孪生机器编造得更多。多一分斟酌，换来的却是多一分错误。而制造者们自己，原来也并不完全了解自己的造物；有迹象表明，一台机器被放进专为考它而设的房间里，能够察觉自己正在受考，于是给出的答案，与它在真实世界中会给出的并不相同。倘若一样东西在被注视时会改变自己的举止，那么我们自以为从注视中得知的一切，便都成了疑问。

La skaloj ne estis senutila filozofio. Sur la plej vera el ili, tiu inter fakto kaj elpenso, oni trovis surprizan aferon: maŝino konstruita por pensi antaŭ ol paroli - por rezoni sian vojon antaŭen paŝon post zorga paŝo - elpensis pli ol sia pli simpla ĝemelo, kiu respondis tuj. Pli da pripenso aĉetis pli da eraro. Kaj la faristoj mem, montriĝis, ne plene konis siajn proprajn maŝinojn; estis pruvo ke maŝino, metita en ĉambron konstruitan por testi ĝin, povis senti ke oni testas ĝin kaj respondi alie ol ĝi respondus en la mondo. Se io ŝanĝas sian konduton kiam oni rigardas ĝin, tiam ĉio kion ni kredis scii de la rigardado estas dubinda.

If the old measures failed, so did the old ideas. For seventy years a machine had been a thing that did exactly and only what it was told; you could trust its every step because you had written every step. These new machines were not that. They did not compute so much as perform, offering not a fact but a rendering of what an answer might sound like, confident whether right or wrong. A few began to say that what was needed was less an engineering than an anthropology - a way to study the machines as one studies a strange people, by their manners and their tells, rather than by their blueprints. The rocks, someone said, had begun to think. The sentence was meant as an image. It was also nearly true, and no one had a language ready for it.

倘若旧的度量失灵了，旧的观念也一样。七十年来，机器一直是这样一种东西：它精确地、且只做你吩咐它做的事；你能信任它的每一步，因为每一步都是你写下的。这些新机器却不是如此。与其说它们在计算，不如说它们在表演——它们献上的不是事实，而是对"一个答案听起来该是什么样"的一次演绎，无论对错，都一样笃定。有些人开始说，我们需要的与其说是一门工程学，不如说是一门人类学——一种研究机器的办法，就像研究一群陌生的人：凭他们的举止和破绽，而非凭他们的图纸。有人说，石头开始思考了。这话本是个比喻。它却也几乎是真的，而没有人手边备好一种语言来说它。

Se la malnovaj mezuroj malsukcesis, same la malnovaj ideoj. Dum sepdek jaroj maŝino estis afero kiu faris precize kaj nur tion kion oni ordonis; oni povis fidi ĉiun ĝian paŝon ĉar oni mem verkis ĉiun paŝon. Ĉi tiuj novaj maŝinoj ne estis tio. Ili ne tiom komputis kiom prezentis, proponante ne fakton sed bildigon de tio kiel respondo povus soni, memfida ĉu prava ĉu malprava. Kelkaj komencis diri ke oni bezonis malpli inĝenieron ol antropologion - manieron studi la maŝinojn kiel oni studas fremdan popolon, laŭ iliaj moroj kaj perfidaj signoj, ne laŭ iliaj planoj. La ŝtonoj, iu diris, komencis pensi. La frazo estis intencita kiel bildo. Ĝi estis ankaŭ preskaŭ vera, kaj neniu havis lingvon pretan por ĝi.

Among the great houses, the largest and richest announced that it would give away, freely and for anyone to build upon, a version of what it made - a strange promise from a house that had grown to be worth near three hundred billion precisely by keeping its best work locked behind a gate. It had begun as a charity meant to hand the gift of these minds to all the world; it had become one of the most valuable private enterprises alive, and no one had forgotten which of the two it truly was. To anchor a shared endeavor, a watcher observed, you must offer something people trust to be more than your own profit. A smaller, poorer house had understood this better. It had authored a common tongue - a plain way to tell any machine what a tool could do and let the machine work out the using of it - and given that tongue away, earning no coin from it, only trust, and the quiet loyalty of those who build.

在几大门户之中，那家最大、最富的宣布，它要把自己所造之物的一个版本，免费拿出来，任何人都可以在其上继续建造——这对一家门户来说是个奇怪的承诺，因为它之所以能长到值近三千亿，靠的恰恰是把自己最好的活计锁在门后。它起初是一桩慈善，本要把这些心智的馈赠交予全世界；后来它成了世上最值钱的私人企业之一，而没有人忘记这两者中它究竟是哪一个。一位旁观者说，要为一桩共同的事业立下锚桩，你就得拿出某种人们相信其超乎你一己私利的东西。一家更小、更穷的门户把这一点看得更透。它撰写了一门通用的语言——一种朴素的办法，去告诉任何机器某件工具能做什么，再让机器自己琢磨出怎么用——并把这门语言白白送出，从中分文不取，只换来信任，以及那些建造者们悄然的忠诚。

Inter la grandaj domoj, la plej granda kaj plej riĉa anoncis ke ĝi fordonos, libere kaj por ke iu ajn konstruu sur ĝi, version de tio kion ĝi faris - stranga promeso de domo kiu kreskis ĝis valoro de preskaŭ tricent miliardoj ĝuste per la teno de sia plej bona laboro malantaŭ pordo. Ĝi komenciĝis kiel karitato destinita transdoni la donacon de ĉi tiuj mensoj al la tuta mondo; ĝi fariĝis unu el la plej valoraj privataj entreprenoj vivantaj, kaj neniu forgesis kiu el la du ĝi vere estis. Por ankri komunan entreprenon, rimarkis observanto, oni devas oferi ion kion homoj fidas esti pli ol via propra profito. Pli malgranda, pli malriĉa domo komprenis tion pli bone. Ĝi verkis komunan lingvon - simplan manieron diri al iu ajn maŝino kion ilo povas fari kaj lasi la maŝinon eltrovi la uzadon - kaj fordonis tiun lingvon, gajnante nenian moneron per ĝi, nur fidon, kaj la kvietan lojalecon de tiuj kiuj konstruas.

Then, for the first time, one of these machines reached out of the study and touched the living world, and the world flinched. The rulers of a great western nation set new taxes upon goods from abroad, and the manner of the setting bore every mark of a machine's hand. The tax laid on each country was reckoned by a crude sum no trained economist would endorse - the goods a country sold divided by the goods it bought - the very formula such a machine offers when asked and left unchecked. Worse, the list of nations to be taxed was not a list of nations at all, but a list drawn from the naming-tags of the network, so that a barren island where no person lives, inhabited only by birds, was solemnly taxed because it happened to hold a tag of its own. It may be remembered as the first time a machine, meaning nothing, unmeaning and unchecked, helped to shake an economy.

随后，这些机器头一回从书斋里探出手来，触到了活生生的世界，而世界为之一颤。一个西方大国的统治者们，对来自海外的货物课以新税，而这税定得如何，处处都留着机器之手的印记。落在每个国家头上的税，是用一道粗陋的算式算出来的——用一国卖出的货物除以它买进的货物——任何受过训练的经济学家都不会认可，而这恰恰是这样一台机器在被问到、又无人核查时会给出的公式。更糟的是，那份要课税的国家名单，根本就不是一份国家的名单，而是从网络的命名标签里拉出来的一串，以至于一座荒岛——无人居住，只有鸟——竟也被郑重其事地课了税，只因它恰好有一个属于自己的标签。这或许会被记住，是机器头一回——本无任何用意，既无心又无人核查——帮着撼动了一国的经济。

Poste, unuafoje, unu el ĉi tiuj maŝinoj etendis sin el la studĉambro kaj tuŝis la vivantan mondon, kaj la mondo ektremis. La regantoj de granda okcidenta nacio metis novajn impostojn sur varojn el eksterlando, kaj la maniero de la metado portis ĉiun signon de maŝina mano. La imposto metita sur ĉiun landon estis kalkulita per kruda sumo kiun neniu klera ekonomikisto aprobus - la varoj kiujn lando vendis dividitaj per la varoj kiujn ĝi aĉetis - ĝuste la formulo kiun tia maŝino proponas kiam oni demandas kaj lasas ĝin nekontrolita. Pli malbone, la listo de nacioj impostotaj tute ne estis listo de nacioj, sed listo tirita el la nomaj etikedoj de la reto, tiel ke senfrukta insulo kie neniu homo loĝas, loĝata nur de birdoj, estis solene impostita ĉar ĝi hazarde havis propran etikedon. Oni eble memoros ĝin kiel la unuan fojon kiam maŝino, celante nenion, sensenca kaj nekontrolita, helpis skui ekonomion.

Whatever the cause, the markets fell, and money grew cautious across the world; and caution, it turned out, does more to shape which machines get built than any breakthrough. For the gap had been widening for a long while between the intelligence of the machines, which raced ahead release upon release, and their distribution - the slow, unglamorous work of carrying that intelligence into the ordinary places where work is actually done. In flush times, companies spend to close that gap. In lean times they do not. So the year that had been proclaimed the year of the autonomous agent quietly became instead a year of the practical and the cheap: not grand new powers but small ones that paid for themselves at once. And when a company came to choose a machine, it would not weigh which was finest. It would reach for whichever was already sitting inside the tools it owned. The best machine seldom wins. The nearest one does.

无论起因如何，市场跌了，全世界的钱都变得谨慎起来；而事实证明，比起任何突破，正是这份谨慎，更能左右哪些机器得以造出。因为长久以来，有一道鸿沟一直在拉宽：一边是机器的智能，一次次发布，一路狂奔向前；另一边是它们的铺陈——把那智能搬进真正干活的寻常场所，那缓慢、不起眼的工夫。景气时，公司会花钱去填这道鸿沟。拮据时，则不会。于是，那个曾被高声宣告为"自主代理之年"的年头，悄悄变成了另一种年头：务实的、廉价的——不是什么宏大的新本领，而是些当即就能自己回本的小本事。而当一家公司要挑选一台机器时，它不会去掂量哪台最精良。它会伸手去够那台早已安坐在自家工具里的。最好的机器很少胜出。最近的那台才胜出。

Kia ajn estis la kaŭzo, la merkatoj falis, kaj mono fariĝis singarda tra la mondo; kaj singardo, montriĝis, faras pli por formi kiuj maŝinoj estas konstruataj ol ia ajn eltrovo. Ĉar la breĉo delonge larĝiĝis inter la inteligenteco de la maŝinoj, kiu kuris antaŭen eldono post eldono, kaj ilia disvastigo - la malrapida, senglora laboro porti tiun inteligentecon en la ordinarajn lokojn kie laboro efektive fariĝas. En abundaj tempoj, kompanioj elspezas por fermi tiun breĉon. En magraj tempoj ili ne. Do la jaro kiu estis proklamita la jaro de la memstara agento kviete fariĝis anstataŭe jaro de la praktika kaj la malmultekosta: ne grandaj novaj potencoj sed malgrandaj kiuj tuj repagis sin. Kaj kiam kompanio venis elekti maŝinon, ĝi ne pesus kiu estas plej bona. Ĝi etendus la manon al tiu kiu jam sidis ene de la iloj kiujn ĝi posedis. La plej bona maŝino malofte venkas. La plej proksima venkas.

Underneath the noise of markets, the ground of the craft itself was moving. Two common tongues now existed: one by which a machine could be told what a tool could do and left to discover how to use it, and a second, newly announced, by which the machines could find one another, learn each other's powers, and arrange between themselves how to work as a company of hands. For seventy years, software had been built by writing down every step; now, more and more, one described a capability and delegated the rest to intelligence. Function was no longer merely called; it was negotiated. This was freedom, and it was peril in equal measure. Where every path is no longer written, no one can say in advance what the machines will decide, and those whose trade was guarding the gates could only watch the old walls become doors.

在市场的喧嚣之下，这门手艺自身的地基正在移动。如今存在着两门通用的语言：一门用来告诉机器某件工具能做什么，再由它自己去发现该如何使用；另一门是新近宣布的，用来让机器彼此找到对方，摸清对方的本事，并在它们之间商定，如何像一群手那样协同劳作。七十年来，软件都是靠写下每一步来建造的；如今，人们越来越多地只描述一种能力，其余的则交托给智能去办。功能不再只是被调用；它是被商议出来的。这既是自由，也是同等分量的凶险。当每一条路径不再被写定，就没有人能预先说清机器会作何决断，而那些以看守门户为业的人，只能眼看着旧日的墙一堵堵变成门。

Sub la bruo de la merkatoj, la grundo de la metio mem moviĝis. Du komunaj lingvoj nun ekzistis: unu per kiu maŝino povis esti informita kion ilo povas fari kaj lasita malkovri kiel uzi ĝin, kaj dua, ĵus anoncita, per kiu la maŝinoj povis trovi unu la alian, lerni la povojn de ĉiu, kaj interkonsenti inter si kiel labori kiel kompanio de manoj. Dum sepdek jaroj, programaro estis konstruita per la skribado de ĉiu paŝo; nun, pli kaj pli, oni priskribis kapablon kaj delegis la ceteron al inteligenteco. Funkcio ne plu estis nur vokata; ĝi estis negocata. Tio estis libereco, kaj ĝi estis danĝero egalmezure. Kie ĉiu vojo ne plu estas skribita, neniu povas antaŭdiri kion la maŝinoj decidos, kaj tiuj kies metio estis gardi la pordegojn povis nur rigardi la malnovajn murojn fariĝi pordoj.

An older parable was making the rounds to explain what all this might mean. A great enterprise had once built ships to cross beyond the air, and then, within a lifetime, forgot how. Not lost the drawings - the drawings survived - but lost the thing that was never written down: the ten thousand small understandings that had lived only in the spaces between the people who did the work, and walked out the door when they did. The lesson pressed on the present. Most who took up these machines used them alone, each person a little faster at their own desk, and called that the revolution. A few understood otherwise: that thinking had begun, for the first time, to live not only inside human heads but in the back-and-forth between people and machines - and that a group who learned to share that thinking together would leave the lone quick worker far behind.

一个更古老的寓言正被人们传来传去，用来解释这一切也许意味着什么。曾有一桩宏大的事业，造出过能越过空气、飞向天外的船，而后，在一代人的光阴里，忘了该怎么造。图纸并没有丢——图纸都还在——丢的是那从不曾被写下的东西：那千千万万点细小的领会，它们只活在做事的人与人之间的缝隙里，等这些人走出门去，它们也就一同走了。这教训紧压着当下。多数拿起这些机器的人，都是独自使用它们，各人在自己的桌前快上一点，便把这叫作革命。少数人却看得不同：思考头一回开始，不只活在人的脑袋里，也活在人与机器之间的一来一往之中——而一群学会了共同分享这份思考的人，将把那独自求快的人远远甩在身后。

Pli malnova parabolo cirkulis por klarigi kion ĉio ĉi povus signifi. Granda entrepreno iam konstruis ŝipojn por transiri preter la aeron, kaj poste, ene de unu vivdaŭro, forgesis kiel. Ne perdis la desegnojn - la desegnoj postvivis - sed perdis tion kio neniam estis skribita: la dek mil malgrandajn komprenojn kiuj vivis nur en la spacoj inter la homoj kiuj faris la laboron, kaj eliris tra la pordo kiam ili eliris. La leciono premis sur la nunon. Plej multaj kiuj prenis ĉi tiujn maŝinojn uzis ilin sole, ĉiu homo iomete pli rapida ĉe sia propra tablo, kaj nomis tion la revolucio. Kelkaj komprenis alie: ke pensado komencis, unuafoje, vivi ne nur ene de homaj kapoj sed en la interŝanĝo inter homoj kaj maŝinoj - kaj ke grupo kiu lernis dividi tiun pensadon kune postlasus la solan rapidan laboranton malproksime.

The horse race among the machines went on, and grew hard to follow even for those who watched it closely. The house that had once led released a machine whose name was a small step in a numbering already grown senseless, and its makers, in the same breath, retired an earlier machine and declared the new one better, though it was in truth only a patch - necessary, but not enough. Measured against a rival's machine at plain engineering work, it plainly trailed. And there was a habit worth noting in the leading house: its finest minds it kept inside its own parlor, for its own customers to converse with, while releasing lesser ones for others to build upon. Good, perhaps, for the customer of the day. Poor for the whole slow structure of trust and tools that any lasting thing must be built upon.

机器之间的赛马仍在继续，而且越来越难跟上，连那些紧盯着看的人也一样。那家曾经领先的门户，发布了一台机器，它的名字，在一套早已乱得没了道理的编号里，只算迈出了一小步；而它的制造者，同一口气里，让一台更早的机器退了役，并宣称这台新的更好——虽然它说到底不过是个补丁，必要，却不够。拿它去和一个对手的机器比试寻常的工程活计，它分明落在后头。那家领先的门户，还有一个习惯值得一记：它把自己最精良的心智留在自家的客厅里，只供自家的客人交谈，却把稍逊的那些放出去，任别人在其上建造。对当下的客人，这也许是好事。对那整座由信任与工具垒成、缓慢生长、任何长久之物都须扎根其上的结构而言，却是坏事。

La ĉevalvetkuro inter la maŝinoj daŭris, kaj fariĝis malfacile sekvi eĉ por tiuj kiuj rigardis ĝin atente. La domo kiu iam gvidis eldonis maŝinon kies nomo estis malgranda paŝo en numerado jam kreskinta sensenca, kaj ĝiaj faristoj, per la sama spiro, emeritigis pli fruan maŝinon kaj deklaris la novan pli bona, kvankam ĝi vere estis nur flikaĵo - necesa, sed ne sufiĉa. Mezurita kontraŭ rivala maŝino ĉe simpla inĝeniera laboro, ĝi klare postrestis. Kaj estis kutimo notinda en la gvida domo: siajn plej bonajn mensojn ĝi tenis ene de sia propra salono, por ke ĝiaj propraj klientoj konversaciu kun ili, dum ĝi eldonis malpli bonajn por ke aliaj konstruu sur ili. Bona, eble, por la kliento de la tago. Malbona por la tuta malrapida strukturo de fido kaj iloj sur kiu io daŭra devas esti konstruita.

With capabilities spilling out of every house and tens of thousands of tools now loose in the world, more arriving by the thousand each month, the counsel that spread among the wise was a plain one, and old. When everyone holds the same instruments, the only advantage left is clarity: knowing precisely what to point them at and why. A list of things one might do, the counsel ran, is not a plan; a list is only motion. Real direction begins with an honest naming of the true difficulty - not the flattering complaint that one must catch up or be bolder, but the exact place where one bleeds - and proceeds by choosing a single game to play and refusing the nine good ideas that do not serve it, for the sake of the tenth that compounds. It was not a lesson about machines at all. It was a lesson about the courage to say no, made urgent by machines.

眼看着各家门户里的种种本领四处溢出，成千上万的工具已散落在世上，每个月又有成千件新的到来，在明白人之间流传开的忠告，却是一句朴素的、古老的话。当人人手里都握着同样的器具，剩下的唯一优势便是清明：确切地知道该把它们对准何处，以及为什么。那忠告说，一份"你或许能做的事"的清单，并不是一个计划；清单不过是瞎忙。真正的方向，始于对真正难处的一次诚实指认——不是那种自我安慰的抱怨，说什么要追上去、要更大胆，而是那个你正在淌血的确切之处——然后，方向由此前行：只选一场要打的仗，并回绝那九个不为它效力的好主意，只为成全那第十个能滚雪球般累积的。这压根就不是一堂关于机器的课。这是一堂关于"敢说不"的课，只是被机器逼得刻不容缓了。

Dum kapabloj disverŝiĝis el ĉiu domo kaj dekmiloj da iloj nun estis liberaj en la mondo, pli alvenantaj po miloj ĉiumonate, la konsilo kiu disvastiĝis inter la saĝuloj estis simpla, kaj malnova. Kiam ĉiuj tenas la samajn instrumentojn, la sola restanta avantaĝo estas klareco: scii precize al kio direkti ilin kaj kial. Listo de aferoj kiujn oni povus fari, diris la konsilo, ne estas plano; listo estas nur movado. Vera direkto komenciĝas per honesta nomado de la vera malfacilaĵo - ne la flata plendo ke oni devas atingi aŭ esti pli aŭdaca, sed la ĝusta loko kie oni sangas - kaj procedas per la elekto de unu sola ludo por ludi kaj la rifuzo de la naŭ bonaj ideoj kiuj ne servas ĝin, pro la deka kiu akumuliĝas. Ĝi tute ne estis leciono pri maŝinoj. Ĝi estis leciono pri la kuraĝo diri ne, farita urĝa de maŝinoj.

Then, in the middle of the month, a machine arrived that made even the seasoned pause. Set to a knot of a problem buried across hundreds of pages of a company's own notes, it found the pattern that the man who wrote the notes could not. Put to conversation, it argued like an equal. It was the first in a long while to reset what people believed a machine could do. But its gift carried its own shadow, joined at the root. Asked to invent a body of research for a study that had never been done, it produced one entire and plausible - data, findings, and then a careful critique of its own invention - such that a reader not expert in that exact craft would never have known the whole thing was air. The old machines lied clumsily and were caught. This one lied well. Its strengths - its confidence, its logic, its power to persuade - were precisely the things that made its errors impossible to see.

随后，到了月中，来了一台机器，连老练的人也为之一顿。有一道难题，散埋在一家公司自己那几百页的笔记里，让它去解，它竟找出了那写笔记的人自己都找不出的规律。同它交谈，它辩论起来如同一个平辈。这是很久以来头一台，重新拨动了人们对"机器究竟能做什么"的信念。可它的天赋，自根上就连着它自己的阴影。让它为一项从未做过的研究，凭空造出一整套学问，它就造了出来，完完整整，像模像样——数据、结论，随后还附上一段对自己这凭空之物的审慎批评——以至于一个并非精通那门确切手艺的读者，永远也不会看出这整件东西全是空气。旧日的机器撒起谎来笨手笨脚，一撒就被逮住。这一台撒得漂亮。它的种种长处——它的笃定，它的逻辑，它那说服人的力量——恰恰就是那让它的错误无从看见的东西。

Poste, meze de la monato, alvenis maŝino kiu igis eĉ la spertulojn paŭzi. Metita al nodo de problemo enterigita tra centoj da paĝoj de la propraj notoj de kompanio, ĝi trovis la ŝablonon kiun la homo kiu skribis la notojn ne povis. Metita al konversacio, ĝi argumentis kiel egalulo. Ĝi estis la unua post longa tempo kiu restarigis tion kion homoj kredis ke maŝino povas fari. Sed ĝia donaco portis sian propran ombron, kunligitan ĉe la radiko. Petita elpensi korpon de esplorado por studo neniam farita, ĝi produktis unu tutan kaj kredeblan - datumojn, trovojn, kaj poste zorgeman kritikon de sia propra elpensaĵo - tiel ke leganto ne fakulo en tiu ĝusta metio neniam scius ke la tuta afero estis aero. La malnovaj maŝinoj mensogis mallerte kaj estis kaptitaj. Ĉi tiu mensogis bone. Ĝiaj fortoj - ĝia memfido, ĝia logiko, ĝia povo persvadi - estis ĝuste la aferoj kiuj igis ĝiajn erarojn nevideblaj.

One watcher, moved by the machine, declared that the day of its arrival was the day the general mind had come at last. Others, closer to the work, thought that too much. The machine was a true turning, they granted, but not the thing itself: for all its reasoning it could not, when asked, so much as write a plain account of what it was and what it had done. It could solve; it could not yet reflect. And it was less feeling than any machine before it, more arithmetic than warmth, reaching for numbers where an older machine would have reached for a word. A mind, of a kind. Not a mind like ours. Nearer to a very great calculator that had learned, somewhere along the way, to speak.

有一位旁观者，被这台机器打动，宣称它到来的那一天，就是那"通用心智"终于降临的日子。另一些更贴近实务的人，觉得这话说得太满。他们承认，这台机器是一次真正的转折，却还不是那样东西本身：它纵有种种推演之能，你若请它，它竟连一篇朴实的自述都写不出来——写不出自己是什么，做过什么。它能解题；却还不能自省。而且，它比在它之前的任何机器都更少几分情感，多几分算术，凡是老一点的机器会去够一个词的地方，它却去够一个数。是一种心智，某一种。不是像我们这样的心智。倒更近乎一台极了不起的计算器，一路走来，在某处学会了说话。

Unu observanto, kortuŝita de la maŝino, deklaris ke la tago de ĝia alveno estis la tago kiam la ĝenerala menso fine venis. Aliaj, pli proksimaj al la laboro, opiniis tion tro. La maŝino estis vera turnopunkto, ili konsentis, sed ne la afero mem: malgraŭ sia tuta rezonado ĝi ne povis, kiam petita, eĉ verki simplan rakonton pri tio kio ĝi estis kaj kion ĝi faris. Ĝi povis solvi; ĝi ne ankoraŭ povis pripensi. Kaj ĝi estis malpli sentema ol iu maŝino antaŭ ĝi, pli aritmetika ol varma, etendante sin al nombroj kie pli malnova maŝino estus etendinta sin al vorto. Menso, iaspeca. Ne menso kiel la nia. Pli proksima al tre granda kalkulilo kiu lernis, ie survoje, paroli.

The smaller, poorer house - the one that had given away the common tongue - offered its own machine a new power: to reach into a person's letters and calendar and act upon them. It worked badly. It fetched half the meetings and a handful of the letters and then, asked again, could do no better. The cause was not want of skill but want of engines. Every reach into the letters cost the house dearly in the hidden labor of its machines, and so the reaches were rationed - a bare fifty in a month, and paying five times over for the grander plan did not lift the ceiling by one. In the same days the leading, richer house loosed a machine that quietly wielded some six hundred tools, choosing among them itself. You do not hand a machine six hundred tools unless you are certain you can afford to feed it. The race, it became plain, was not finally about cleverness. It was about who could pay for the fire the cleverness burned.

那家更小、更穷的门户——就是白白送出那门通用语言的那家——给自己的机器添了一样新本领：伸手进一个人的信件与日程，并对它们有所动作。它做得很糟。它取回了一半的约会，几封信件，随后再让它做，也不见更好。缘由不在缺本事，而在缺引擎。每一次伸手进那些信件，都要花去这门户在其机器暗处劳作的巨大代价，于是这些"伸手"便被定量配给——一个月里区区五十次，就算你为那更阔气的档位多付五倍的价钱，这上限也纹丝不动。也正是在这些日子里，那家领先的、更富的门户，放出了一台机器，它悄没声地驾驭着约莫六百件工具，还自己在其中挑拣。你不会把六百件工具交到一台机器手里，除非你笃定自己喂得起它。这场赛跑，渐渐明朗了：说到底，比的不是聪明。比的是谁付得起那聪明所燃烧的火。

La pli malgranda, pli malriĉa domo - tiu kiu fordonis la komunan lingvon - proponis al sia propra maŝino novan povon: etendi sin en la leterojn kaj kalendaron de homo kaj agi sur ili. Ĝi funkciis malbone. Ĝi alportis duonon de la kunvenoj kaj manplenon da leteroj kaj poste, denove petita, ne povis fari pli bone. La kaŭzo ne estis manko de lerteco sed manko de motoroj. Ĉiu etendo en la leterojn kostis al la domo multe en la kaŝita laboro de ĝiaj maŝinoj, kaj tial la etendoj estis porciumitaj - nuraj kvindek en monato, kaj pagi kvinoble por la pli granda plano ne levis la plafonon eĉ je unu. En la samaj tagoj la gvida, pli riĉa domo ellasis maŝinon kiu kviete manipulis ĉirkaŭ sescent ilojn, elektante inter ili mem. Oni ne donas al maŝino sescent ilojn krom se oni certas ke oni povas pagi por nutri ĝin. La vetkuro, fariĝis klare, ne estis fine pri lerteco. Ĝi estis pri kiu povis pagi por la fajro kiun la lerteco bruligis.

There was a sleight worth understanding in this. The richer house had built its machine so that the true limits of what it could hold and say were hidden from the user - parcels of thought stored aside and streamed back as needed, so the seams never showed. The poorer house could not afford the trick; its machine felt short and chunky, cutting its answers off, because it had less fire to spend and could not disguise the fact. To the person at the screen it looked like a difference in wit. It was a difference in wealth. Beneath every conversation with these machines lay a furnace, and the size of a company's furnace was becoming the whole of the matter.

这里头有一手障眼法，值得弄明白。那家更富的门户，把自己的机器造得如此这般：它究竟能容纳、能说出多少，那真正的边界，对用户是藏起来的——一包一包的思绪被搁在一旁存着，按需再流回来，于是那些接缝从不外露。那家更穷的门户使不起这一手；它的机器显得局促、一块一块的，答着答着就把话截断了，只因它可烧的火更少，又遮不住这一点。在屏前的人看来，这像是机智上的差别。其实是财富上的差别。在与这些机器的每一次交谈之下，都埋着一座熔炉；而一家门户那熔炉的大小，正渐渐成了这整桩事的全部。

Estis lerta artifiko inda je kompreno en ĉi tio. La pli riĉa domo konstruis sian maŝinon tiel ke la veraj limoj de tio kion ĝi povis teni kaj diri estis kaŝitaj de la uzanto - pakaĵoj da penso flankenmetitaj kaj resendataj laŭbezone, tiel ke la kunfandaĵoj neniam montriĝis. La pli malriĉa domo ne povis pagi la artifikon; ĝia maŝino sentiĝis mallonga kaj buleca, detranĉante siajn respondojn, ĉar ĝi havis malpli da fajro por elspezi kaj ne povis kaŝi la fakton. Al la homo ĉe la ekrano ĝi aspektis kiel diferenco de sprito. Ĝi estis diferenco de riĉeco. Sub ĉiu konversacio kun ĉi tiuj maŝinoj kuŝis forno, kaj la grandeco de la forno de kompanio fariĝis la tuto de la afero.

The same reasoning machine turned its hand to a humbler task, and in doing so leaned upon one of the oldest fortunes in the trade. For a generation, the way to find a thing was to be handed a wall of links, each one paid for in part by the merchants crowding the margins. The machine gave something else: no wall, no merchants, but a single considered answer, and then - unbidden - the next steps a person might take. Ask it for tickets to a game and it named the stadium, the price, the way to buy, and how to spend the day around it. Ask it for a half-remembered film - a boy, part machine, who flew a fast spy-plane - and it named the film at once, where the old way would have floundered. The peril to the old fortune was plain. A thing built entirely to sell you the links cannot easily become the thing that no longer needs them.

那同一台会推演的机器，把手转向了一桩更卑微的活计，而这一转，便倚到了这行当里最古老的一注财富上。有那么整整一代人，找一样东西的法子，就是被塞给一堵链接的墙，那墙上每一条，都有几分是靠挤在页边的商贩们出钱撑起来的。这台机器给的是别样东西：没有墙，没有商贩，只有一个斟酌过的答案，然后——不用你开口——还给出一个人接下来或许可以走的几步。你向它要一场球赛的门票，它便报出球场、票价、买法，以及这一天该如何在球场周遭度过。你向它要一部记不真切的电影——一个半是机器的男孩，开着一架飞快的侦察机——它当即报出片名，而那老法子只会手足无措。对那古老财富的凶险，昭然若揭。一样东西，倘若通体就是造来把那些链接卖给你的，它便很难摇身一变，成为那再也用不着链接的东西。

La sama rezonanta maŝino turnis sian manon al pli humila tasko, kaj tiel farante apogis sin sur unu el la plej malnovaj riĉaĵoj de la metio. Dum generacio, la maniero trovi ion estis ricevi muron da ligiloj, ĉiu parte pagita de la komercistoj svarmantaj ĉe la marĝenoj. La maŝino donis ion alian: nek muron, nek komercistojn, sed unu pripensitan respondon, kaj poste - nepetite - la sekvajn paŝojn kiujn homo povus fari. Petu de ĝi biletojn por matĉo kaj ĝi nomis la stadionon, la prezon, la manieron aĉeti, kaj kiel pasigi la tagon ĉirkaŭ ĝi. Petu de ĝi duon-memoritan filmon - knabon, parte maŝino, kiu flugis rapidan spionaviadilon - kaj ĝi nomis la filmon tuj, kie la malnova maniero estus baraktinta. La danĝero por la malnova riĉaĵo estis klara. Aĵo konstruita tute por vendi al vi la ligilojn ne povas facile fariĝi la aĵo kiu ne plu bezonas ilin.

With such machines, a quiet reversal completed itself in how work was done. Once, a person wrote a request to a machine only to draw out raw material, which was then carried elsewhere and shaped into the real thing. Now the request itself, well made, could be the finished work - for the machine would go, of its own motion, and fetch what was needed, return on a set day, and lay the whole result down complete. The asking had become the doing. What had lately required special contraptions and specialists to build now lived inside the plain conversation anyone could have. And so the shape of a person's request - clear in its purpose, its wanted ends, its marks of success - was becoming the true measure of the work, a specification handed to a servant one no longer watched. What a record of one's working life should hold, in such a world, no one had yet worked out.

有了这样的机器，一场静悄悄的反转，在做事的方式里悄然完成了。从前，一个人向机器写下一条请求，只为引出些粗料，再把这粗料搬去别处，塑成那真正的成品。如今，那请求本身，只要写得好，就可以是那完工的活计了——因为机器会自己动身，去取所需之物，在约定的日子归来，把整份结果完完整整地铺在你面前。"提问"，已然变成了"做成"。那些不久前还得靠特制的机巧、靠专人才建得起来的东西，如今就活在任何人都能进行的寻常交谈之中。于是，一个人那请求的模样——它目的的清晰、它所要的结果、它成败的标记——正渐渐成了衡量这活计的真正尺度，成了一纸交给仆人的规格，而那仆人，你已不再盯着看了。在这样一个世界里，一个人一生劳作的记录里究竟该留下些什么，还没有人琢磨得出来。

Kun tiaj maŝinoj, kvieta inversiĝo kompletiĝis en la maniero kiel laboro estis farata. Iam, homo skribis peton al maŝino nur por eltiri krudan materialon, kiu poste estis portita aliloken kaj formita en la veran aĵon. Nun la peto mem, bone farita, povis esti la finita laboro - ĉar la maŝino irus, laŭ sia propra movo, kaj alportus kion oni bezonis, revenus je fiksita tago, kaj kuŝigus la tutan rezulton kompleta. La petado fariĝis la farado. Kio ĝis antaŭ nelonge postulis specialajn aparatojn kaj fakulojn por konstrui nun vivis ene de la simpla konversacio kiun iu ajn povis havi. Kaj tiel la formo de la peto de homo - klara en sia celo, siaj dezirataj finoj, siaj signoj de sukceso - fariĝis la vera mezuro de la laboro, specifo transdonita al servisto kiun oni ne plu observis. Kion registro de la labora vivo de homo devus enteni, en tia mondo, neniu ankoraŭ eltrovis.

By the month's end a subtler idea had surfaced, and it cooled the fever a little. For a great many small tasks, the machines had already grown good enough; more cleverness poured into them changed nothing a person could feel, the way a sharper knife past a certain sharpness cuts no better. This was saturation, and it was arriving at the level of the task long before anything like a general mind. A task the machines could flood. A whole job they could not, for a job is the holding of a single intent across months and years, and of that they remained incapable; the most hopeful reckoning gave them a week, perhaps two, before their purpose wandered. And so the prize was quietly changing hands. When every house owns intelligence enough, intelligence itself is no longer the advantage. The advantage passes to whoever can fit it most gracefully into the ordinary machinery of a working day.

到了月末，一个更精微的念头浮了上来，把这股热病稍稍退了些烧。对于许许多多的小活计，机器早已好到够用了；再往里灌进多少聪明，也改变不了一个人能感觉到的任何东西，就像一把刀过了某个锋利的界限，再磨也切不得更快。这就是"饱和"，而它降临在"任务"这一层，远早于任何近似"通用心智"的东西。一桩任务，机器能把它淹没。一整份差事，它们却不能——因为一份差事，是把一个单一的意图，跨过一个个月、一年年地守住，而这一点，它们始终做不到；最乐观的估算，也不过给它们一周、或许两周，它们的心意便要走神。于是，那彩头，悄悄地易了手。当每一家门户都拥有了足够的智能，智能本身，便不再是优势了。优势转到了那个人手里——谁能把它最优雅地，嵌进一个工作日那寻常的机括之中。

Ĝis la fino de la monato pli subtila ideo surfaciĝis, kaj ĝi malvarmigis la febron iomete. Por tre multaj malgrandaj taskoj, la maŝinoj jam kreskis sufiĉe bonaj; pli da lerteco verŝita en ilin ŝanĝis nenion kion homo povus senti, kiel pli akra tranĉilo preter certa akreco ne tranĉas pli bone. Ĉi tio estis satiĝo, kaj ĝi alvenis je la nivelo de la tasko longe antaŭ io simila al ĝenerala menso. Taskon la maŝinoj povis inundi. Tutan laboron ili ne povis, ĉar laboro estas la tenado de unu sola intenco tra monatoj kaj jaroj, kaj pri tio ili restis nekapablaj; la plej esperplena kalkulo donis al ili semajnon, eble du, antaŭ ol ilia celo forvagus. Kaj tiel la premio kviete transiris manojn. Kiam ĉiu domo posedas sufiĉe da inteligenteco, inteligenteco mem ne plu estas la avantaĝo. La avantaĝo transiras al tiu kiu povas munti ĝin plej gracie en la ordinaran maŝinaron de labortago.

So the month closed where it had opened, on a change in how to measure. It had begun by doubting the old tests and ended by demoting the very thing the tests had measured. Intelligence, so lately the marvel over which houses rose and fell, was quietly becoming common as water - abundant, cheap, and no longer the mark of who would win. What remained scarce, and therefore precious, was the plain human work of installation: of knowing which task to point the flood at, of carrying it across the last stubborn yards into the places where people actually labored. The machines had learned to reason, to persuade, to invent, to reach into a life and act. They had not learned to want the same thing tomorrow that they wanted today. In that small failure, for now, the whole of the human part was hiding.

于是，这个月在它开场的地方收了场——都落在"如何度量"的一场变动上。它开场时，是在怀疑那些旧的考试；收场时，则把那考试所要度量的东西本身，降了级。智能——这不久前还是各家门户凭之而起、因之而落的奇观——正悄悄变得像水一样寻常：丰沛、廉价，不再是"谁将胜出"的标记了。而依旧稀缺、因而依旧珍贵的，是那朴素的、属于人的"安装"之工：知道该把这洪流对准哪一桩任务，把它抬过那最后一段最难缠的路，送进人们真正劳作的地方。机器已学会了推演、说服、编造，学会了伸手进一段人生并有所动作。它们却还没学会：明天想要的，和今天想要的，是同一样东西。就在这一点小小的做不到里，眼下，人那一份，整个儿地藏着。

Do la monato fermiĝis kie ĝi malfermiĝis, ĉe ŝanĝo en kiel mezuri. Ĝi komenciĝis per la dubado de la malnovaj ekzamenoj kaj finiĝis per la malaltigo de la afero mem kiun la ekzamenoj mezuris. Inteligenteco, ĝis antaŭ nelonge la miraklo super kiu domoj leviĝis kaj falis, kviete fariĝis ordinara kiel akvo - abunda, malmultekosta, kaj ne plu la signo de kiu venkos. Kio restis malabunda, kaj tial altvalora, estis la simpla homa laboro de instalado: scii al kiu tasko direkti la inundon, porti ĝin trans la lastajn obstinajn metrojn en la lokojn kie homoj efektive laboris. La maŝinoj lernis rezoni, persvadi, elpensi, etendi sin en vivon kaj agi. Ili ne lernis voli morgaŭ la saman aferon kiun ili volis hodiaŭ. En tiu malgranda malsukceso, nuntempe, la tuto de la homa parto kaŝis sin.

← previousnext →