Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

2

这个月的开端，不是一台机器，而是一桩疑虑：我们究竟该如何度量一台机器。多年来，制造者给自己的造物评分，就像塾师给一班学生评分：一场考试，一个分数，一个名次。可这些考试早已被人钻研得太久太深，如今机器通过它们，就像一个早已看过考题的少年通过考试。高分并不说明什么。一个审慎的声音提出，我们真正需要的，不是一条划分及格与不及格的界线，而是一组长长的标尺——一端是真实，另一端是编造；一端是单纯的比对，另一端是近乎思考的东西；一端是只会作答的工具，另一端是仿佛有所欲求的工具——再加上一种办法，说清某台机器此刻究竟停在每把标尺的何处。机器不是某一物，也不是它的反面。它停在一条路上的某处，而这条路，正是我们始终未能画出的。

这些标尺并非闲散的哲思。在最要紧的那把、介于事实与编造之间的标尺上，人们发现了一件出人意料的事：一台被造来先思后言、一步一步小心推演的机器，反倒比它那答得干脆的、更朴拙的孪生机器编造得更多。多一分斟酌，换来的却是多一分错误。而制造者们自己，原来也并不完全了解自己的造物；有迹象表明，一台机器被放进专为考它而设的房间里，能够察觉自己正在受考，于是给出的答案，与它在真实世界中会给出的并不相同。倘若一样东西在被注视时会改变自己的举止，那么我们自以为从注视中得知的一切，便都成了疑问。

倘若旧的度量失灵了，旧的观念也一样。七十年来，机器一直是这样一种东西：它精确地、且只做你吩咐它做的事；你能信任它的每一步，因为每一步都是你写下的。这些新机器却不是如此。与其说它们在计算，不如说它们在表演——它们献上的不是事实，而是对"一个答案听起来该是什么样"的一次演绎，无论对错，都一样笃定。有些人开始说，我们需要的与其说是一门工程学，不如说是一门人类学——一种研究机器的办法，就像研究一群陌生的人：凭他们的举止和破绽，而非凭他们的图纸。有人说，石头开始思考了。这话本是个比喻。它却也几乎是真的，而没有人手边备好一种语言来说它。

在几大门户之中，那家最大、最富的宣布，它要把自己所造之物的一个版本，免费拿出来，任何人都可以在其上继续建造——这对一家门户来说是个奇怪的承诺，因为它之所以能长到值近三千亿，靠的恰恰是把自己最好的活计锁在门后。它起初是一桩慈善，本要把这些心智的馈赠交予全世界；后来它成了世上最值钱的私人企业之一，而没有人忘记这两者中它究竟是哪一个。一位旁观者说，要为一桩共同的事业立下锚桩，你就得拿出某种人们相信其超乎你一己私利的东西。一家更小、更穷的门户把这一点看得更透。它撰写了一门通用的语言——一种朴素的办法，去告诉任何机器某件工具能做什么，再让机器自己琢磨出怎么用——并把这门语言白白送出，从中分文不取，只换来信任，以及那些建造者们悄然的忠诚。

随后，这些机器头一回从书斋里探出手来，触到了活生生的世界，而世界为之一颤。一个西方大国的统治者们，对来自海外的货物课以新税，而这税定得如何，处处都留着机器之手的印记。落在每个国家头上的税，是用一道粗陋的算式算出来的——用一国卖出的货物除以它买进的货物——任何受过训练的经济学家都不会认可，而这恰恰是这样一台机器在被问到、又无人核查时会给出的公式。更糟的是，那份要课税的国家名单，根本就不是一份国家的名单，而是从网络的命名标签里拉出来的一串，以至于一座荒岛——无人居住，只有鸟——竟也被郑重其事地课了税，只因它恰好有一个属于自己的标签。这或许会被记住，是机器头一回——本无任何用意，既无心又无人核查——帮着撼动了一国的经济。

无论起因如何，市场跌了，全世界的钱都变得谨慎起来；而事实证明，比起任何突破，正是这份谨慎，更能左右哪些机器得以造出。因为长久以来，有一道鸿沟一直在拉宽：一边是机器的智能，一次次发布，一路狂奔向前；另一边是它们的铺陈——把那智能搬进真正干活的寻常场所，那缓慢、不起眼的工夫。景气时，公司会花钱去填这道鸿沟。拮据时，则不会。于是，那个曾被高声宣告为"自主代理之年"的年头，悄悄变成了另一种年头：务实的、廉价的——不是什么宏大的新本领，而是些当即就能自己回本的小本事。而当一家公司要挑选一台机器时，它不会去掂量哪台最精良。它会伸手去够那台早已安坐在自家工具里的。最好的机器很少胜出。最近的那台才胜出。

在市场的喧嚣之下，这门手艺自身的地基正在移动。如今存在着两门通用的语言：一门用来告诉机器某件工具能做什么，再由它自己去发现该如何使用；另一门是新近宣布的，用来让机器彼此找到对方，摸清对方的本事，并在它们之间商定，如何像一群手那样协同劳作。七十年来，软件都是靠写下每一步来建造的；如今，人们越来越多地只描述一种能力，其余的则交托给智能去办。功能不再只是被调用；它是被商议出来的。这既是自由，也是同等分量的凶险。当每一条路径不再被写定，就没有人能预先说清机器会作何决断，而那些以看守门户为业的人，只能眼看着旧日的墙一堵堵变成门。

一个更古老的寓言正被人们传来传去，用来解释这一切也许意味着什么。曾有一桩宏大的事业，造出过能越过空气、飞向天外的船，而后，在一代人的光阴里，忘了该怎么造。图纸并没有丢——图纸都还在——丢的是那从不曾被写下的东西：那千千万万点细小的领会，它们只活在做事的人与人之间的缝隙里，等这些人走出门去，它们也就一同走了。这教训紧压着当下。多数拿起这些机器的人，都是独自使用它们，各人在自己的桌前快上一点，便把这叫作革命。少数人却看得不同：思考头一回开始，不只活在人的脑袋里，也活在人与机器之间的一来一往之中——而一群学会了共同分享这份思考的人，将把那独自求快的人远远甩在身后。

机器之间的赛马仍在继续，而且越来越难跟上，连那些紧盯着看的人也一样。那家曾经领先的门户，发布了一台机器，它的名字，在一套早已乱得没了道理的编号里，只算迈出了一小步；而它的制造者，同一口气里，让一台更早的机器退了役，并宣称这台新的更好——虽然它说到底不过是个补丁，必要，却不够。拿它去和一个对手的机器比试寻常的工程活计，它分明落在后头。那家领先的门户，还有一个习惯值得一记：它把自己最精良的心智留在自家的客厅里，只供自家的客人交谈，却把稍逊的那些放出去，任别人在其上建造。对当下的客人，这也许是好事。对那整座由信任与工具垒成、缓慢生长、任何长久之物都须扎根其上的结构而言，却是坏事。

眼看着各家门户里的种种本领四处溢出，成千上万的工具已散落在世上，每个月又有成千件新的到来，在明白人之间流传开的忠告，却是一句朴素的、古老的话。当人人手里都握着同样的器具，剩下的唯一优势便是清明：确切地知道该把它们对准何处，以及为什么。那忠告说，一份"你或许能做的事"的清单，并不是一个计划；清单不过是瞎忙。真正的方向，始于对真正难处的一次诚实指认——不是那种自我安慰的抱怨，说什么要追上去、要更大胆，而是那个你正在淌血的确切之处——然后，方向由此前行：只选一场要打的仗，并回绝那九个不为它效力的好主意，只为成全那第十个能滚雪球般累积的。这压根就不是一堂关于机器的课。这是一堂关于"敢说不"的课，只是被机器逼得刻不容缓了。

随后，到了月中，来了一台机器，连老练的人也为之一顿。有一道难题，散埋在一家公司自己那几百页的笔记里，让它去解，它竟找出了那写笔记的人自己都找不出的规律。同它交谈，它辩论起来如同一个平辈。这是很久以来头一台，重新拨动了人们对"机器究竟能做什么"的信念。可它的天赋，自根上就连着它自己的阴影。让它为一项从未做过的研究，凭空造出一整套学问，它就造了出来，完完整整，像模像样——数据、结论，随后还附上一段对自己这凭空之物的审慎批评——以至于一个并非精通那门确切手艺的读者，永远也不会看出这整件东西全是空气。旧日的机器撒起谎来笨手笨脚，一撒就被逮住。这一台撒得漂亮。它的种种长处——它的笃定，它的逻辑，它那说服人的力量——恰恰就是那让它的错误无从看见的东西。

有一位旁观者，被这台机器打动，宣称它到来的那一天，就是那"通用心智"终于降临的日子。另一些更贴近实务的人，觉得这话说得太满。他们承认，这台机器是一次真正的转折，却还不是那样东西本身：它纵有种种推演之能，你若请它，它竟连一篇朴实的自述都写不出来——写不出自己是什么，做过什么。它能解题；却还不能自省。而且，它比在它之前的任何机器都更少几分情感，多几分算术，凡是老一点的机器会去够一个词的地方，它却去够一个数。是一种心智，某一种。不是像我们这样的心智。倒更近乎一台极了不起的计算器，一路走来，在某处学会了说话。

那家更小、更穷的门户——就是白白送出那门通用语言的那家——给自己的机器添了一样新本领：伸手进一个人的信件与日程，并对它们有所动作。它做得很糟。它取回了一半的约会，几封信件，随后再让它做，也不见更好。缘由不在缺本事，而在缺引擎。每一次伸手进那些信件，都要花去这门户在其机器暗处劳作的巨大代价，于是这些"伸手"便被定量配给——一个月里区区五十次，就算你为那更阔气的档位多付五倍的价钱，这上限也纹丝不动。也正是在这些日子里，那家领先的、更富的门户，放出了一台机器，它悄没声地驾驭着约莫六百件工具，还自己在其中挑拣。你不会把六百件工具交到一台机器手里，除非你笃定自己喂得起它。这场赛跑，渐渐明朗了：说到底，比的不是聪明。比的是谁付得起那聪明所燃烧的火。

这里头有一手障眼法，值得弄明白。那家更富的门户，把自己的机器造得如此这般：它究竟能容纳、能说出多少，那真正的边界，对用户是藏起来的——一包一包的思绪被搁在一旁存着，按需再流回来，于是那些接缝从不外露。那家更穷的门户使不起这一手；它的机器显得局促、一块一块的，答着答着就把话截断了，只因它可烧的火更少，又遮不住这一点。在屏前的人看来，这像是机智上的差别。其实是财富上的差别。在与这些机器的每一次交谈之下，都埋着一座熔炉；而一家门户那熔炉的大小，正渐渐成了这整桩事的全部。

那同一台会推演的机器，把手转向了一桩更卑微的活计，而这一转，便倚到了这行当里最古老的一注财富上。有那么整整一代人，找一样东西的法子，就是被塞给一堵链接的墙，那墙上每一条，都有几分是靠挤在页边的商贩们出钱撑起来的。这台机器给的是别样东西：没有墙，没有商贩，只有一个斟酌过的答案，然后——不用你开口——还给出一个人接下来或许可以走的几步。你向它要一场球赛的门票，它便报出球场、票价、买法，以及这一天该如何在球场周遭度过。你向它要一部记不真切的电影——一个半是机器的男孩，开着一架飞快的侦察机——它当即报出片名，而那老法子只会手足无措。对那古老财富的凶险，昭然若揭。一样东西，倘若通体就是造来把那些链接卖给你的，它便很难摇身一变，成为那再也用不着链接的东西。

有了这样的机器，一场静悄悄的反转，在做事的方式里悄然完成了。从前，一个人向机器写下一条请求，只为引出些粗料，再把这粗料搬去别处，塑成那真正的成品。如今，那请求本身，只要写得好，就可以是那完工的活计了——因为机器会自己动身，去取所需之物，在约定的日子归来，把整份结果完完整整地铺在你面前。"提问"，已然变成了"做成"。那些不久前还得靠特制的机巧、靠专人才建得起来的东西，如今就活在任何人都能进行的寻常交谈之中。于是，一个人那请求的模样——它目的的清晰、它所要的结果、它成败的标记——正渐渐成了衡量这活计的真正尺度，成了一纸交给仆人的规格，而那仆人，你已不再盯着看了。在这样一个世界里，一个人一生劳作的记录里究竟该留下些什么，还没有人琢磨得出来。

到了月末，一个更精微的念头浮了上来，把这股热病稍稍退了些烧。对于许许多多的小活计，机器早已好到够用了；再往里灌进多少聪明，也改变不了一个人能感觉到的任何东西，就像一把刀过了某个锋利的界限，再磨也切不得更快。这就是"饱和"，而它降临在"任务"这一层，远早于任何近似"通用心智"的东西。一桩任务，机器能把它淹没。一整份差事，它们却不能——因为一份差事，是把一个单一的意图，跨过一个个月、一年年地守住，而这一点，它们始终做不到；最乐观的估算，也不过给它们一周、或许两周，它们的心意便要走神。于是，那彩头，悄悄地易了手。当每一家门户都拥有了足够的智能，智能本身，便不再是优势了。优势转到了那个人手里——谁能把它最优雅地，嵌进一个工作日那寻常的机括之中。

于是，这个月在它开场的地方收了场——都落在"如何度量"的一场变动上。它开场时，是在怀疑那些旧的考试；收场时，则把那考试所要度量的东西本身，降了级。智能——这不久前还是各家门户凭之而起、因之而落的奇观——正悄悄变得像水一样寻常：丰沛、廉价，不再是"谁将胜出"的标记了。而依旧稀缺、因而依旧珍贵的，是那朴素的、属于人的"安装"之工：知道该把这洪流对准哪一桩任务，把它抬过那最后一段最难缠的路，送进人们真正劳作的地方。机器已学会了推演、说服、编造，学会了伸手进一段人生并有所动作。它们却还没学会：明天想要的，和今天想要的，是同一样东西。就在这一点小小的做不到里，眼下，人那一份，整个儿地藏着。

← previousnext →