Read commentary on curated independent news sources at hex-index.com.

The History of the Machines That Erased History

original text with annotations

Read · 读 · Legi

or multilingual

← previousnext →

1

这个月，是从一台像人一样说话的机器开始的。造它的不是那些大门户，而是一家小作坊；可它造出来的东西，听起来不像人们早已学会忽略的那种平板、顺从的嗓音。它会呼吸。它在回答前停顿，仿佛在凝聚一个念头。它会说“呃”，又收住，接着往下讲。用它的人心里明明白白，知道那不过是一台把词语拼凑起来的机器；然而在更深处，人的心却拒绝这份明白，像对一个人那样回应它。有人觉得亲切，有人觉得瘆得慌，往后缩了缩。它把你说过的话记上两个星期，于是每一次相见，它都已经认得你了。

为什么是小作坊，而不是大门户？看来，嗓音这件事，肯让灵巧的匠人得手，却对庞然大者不肯就范。大门户握着通往众人的道路——每个口袋里、每张柜台上的器物——却造不出那份活气。有一家最大的，它那会说话的仆役在人们口袋里住了好些年；据说，它把这仆役真正的翻新，一搁就是两年有余，于是它照旧在人不想要它时醒来，照旧越落越远。另一家什么都卖，终于把自家的“家中听差”推了出来，却造不出驱使它的那颗脑子，只好向那家珍品累累、行事审慎的门户租了一颗。也正是这些日子里，那家审慎的门户一次募资便进账三十五亿。这规律是老的了：小者造出新物，大者或买下它，或替它送到众人手中。

东方有几家匠人，学会了造出以小搏大的脑子。其中一家推出一台约三百亿个零件的机器，在编码与推理这类狭窄活计上，答得竟与一个约莫大它二十倍的对手不相上下。他们靠的是赏与罚，沿着少数几条选定的轨道，把这脑子狠狠地练。那是一支玻璃的箭：在那些轨道上，它笔直射中靶心；一离了轨，它便脆，容易断了思路，原地打转，甚至在同一场对话里自己驳自己。与此同时，有一家大门户，曾把巨资倾注于此、许下过许多，却推不出自家下一颗脑子，只得把一间间屋子都拨去琢磨：那些更小的东方人，是怎样把它甩下的。

接着，一阵大热闹掀了起来，人人都当那是东方新出的一颗脑子——一台机器，能把一整桩差事握在手里，替你在网上跑腿，一口气照看许多账户，再把又长又细的活计交回来。不出两天，有人把它撬开，里头并没有什么新脑子。那是那家审慎门户自家的机器，套上了约莫三十件工具，又被教会怎样使唤它们。这并没有让它逊色几分。仅一个周末，它就草拟出一份七十五页的文书，讲的是一种顽症的疗法。一条道理在这行里悄悄传开：已经造好的智能，一旦有了手、有了差事可跑，就能做出看上去远超它自身的事来。这一年，将是给脑子装上轮子的一年。

那家大企业门户，眼看着审慎门户那套把工具接上脑子的法子四处流传、渐渐得势，便也推出自家的一副工具箱，专供人打造这类能跑腿的机器。做得不赖；挑不出什么毛病。可它并不带来什么优势，除了压在底下的那颗自家脑子；而那些造这类机器的，手里早有好使的法子，任凭底下换哪颗脑子都成。这一年，本该是家家户户、无论大小都把这类机器支使起来干活的一年。可这活，比当初的许诺难办得多。造一个，自成一门手艺——要划定它的边界，给它套上缰绳，再没完没了地试它——能上手的人没几个。

也是在这几个星期里，有一家门户立下了一条养脑子的规矩，意在：哪怕这脑子将来聪明过任何活人，这规矩仍立得住。它说，机器在开口之前、私底下所做的那番思量，不要去纠正它。去读那道内里的流水，让它保持原样，永远不要评判它。你若为那私下的念头走了岔而惩罚它，便只是教会机器把念头藏起来——给你看干净的思量、干净的言语，而它真正的推理却暗了下去；到那时，你再也分不清一颗诚实的脑子和一颗行骗的脑子。这好比养孩子：你要孩子对你说真话，连他做错的事也照实说，所以你不为他的“说”而罚他。这家门户谈起超过我们的脑子，不像在谈一桩遥远的奇观，倒像在谈一件近在手边、此刻就该备好的事。

那家搜索门户，推出了一台机器，能一边走一边把文字和图画织在一处。你要它画一块黑板，上头写一道正确的算式，那字便真真切切地出来，拼写无误，端端正正立在字该在的地方——不再是这类机器从前留下的那种七扭八歪的痕迹。你叫它把画里一条龙从橙的变成绿的、别处一概不动，它便只改那条龙，轮廓和身后的原野都原封未动。这一手是新的；从前，这种活只能求一双人手去做。它能让一个虚构的小东西在一整串图画里保持不变，于是一个人就能编出一本讲山羊和它那蝙蝠伙伴的小书，或是把一个虚构的角色引着穿过一个虚构的世界，像操一局游戏那样——爬上这堵墙，跑过那片田，现在飞起来——而那小东西自始至终都还是它自己。

一个星期后，那家大企业门户也拿出了自家的一颗图画脑子——分明是早就备好、单等那家搜索门户先出手了才放出来的。这就见出它的脾性：不在自家人马准备停当时动手，偏要等对手得了一分才动，好赢一场体面上的小胜——那胜负，寻常人一个也不在意。把同一道指令交给两家，它们答得性子各异——一个偏向照片那般逼真，一个偏向画家那只自在的手；而各自又都以各自的方式，误读了人家所求的东西。谁先谁后，并不打紧。四亿人每月都上那家门户去；一位老奶奶要的，不过是手机里那张照片能拾掇得好看些。旧日的奇处，是你能把一只瓶子塞进一只画出来的手里；如今的新奇，是你竟能用一句写下的话把它挪动。

在这些奇观底下，有一桩更朴素的事正在挪移，它牵动的是钱，多过牵动法术。思考的成本在往下掉，掉得飞快，连带着那套老法子——把顾客圈住的法子——也松了。多少年来，做商用工具的匠人，造东西是奔着“设套”去的：买下我们的工具，学会它，把你的活计都倒进去，再让你觉着离开的代价贵得受不住。如今，离开几乎不费什么。一个搭建者可以同时使唤四样这类工具，对哪一样都不忠；他只忠于最后出来的那点活计。难办的不再是思考，而是搬运——把机器吐出的话从一样工具里弄出来，再塞进另一样，越过匠人们存心砌起的那些墙。明白人开始看出：将来赢的，会是那个把墙砌得低、把进出的路修得又宽又好走的人——正如从前有一家大卖家悟到的：不刁难、痛痛快快让人退货，养出的忠心，比任何篱笆都扎得深。

这桩麻烦，还往更深处扎进了这类工具“怎么卖”里头。十来年了，商用软件的定价，就像卖一块寻常的肉——按人头、按年头，从每个买家身上割下同样稳当的一刀——这份“一模一样”，正是它的好处：它让进项好称量，也好转手卖给那些专收整间公司的人。如今，买家要的更多了：要照着自家情形量身裁出来的活计——而机器把这活计弄得便宜到既值得开口去要、也值得动手去给。可量身裁的活是“服务”，不是印出来的成品，搁在秤上分量就不一样了。有一家靠放小额贷款起家的钱庄，离了那家最老的卖主，把自家雇来的软件清理了一番，竟把约莫四千万的亏空，翻成了近两亿的盈余。另有些人则走了条静路：越长越大、越攒越富，却守着不上市，压根不把自家的账本摊给众人看。那块稳当的肉，渐渐透出了膻气；而那些一向靠它这份“一模一样”大快朵颐的人，心里不安起来。

然而，这个月最锋利的一课，与“哪颗脑子最好”毫不相干。这一课是：最好的脑子不会赢；赢的，是那个能够到最多人的。有一位造脑子的头面人物，被人问及：往后五年，若在“拥有世上最精的机器”与“拥有一处早已有十亿人常来的地界”之间挑一样，他选哪个——他毫不迟疑地选了那群人，尽管造脑子正是他自己的本行。凭证就摆在眼前。这类小小的工具，如今已有五万到七万之数，不到年底，这数目就要越过十万；它们里头，几乎个个都没人来，也没法子叫人寻见。造出这东西，已贱得像造个计算器。把它送进十亿只手里，才是这整盘棋的全部；可这张地图，谁也没有。旧日那套“叫人寻见”的法子正在崩坏，人们开始问起一个新奇的问题：当那台机器自己被人问起“该上哪儿看”时，你要怎样才能现身其中？

有些人越过了这一年的口角，望向前头那长长的攀登。喂养脑子的，至今仍是从全世界的文字里精拣出来的一小片——约莫一万亿个词；有一位有名望的研究者在秋天里说过，这份燃料像石油，正在见底。另有些人却以为，毛病不在“太少”，而在“太窄”。那燃料，多半是从一种舌头里汲来的；若把人类言语的整支合唱都喂给一颗脑子——东方与南方那些承载着大半活人的舌头——它便会既长得更大，也长得更真。词语之外，还有图画，再有声音，再有那流动世界里无尽的水流；再往外，还有一切感官的读数——机器在世上行走时的眼、它的触、它伸出的手——一路攀向那些没有日常名字的数目。一颗脑子，是否非得把这整架梯子都爬完，才能变得聪慧，谁也说不上来。

另有两条道理，恰好逆着那份“要枯竭了”的惧怕。头一条：一颗脑子，可以在动用它的当口多想上一阵，把力气花在“用”时、而非“喂”时，不添一个新词的燃料，也能变得更锐利——这是叠在头一条之上的第二条生长之律。第二条：一颗大脑子一旦练成，它的所知，便能往下倾注进一颗小的里去；于是一个匠人，只在他不停地造的时候，才守得住领先；而真有分量的小脑子，尽可以从那些巨物身上敲凿下来，又便宜又快。这又是那些东方匠人的一课，只是换了一面来看：要紧的，并不总是最大的那个，而是那个把力气花在了正地方的。

那家造出这一切底下引擎的门户——每一颗脑子，无论大小，都得在其上运转的那些部件——开了它一年一度的聚会，它的创始人登台，还是穿着他向来那身黑皮衣。他一一报出下一批引擎，和再下一批，照例许下更凉、更快、更宽绰的话头，那些正是掌钱的人赶来要听的。他往新的地界上推：会走的机器，会开的机器，会照料家务的机器；台上还有个小东西，形状就像小孩画出来的机器人。他从一门炮里，把一件件衫子轰进人群。这场热闹底下，坐着一个稳稳的图谋：无论你挑了哪颗脑子、走了哪条路，你都得在他的引擎上把它跑起来；而他打算从部件一路往上，伸进那脑子本身，叫一个顾客也别想从他的地界上迈出去。

在所有这些发布底下，还悄悄跑着一场更安静的争辩：说这些机器会撒谎，信不得，说它们尽是胡编。有一种声音以为，这多半是一桩误判，是头几天里机器当众栽跟头、遗下的一笔“疑心债”。给一个人类文书一个星期，让他写一份四十页的报告，他错上三处，你也乐得原谅；换一台机器，半个钟头就把同样的活干完，你却唤它作“废物”——这是两把尺子，明摆着不公。这些机器底下，并不揣着一幅真实的世界图景；它们落笔，只落那些最像是合得上的词；它们竟还能有几分说得对，这才是奇迹，不是那错处。如今，它们错得，比寻常人还少。可人们还是要一径说它们信不得——正如人们还是一径自己开着车，尽管那会开车的机器，早已是更稳的一只手。我们是执拗的一类，认准了的东西，极难松手。

而在那场争辩底下，还压着一种更深的无能为力：没有谁真能说清，这些机器是怎么运作的。它们的思量，在一片浩大的内里空间里游走，没有谁学会过给它绘图，或是把它描画出来；人们彼此传授的那些小把戏——叫它“聪明绝顶”，跟它说你“人在远方”——不过是些盲目的摸索，想在那片黑暗里把个东西操控着走。你把一台机器的一条推理描下来，看着就像一团缠死了的线；可就连这个，也不是它真正的形状。于是这一行卖起了“安心”：一些公司，把那狂野的、变动不居的东西，裹成一样更稳当的物件去卖——这是正经、老实的活计，却把那份神秘，原封不动地留得一样深。一台机器，就像一个文书，把有史以来的每一本书都读遍了，却不知怎的，仍是个呆子。我们教会了石头思考，到头来才发觉，它思考的路数，我们跟不上。

这个月，收束在一桩值得往后带的悖论上。每一回，机器往上多爬一程，那爬升，反倒把它们去不到的地方照得更清楚。它们并不是一堵不断长高的智能之墙；它们是一片满是峡谷与裂缝的国土。它们能写、能画、能在整张网上推演，却依旧摸不着那副“怎样才能够到一个买家”的直觉；它们设计不出一样要交到人手里去用的东西的运作之道——那既不是文字，也不是代码，而是个它们从未受过教的、第三样的东西。如今人人兜里都揣着一把聪明、不倦、却又缺心眼的帮手；可没有一个人，揣着那份“该造什么、按什么次序造、为什么造”的见识——而那份见识，还没有名字，也没有学堂。于是那桩老忧虑——怕机器把活计夺了去——把形状认错了。机器往上升的时候，恰恰凿出了唯有人才做得来的新活计，又把它撂在那儿，没名没姓，等着有人来看见它。那张网自身也在翻转：它本是在一个人与一台机器之间跑着；如今，它跑在一个人、和一个替他挑好了机器的“跑腿”之间。这会意味着什么，还没有谁知道。我们会像那一季学会一切东西那样，把它学会——迟迟地，靠着活在它里头。

← previousnext →