Rea Stark
ZH

文章

小,是一种战略

作者:,,更新于

机器一旦变小,别人也能拥有它。小语言模型和小型模块化反应堆,正把权力从机构手里转到拥有者手里。

宽阔的水泥地上一颗小石子,投下很长的影子

Nespresso Pixie宽11厘米。我参与过它的设计。这点宽度里装下了一个额定19巴的泵,和一个25秒就能预热好的加热器。从前喝一杯意式浓缩,得有一家咖啡馆,还得有个受过训练、会操作机器的人。Pixie只需要一块搁板。

咖啡经历过的事,如今正发生在两种大得多的机器身上。小语言模型在手机上运行,小型模块化反应堆可以就建在它供电的工厂或数据中心旁边。造这些机器的行业仍然崇拜规模,把小型版本当成稀奇玩意儿。它们错了。把机器做小,那些永远买不起大机器的人就能拥有它,权力也随之转移。

大机器属于机构,因为只有机构付得起钱,也等得起。佐治亚州沃格特勒核电站的两台新机组,原计划2016年和2017年投运,造价140亿美元。实际投运是在2023年和2024年,花了300多亿美元。2023年12月,州监管机构批准四家业主之一的Georgia Power上调电价,以收回剩余成本中的75.6亿美元。只有客户无处可去的业主,才扛得住这样一张账单。

人工智能照搬了这套安排。2025年1月,OpenAI及其合作伙伴宣布了Stargate计划,打算在四年内向算力基础设施投资5000亿美元。最大的模型就住在这类建筑里,其他人按词元计费租用。房东定价格,也可以随时换锁。

计算机行业经历过这一幕。大型机放在机房里,归公司所有,后来个人电脑把一台不如它的机器放上了桌面,交给任何付钱的人。如今没人说个人电脑是一台孱弱的大型机。

小模型,小反应堆

2024年4月,Microsoft发布了Phi-3-mini,一个38亿参数的模型。研究人员让它在一部iPhone 14上离线运行,只占约1.8GB内存。按Microsoft自己的测试,它与GPT-3.5不相上下,而ChatGPT在2022年底上线时用的正是GPT-3.5系列。2025年8月,Google发布了Gemma 3 270M,参数量2.7亿。Google在Pixel 9 Pro的芯片上测试,25次对话只耗去0.75%的电量。

从高处俯瞰,雾中开阔的高山湖面上只有一条划艇

这种规模的模型,能做的事比巨型模型少。但它们运行在用户自己的设备上,不向任何人发送任何东西。律师事务所可以用它处理自己的文件。医院也可以,而医院恰恰最不能把病历传到别人的服务器上。

反应堆正走上同一条路。国际原子能机构把小型模块化反应堆定义为每个模块发电功率不超过300兆瓦的反应堆,并统计出80多种设计和概念。其中一些是为单个工业厂区或数据中心设计的。到了这个规模,买家可以是一家公司,而不是一个州的全体电费用户。

自带电源的数据中心不必再等电网,时间表由自己定。说来奇怪,小型反应堆最早的一批客户里,有些正是运营最大模型的公司。

小的代价

小东西更弱,单位成本更高,规模经济也确实存在。2023年11月,NuScale和犹他州的一个市政公用事业联合体取消了原定为美国第一座小型模块化反应堆电站的项目,因为目标电价从每兆瓦时58美元涨到89美元,签约的买家又太少。手机上的模型,也比不上一个占满整座数据中心的模型。

雾中巨大岩壁下的一座小木屋

不过,单位成本是机构的尺子。它算的是产出,漏掉了入场费:十年的建设期,以及在这十年里干等着的资本。拥有者想知道的是,这台机器到底买不买得起,会不会被人拿走。犹他州的买家是一些市镇,它们之所以能考虑买一座反应堆,只因为这一座小到它们够得着。让它们止步的是价格。

至于弱,大多数工作本来就是小工作。一个整理发票、或回答某家公司说明书问题的模型,用不着整个互联网。Google推销它那个2.7亿参数的模型,卖点正是这一条:干这活儿的合适工具。

小东西还会以大东西做不到的方式变便宜,因为它们是批量生产的,每一批都让工厂学到点什么。最初的小型反应堆会很贵,第一批产品向来如此,公平的比较对象是第十台。沃格特勒的建造者只有两次练手的机会。

Rea Stark是苏黎世的工业设计师和创业者。他为Sony和Nespresso做过设计,联合创立了Piëch Automotive和Archaí Physics,研究机器如何感知和操作物理世界。

本文图片由人工智能生成。