美是一种信任
三里岛的一盏指示灯对操作员撒了谎。核电和人工智能用统计数字回应恐惧,人们信的却是看得见的用心。

三里岛控制台上的一盏灯告诉操作员,一个泄压阀已经关闭。可阀门卡在了开启位置。那盏灯报告的,其实只是打开阀门的电源已被切断。那是1979年3月28日凌晨四点左右,冷却剂又持续泄漏了两个多小时。几分钟之内,上百个警报同时响起,包围着一班正努力弄懂自己机器的操作人员。
据监管机构自己的说法,泄漏出来的辐射对任何人健康造成的损害都微不足道,但核电名声受到的损害一直延续到今天。我认为那盏灯首先是设计的失败,其次才是工程的失败。一个控制元件说的和机器在做的不是一回事,这就是出厂时就装进去的谎言。人们凭能检查的东西判断检查不了的东西,而细致的做工,往往是他们能得到的全部证据。
眼睛在审计什么
几乎没人能检查压力容器或神经网络。可谁都能看一道焊缝,听一扇门关上时是一声还是三声。人们从这些东西推断其余,而这种推断比看上去可靠。用心是一种习惯,很少有公司只在看得见的部位用心。
1995年,Hitachi东京设计中心的两位研究员黑须正明和鹿志村香,把26种取款机界面布局拿给252个人看。一种布局看起来好不好用,更多取决于它有多美,而不是它实际有多好用。业内把这叫作“美即好用效应”,归为一种偏见。可人们向来就是这样判断那些打不开的东西的。
我自己的行当从另一面教会了我同样的事。我为Sony和Panasonic设计过设备,在那里,买家会把一条稍微没对齐的接缝,读成对整家公司的判决。

冷却塔和聊天窗口
核电和人工智能需要公众信任的程度,不亚于任何一种技术,而两者都不擅长展示自己。核电的脸是冷却塔。它排出的只有水蒸气,燃煤电厂也有冷却塔,可它偏偏成了恐惧的象征。人工智能的脸是聊天窗口,一个带光标的空框,看不出机器哪些是知道的,哪些只是猜的。
两者的制造者都用数字回应恐惧。Our World in Data的数据显示,煤每发1太瓦时电,约造成25人死亡,核电则少99.8%,切尔诺贝利和福岛都算在内。这个数字是真的,却没让几个害怕的人安下心来,人工智能实验室公布的基准测试分数也好不到哪里去。统计数字要你信任做统计的人,而这恰恰是被怀疑的东西。
英国在差不多一百年前就明白了这一点。伦敦人反对在巴特西兴建一座燃煤电站,于是在1929年,工程已经开工之后,建筑师贾尔斯·吉尔伯特·斯科特爵士被请来给它换一张脸。他给电站包上精致的砖墙,把烟囱做成带凹槽的柱子。如今,国家把一座燃煤电厂列为受保护建筑。
为AI数据中心建造的小型反应堆,会立在离人们工作的地方不远处,人们会先凭大门和控制室来评判它,远在读到安全论证报告的一页之前。我主导设计的Piëch Mark Zero,在风险低得多的层面上讲的是同一个道理。一家新车企没有过往记录,所以它第一款车的表面,必须完成老牌子靠几十年声誉完成的工作。

美丽的谎言
美也会骗人,Theranos就是现成的例子。它的Edison验血机,外壳出自瑞士出生的工业设计师伊夫·贝哈尔的工作室。贝哈尔后来对Fast Company说,他负责的是这东西的外观,他看到过里面的线缆和管子,却无从判断它们是否管用。它们不管用。创始人伊丽莎白·霍姆斯于2022年1月被判欺诈罪成立。
Theranos恰好替我证明了观点。没人会伪造一种不值钱的货币,骗子借用美,正是因为人们信任美。Theranos的外壳只是造型,一层画在某种机制外面的壳,而这机制连设计师自己都无法担保。名副其实的设计从里面开始,从机器做什么开始,再让表面如实地报告出来。按这个标准,加利福尼亚的那只盒子失败了,宾夕法尼亚的那块控制台也失败了。
治美丽谎言的办法,是让设计师进入机房,并要他们对在那里看到的东西负责。三里岛事故之后,美国监管机构要求核电站在控制室里为操作员提供直接指示,显示泄压阀是开着还是关着。
Rea Stark是苏黎世的工业设计师和创业者。他为Sony和Nespresso做过设计,联合创立了Piëch Automotive和Archaí Physics,研究机器如何感知和操作物理世界。关于
本文图片由人工智能生成。