Rea Stark
RU

Эссе

Красота как форма доверия

Автор: , , обновлено

Сигнальная лампа на Три-Майл-Айленд солгала операторам. Атомная энергетика и ИИ отвечают на страх статистикой, но люди доверяют видимой тщательности.

Взгляд вверх изнутри бетонной градирни на светлый круг неба

На пульте управления АЭС Три-Майл-Айленд лампа сообщила операторам, что предохранительный клапан закрылся. Клапан заклинило в открытом положении. Лампа сообщала лишь о том, что отключено питание, которое открывает клапан. Было около четырех часов утра 28 марта 1979 года, и теплоноситель продолжал уходить больше двух часов. За несколько минут вокруг смены, которая пыталась понять собственную машину, сработала сотня сигналов тревоги.

Вырвавшаяся радиация, по оценке самого регулятора, нанесла здоровью людей ничтожный вред, а вред, нанесенный доброму имени атомной энергетики, ощущается до сих пор. Я считаю эту лампу провалом дизайна, а уже потом провалом инженерии. Прибор, который сообщает не то, что делает машина, лжет, и ложь эту встроили на заводе. О том, что нельзя проверить, люди судят по тому, что можно, и тщательная отделка часто оказывается единственным доказательством, которое у них есть.

Что проверяет глаз

Почти никто не может проверить корпус реактора или нейросеть. Любой может осмотреть сварной шов или услышать, закрывается дверь с одним звуком или с тремя. По таким вещам люди судят об остальном, и этот вывод надежнее, чем кажется. Тщательность входит в привычку, и фирмы редко приберегают ее только для того, что на виду.

В 1995 году Масааки Куросу и Каори Касимура, два исследователя из дизайн-центра Hitachi в Токио, показали 252 людям 26 вариантов интерфейса банкомата. Насколько простым казался вариант, зависело больше от того, насколько он был красив, чем от того, насколько он был прост на самом деле. В профессии это называют эффектом эстетики и юзабилити и относят к когнитивным искажениям. Так люди всегда судили о вещах, которые не могут вскрыть.

Моя профессия научила меня тому же с другой стороны. Я проектировал устройства для Sony и Panasonic, где покупатель воспринимает чуть кривой шов как приговор всей компании.

Тонкий бетонный арочный мост через горное ущелье в утренней дымке

Градирня и окно чата

Атомной энергетике и искусственному интеллекту доверие общества нужно не меньше, чем любой другой технологии, и обе плохо себя подают. Лицом атомной энергетики стала градирня. Она выпускает водяной пар и ничего больше, градирни есть и у угольных станций, и все же она стала символом страха. Лицом ИИ стало окно чата, пустое поле с курсором, по которому не понять, что машина знает, а что лишь угадывает.

Создатели и того и другого отвечают на страх цифрами. По данным Our World in Data, на каждый тераватт-час электроэнергии от угля приходится около 25 смертей, а от атомной энергии на 99,8% меньше, включая Чернобыль и Фукусиму. Цифра верная, но мало кого из испуганных успокоила, и результаты бенчмарков, которые публикуют лаборатории ИИ, справляются не лучше. Статистика просит доверять тому, кто считал, а именно это и под вопросом.

В Британии это поняли почти сто лет назад. Когда лондонцы стали возражать против угольной электростанции, которую строили в Баттерси, в 1929 году, уже во время стройки, к проекту привлекли архитектора сэра Джайлса Гилберта Скотта, чтобы он дал ей новое лицо. Он одел ее в искусную кирпичную кладку и придал трубам форму каннелированных колонн. Теперь государство охраняет угольную станцию как памятник архитектуры.

Малый реактор для дата-центра ИИ будет стоять рядом с местами, где работают люди, и они будут судить о нем по воротам и пульту управления задолго до того, как прочтут хотя бы страницу его обоснования безопасности. Piëch Mark Zero, дизайн которого я определял, приводил тот же довод при меньших ставках. У нового автопроизводителя нет истории, поэтому поверхности его первого автомобиля должны делать ту работу, которую для старых марок делают десятилетия репутации.

Два обработанных металлических блока сходятся заподлицо, шов тонкий, как волос

Красивая ложь

Красота умеет и обманывать, и хрестоматийным примером остается Theranos. Студия промышленного дизайнера Ива Беара, уроженца Швейцарии, спроектировала корпус ее аппарата для анализа крови Edison. Позже Беар рассказал Fast Company, что отвечал за внешний вид, а кабели и трубки внутри видел, но не мог понять, работают ли они. Они не работали. Основательницу компании Элизабет Холмс в январе 2022 года признали виновной в мошенничестве.

Theranos доказывает мою мысль за меня. Никто не подделывает ничего не стоящую валюту, и мошенники заимствуют красоту потому, что люди доверяют именно ей. Корпус Theranos был стайлингом, оболочкой, нарисованной вокруг механизма, за который его дизайнер не мог поручиться. Дизайн, достойный этого названия, начинается внутри, с того, что делает машина, и заставляет поверхность честно об этом сообщать. По этой мерке провалилась коробка в Калифорнии, а вместе с ней и пульт в Пенсильвании.

Лекарство от красивой лжи в том, чтобы пускать дизайнеров в машинное отделение и спрашивать с них за то, что они там увидят. После аварии на Три-Майл-Айленд американский регулятор обязал станции выводить на щит управления прямую индикацию того, открыты предохранительные клапаны или закрыты.

Rea Stark, промышленный дизайнер и основатель компаний, живет и работает в Цюрихе. Он создавал дизайн для Sony и Nespresso, стал сооснователем Piëch Automotive и Archaí Physics и занимается тем, как машины воспринимают физический мир и обращаются с ним.

Изображения к этому эссе созданы с помощью ИИ.