Schönheit ist eine Form von Vertrauen
In Three Mile Island log eine Warnlampe die Mannschaft an. Atomkraft und KI begegnen Angst mit Statistik, doch Menschen vertrauen sichtbarer Sorgfalt.

Auf der Schalttafel in Three Mile Island zeigte eine Lampe der Mannschaft an, dass sich ein Entlastungsventil geschlossen hatte. Das Ventil klemmte in offener Stellung. Die Lampe meldete nur, dass der Strom abgeschaltet war, der das Ventil öffnet. Es war gegen vier Uhr morgens am 28. März 1979, und mehr als zwei Stunden lang trat weiter Kühlmittel aus. Innerhalb von Minuten schrillten hundert Alarme um eine Mannschaft, die versuchte, ihre eigene Maschine zu verstehen.
Die Strahlung, die austrat, hat nach Angaben der Aufsichtsbehörde selbst niemandes Gesundheit nennenswert geschadet, aber der Schaden für den Ruf der Kernenergie hält bis heute an. Für mich ist diese Lampe zuerst ein Versagen des Designs und erst dann eines der Technik. Eine Anzeige, die etwas anderes sagt, als die Maschine tut, ist eine Lüge, die ab Werk eingebaut ist. Menschen beurteilen, was sie nicht prüfen können, nach dem, was sie prüfen können, und eine sorgfältige Verarbeitung ist oft der einzige Beleg, den sie bekommen.
Was das Auge prüft
Einen Druckbehälter oder ein neuronales Netz kann fast niemand prüfen. Eine Schweissnaht kann jeder prüfen, und jeder hört, ob eine Tür mit einem Geräusch zufällt oder mit dreien. Aus solchen Dingen schliessen Menschen auf den Rest, und dieser Schluss ist solider, als er aussieht. Sorgfalt ist eine Gewohnheit, und kaum eine Firma pflegt sie nur dort, wo man hinsieht.
1995 zeigten Masaaki Kurosu und Kaori Kashimura, zwei Forscher am Design Center von Hitachi in Tokio, 252 Leuten 26 Layouts eines Bankomaten. Wie einfach ein Layout zu bedienen schien, hing mehr davon ab, wie schön es war, als davon, wie einfach es wirklich war. Die Branche nennt das den Ästhetik-Usability-Effekt und verbucht ihn als Denkfehler. So haben Menschen schon immer Dinge beurteilt, die sie nicht öffnen können.
Mein eigener Beruf hat mich dasselbe von der anderen Seite gelehrt. Ich habe Geräte für Sony und Panasonic entworfen, und dort liest der Käufer eine leicht verschobene Fuge als Urteil über die ganze Firma.

Der Kühlturm und das Chatfenster
Kernenergie und künstliche Intelligenz brauchen das Vertrauen der Öffentlichkeit so sehr wie jede andere Technik, und beide präsentieren sich schlecht. Das Gesicht der Kernenergie ist der Kühlturm. Er stösst Wasserdampf aus und sonst nichts, auch Kohlekraftwerke haben Kühltürme, und doch wurde er zum Sinnbild der Angst. Das Gesicht der KI ist das Chatfenster, ein leeres Feld mit einem Cursor, das nicht verrät, was die Maschine weiss und was sie bloss rät.
Die Hersteller beider Techniken antworten auf die Angst mit Zahlen. Our World in Data beziffert die Todesfälle bei Kohle auf etwa 25 pro Terawattstunde erzeugten Stroms und bei Kernenergie auf 99,8 Prozent weniger, Tschernobyl und Fukushima eingerechnet. Die Zahl stimmt und hat kaum einen Verängstigten beruhigt, und die Benchmark-Werte, die KI-Labors veröffentlichen, schaffen das auch nicht. Eine Statistik verlangt, dass man dem vertraut, der gezählt hat, und genau das steht in Frage.
Grossbritannien hat das vor fast einem Jahrhundert verstanden. Als sich die Londoner gegen ein Kohlekraftwerk wehrten, das in Battersea entstand, holte man 1929, nach Baubeginn, den Architekten Sir Giles Gilbert Scott, damit er ihm ein neues Gesicht gebe. Er hüllte es in feines Backsteinmauerwerk und formte die Kamine als kannelierte Säulen. Heute schützt der Staat ein Kohlekraftwerk als Baudenkmal.
Ein kleiner Reaktor für ein KI-Rechenzentrum wird dort in der Nähe stehen, wo Menschen arbeiten, und sie werden ihn nach seinem Tor und seinem Kontrollraum beurteilen, lange bevor sie eine Seite seines Sicherheitsnachweises lesen. Der Piëch Mark Zero, dessen Design ich geprägt habe, folgte derselben Logik, bei kleinerem Einsatz. Ein neuer Autohersteller hat keine Vorgeschichte, also müssen die Oberflächen seines ersten Autos leisten, was bei den alten Namen Jahrzehnte des Rufs leisten.

Die schöne Lüge
Schönheit täuscht auch, und Theranos ist das Paradebeispiel dafür. Das Studio des in der Schweiz geborenen Industriedesigners Yves Béhar entwarf das Gehäuse des Bluttestgeräts Edison. Béhar sagte später dem Magazin Fast Company, sein Teil sei das Aussehen gewesen, und er habe die Kabel und Schläuche im Inneren gesehen, ohne beurteilen zu können, ob sie funktionierten. Sie funktionierten nicht. Elizabeth Holmes, die Gründerin, wurde im Januar 2022 wegen Betrugs verurteilt.
Theranos liefert mir das Argument. Niemand fälscht eine wertlose Währung, und Betrüger leihen sich die Schönheit, weil die Menschen der Schönheit vertrauen. Das Gehäuse von Theranos war Styling, eine Hülle um einen Mechanismus, für den sein Designer nicht bürgen konnte. Design, das den Namen verdient, beginnt innen, bei dem, was die Maschine tut, und sorgt dafür, dass die Oberfläche es wahrheitsgetreu meldet. An diesem Massstab ist die Kiste in Kalifornien gescheitert und ebenso die Schalttafel in Pennsylvania.
Das Mittel gegen schöne Lügen ist, Designer in den Maschinenraum zu lassen und sie an dem zu messen, was sie dort finden. Nach Three Mile Island verlangte die amerikanische Aufsichtsbehörde von den Kraftwerken, dass ihre Mannschaften im Kontrollraum direkt sehen können, ob die Entlastungsventile offen oder geschlossen sind.
Rea Stark ist Industriedesigner und Gründer in Zürich. Er hat für Sony und Nespresso entworfen, Piëch Automotive und Archaí Physics mitgegründet und arbeitet daran, wie Maschinen die physische Welt wahrnehmen und handhaben. Über Rea Stark
Die Bilder in diesem Essay sind mit KI erzeugt.