Das Systemdesign autonomer Fahrzeuge sollte den Menschen integrieren

DMZ – VERKEHR / MOBILITÄT ¦ Dirk Specht ¦

Ich bin gespannt, wie sich die Sache mit den autonomen Fahrzeugen entwickeln wird. Die Technologie wird aus meiner Sicht vor allem für Lieferketten interessant, weniger für den privaten Bereich.

Wie auch immer werden hoffentlich nicht dieselben Fehler gemacht, wie zu Zeiten meiner Diplomarbeit, die von solchen Mensch/Maschine-Systemen handelte. Damals haben wir am Fraunhofer-Institut interdisziplinär beispielsweise den Unfall im Reaktor Harrisburg und die Probleme der Bahn mit eingeschlafenen Lokführern untersucht. In der Luftfahrt wurde so ein Fehler nie gemacht, weil schon damals die wissenschaftliche Erkenntnis lautete: Ein in wesentlichen Teilen automatisch gestaltetes Regelsystem, das dem Menschen keine regelmäßigen und übergeordneten Handlungen mehr erlaubt, führt zu Aufmerksamkeitsverlusten und Handlungsverweigerung, genau dann, wenn es darauf ankommt.

Der gröbste Fehler war Harrisburg. Der Reaktor wurde vollständig automatisch mit redundanten Systemen gesteuert. Ein Überwachungssystem prüfte dabei, ob alle Steuerungen richtig arbeiten. Nur, wenn dieses einen Fehler lieferte, musste der Operator handeln, indem er den Reaktor per Notschalter runterfährt. Da saßen also über Jahrzehnte Menschen vor einer grünen Leuchte mit der Aufgabe, bei rot einen Schalter zu drücken, dessen Betätigung man mit Kosten von zwei Millionen Dollar bezifferte. Über Jahrzehnte leuchtete die Leuchte niemals rot und der Schalter musste nicht gedrückt werden. Als sie dann erstmals rot wurde, haben die Leute einen Fehler vermutet und zuerst mal geprüft, ob die Anzeige defekt ist. Als sie anfingen, darüber nachzudenken, was zu tun ist, war es bereits zu spät.

Natürlich ist das konkrete Verhalten der Tesla-Fahrer, deren Unglück gerade in allen Medien thematisiert wird, wohl eine tödliche Dummheit gewesen. Aber das Systemdesign kann leider dazu führen, dass wir solche Bilder häufiger sehen. Das muss nicht sein.

Der Mensch schaltet ab oder macht groben Unfug, wenn er nicht gebraucht wird. Das ist wohl nicht nur beim Autofahren so.