Der 18. März 2018 – er wird in die Geschichte eingehen. Als der tragische Tag, an dem zum ersten Mal eine Fußgängerin im Straßenverkehr durch ein selbstfahrendes Auto getötet wurde. Als an jenem Sonntagabend in Tempe in Arizona ein ferngesteuertes Uber-Testfahrzeug ungebremst in die 49-jährige Elaine Herzberg rast, die im Dunkeln ihr Fahrrad über eine breite Straße schiebt, sitzt am Steuer ein Mensch, der überwachen soll, ob die Technik funktioniert – und Sekunden vor dem Aufprall, wie eine Bordkamera beweist, nicht richtig hinsieht.

Ob eine Person am Steuer diesen konkreten Unfall hätte verhindern können, darüber streiten Experten jetzt. Und doch bleibt die Frage: Sind Mensch und Maschine ein gutes Team? Schauen wir hin, hören wir noch zu, fühlen wir uns verantwortlich in einer Welt, in der uns intelligente Systeme das Denken und Handeln abnehmen?
Das haben wir Klaus Bengler gefragt. Am Lehrstuhl für Ergonomie der TU München erforscht er, wie Menschen auf die Automatisierung im Straßenverkehr reagieren.

ZEIT ONLINE: Uber, dessen Fahrzeug in den tödlichen Unfall verwickelt war, will Autos bauen, die eines Tages ohne Fahrer auskommen. Bis dahin sitzen Fahrerinnen oder Fahrer zur Sicherheit am Steuer: Sie sollen nur, wenn die Technik versagt, eingreifen. Und Unfälle verhindern. Aber klappt das? Nichts tun, sich gemütlich fahren lassen und, wenn's drauf ankommt, da sein?

Klaus Bengler: Leider klappt das nur unter bestimmten Bedingungen, wie wir aus Studien wissen. Unsere Wahrnehmung und Informationsverarbeitung ändert sich, sobald wir vom aktiv Handelnden – also etwa dem Autofahrer – zum Überwachenden werden. Wenn ich selber fahre, kann ich zum Beispiel viel schneller eine Notbremsung durchführen, als wenn ich nur zugeschaut habe und darauf reagiere, wenn das Auto mich auf ein Problem hinweist. In dem Moment muss kognitiv erst mein Programm für aktives Autofahren wieder aktiviert werden. Das dauert länger als die berühmte Schrecksekunde.

ZEIT ONLINE: Woran liegt das?

Bengler: Daran, dass es Menschen von Natur aus schwerfällt, etwas dauerhaft zu überwachen – besonders, wenn es fast immer gut funktioniert. Es ist ganz normal, dass die Konzentration bei Monotonie nachlässt und das Durchhaltevermögen sinkt, wenn man sich ständig, ohne spürbaren Nutzen, auf die Überwachung konzentrieren soll. Das heißt: Automation macht uns in der Tendenz unaufmerksam. Besonders Untersuchungen aus der Luftfahrt mit Autopilotfunktionen oder aus der Prozessautomation in der Industrie haben das gezeigt.

ZEIT ONLINE: Und doch hat sich der Autopilot im Flugzeug durchgesetzt.

Bengler: Wir wissen zwar aus Experimenten mit Pilotinnen und Piloten einiges darüber, wie der Mensch auf automatisierte Systeme reagiert. Zum Beispiel ändert sich unser Blickverhalten und wir scannen die Umgebung weniger. Durch gezielt gestaltete Hinweise oder Reize wird unsere Aufmerksamkeit aber wieder angeregt. Außerdem müssen Menschen lernen, mit solchen Systemen umzugehen. Hier geht es darum, die grundlegende Funktionalität zu erlernen, vor allem aber die Rollenverteilung zwischen Mensch und Maschine zu verstehen. 

ZEIT ONLINE: Wie viel von dem, was Sie aus der Luftfahrt wissen, kann man auf selbstfahrende Autos übertragen?

Bengler: In der Luftfahrt hat man in der Regel mehr Zeit zu reagieren. Autofahren ist dynamischer – dabei wechselt man schnell Spuren, bremst abrupt und reagiert auf die anderen Verkehrsteilnehmer. Im Flugzeug sind die Distanzen zwischen den Verkehrsteilnehmern viel größer und Pilotinnen oder Piloten haben mehr Zeit, die Kontrolle zu übernehmen. Außerdem kann jeder ein Auto nutzen, der einen Führerschein hat. Die Pilotenausbildung ist intensiv, die Absolventen werden regelmäßig weitergebildet und untersucht. Die Technik im Auto für den normalen Straßenverkehr muss dagegen wesentlich selbsterklärender sein. Die einzige grundlegende aber zunächst einzige Qualifikation ist schließlich der Führerschein.

ZEIT ONLINE: Und das heißt konkret für die Technik im Auto?

Bengler: Schon bei der Bedienung muss klar sein: Was kann dieses System? Und vor allem: Was kann es nicht? Welche Stufen von Automatisierung gibt es? Was ist überhaupt möglich? In der Öffentlichkeit herrscht häufig eine völlig falsche Vorstellung davon, was autonome Autos heute können. Tesla hat früh von einem Autopiloten gesprochen. In Analogie zur Luftfahrt entstand dadurch ein übertriebener Eindruck davon, was diese Systeme bisher leisten können. Zu wissen, womit man es zu tun hat, ist aber die erste wichtige Voraussetzung dafür, dass Autofahrer mit diesen Funktionen umgehen können.