Autonomes fahren

Die Vertrauensfrage

Automatisiert fahrende Autos und Busse könnten uns bald das Steuern abnehmen. Doch viele Menschen haben Bedenken, sich im Straßenverkehr komplett auf Technik zu verlassen. Ob wir der Technik vertrauen, entscheidet über ihr Schicksal.

Text Thomas Schmelzer  Illustration Manuel Bortoletti

Wenn Christian Müller erklären möchte, warum künstliche Intelligenz (KI) in automatisiert fahrenden Autos über Leben und Tod entscheiden kann, spielt er ein Video ab: Auf seinem Bildschirm taucht ein weißer Pkw auf. Mit knapp 50 km/h fährt er auf eine Kreuzung zu, biegt links ab, als plötzlich vom rechten Bürgersteig ein Mann auf die Straße läuft. Anstatt zu bremsen oder auszuweichen, bleibt der Wagen auf Kurs. Es kracht. Müller verzieht keine Miene. Er kennt das tragische Ergebnis schon. „Da war die künstliche Intelligenz nicht so intelligent“, sagt er bloß.

Die Szene im Video ist eine Simulation, der Fußgänger ein aus realen Bewegungsdaten berechneter Avatar, das Auto eine Projektion der zugrunde liegenden künstlichen Intelligenz. Nur Forscher Müller ist real. Er arbeitet am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken und tut alles dafür, dass solche Unfälle auch in Zukunft nur am Computer passieren. Müller erforscht, wie sich automatisiert fahrende Fahrzeuge mithilfe von KI im Straßenverkehr verhalten. Und er entwickelt mit TÜV SÜD und weiteren Partnern Prüfverfahren für solche KI.

Auf seinem Rechner wählt Müller nun eine andere KI-Variante für das autonom fahrende Auto aus und startet die Szene erneut. Wieder steuert der Wagen auf die Kreuzung zu, wieder zieht er in der Mitte der Kreuzung nach links. Doch diesmal geht die Szene glimpflich aus. Als der Passant von rechts auf die Fahrbahn tritt, weicht der Wagen routiniert aus. „So einer KI würde ich schon eher vertrauen“, sagt Müller. Die Simulation auf Christian Müllers Bildschirm ist nur eine von unzähligen Situationen, mit denen automatisiert fahrende Fahrzeuge künftig im realen Straßenverkehr zurechtkommen müssen. Und doch zeigt sie, worauf es bei allen Konstellationen ankommen wird: Vertrauen wir der Maschine, ihren Sensoren und ihrer Intelligenz mit ihrer ungeheuren Komplexität – oder vertrauen wir ihr nicht?

Es ist eine Frage, an der sich entscheiden wird, ob automatisiert fahrenden Fahrzeugen in den kommenden Jahren der Durchbruch gelingt. Ob irgendwann einmal Autos mit schlafenden Insassen hinterm Steuer über Autobahnen fahren. Ob sich Fahrzeuge in Zukunft ihre Parkplätze selber suchen werden. Und ob unbemannte Taxiflotten uns demnächst durch die Innenstädte chauffieren werden. Es ist eine Frage, deren Beantwortung auch darüber bestimmen wird, wie die Zukunft unserer Mobilität aussehen wird.

 

 

 

Die 5 Stufen des autonomen Fahrens  

 

 

 

Zahlen versus Gefühle

Wer Antworten auf diese Frage sucht, kann mit Statistiken beginnen: Aktuell gehen weltweit etwa 80 bis 94 Prozent aller Unfälle im Straßenverkehr auf menschliches Fehlverhalten zurück. Autonome Fahrzeuge könnten diese hohe Rate auf ein Minimum schrumpfen lassen, so die Erwartung – das Beratungshaus McKinsey prognostiziert beispielsweise für die USA, dass die Marktdurchdringung hochautomatisierter Fahrzeuge bis Mitte des Jahrhunderts tödliche Unfälle enorm reduzieren könnte.

Andererseits sitzt die Skepsis vieler Menschen gegenüber fahrerlosen Fahrzeugen tief. Laut einer Studie der Dualen Hochschule Baden-­Württemberg glauben zwei von drei Befragten, dass mangelndes Vertrauen in die Technik autonomer Fahrzeuge deren Akzeptanz erschweren könnte. Fast ebenso viele Teilnehmer äußern Angst vor Hackerangriffen auf die umfangreiche Software im Auto. Bei einer Studie des Statistikdienstleisters Statista rief der Gedanke an vollautomatische Fahrsysteme bei fast jedem zweiten Teilnehmer negative Assoziationen hervor.

Hinzu kommt Selbstüberschätzung. „Fast jeder glaubt, viel besser Auto fahren zu können, als er es am Ende kann“, berichtet Andreas Herrmann von der Universität St. Gallen. Für sein Buch „Autonomous Driving: How the Driverless Revolution will Change the World“ ließ er in einem Simulator Menschen gegen eine Maschine antreten. Das Ergebnis: In den allermeisten Situationen lag die Maschine vorn. „Wir haben aber auch gesehen, dass die Maschine in komplizierteren Verkehrslagen an ihre Grenzen kommt“, sagt Herrmann.

Auf diese kritischen Situationen wird es in Zukunft ankommen. „Wenn wir beim Fahren die Kontrolle abgeben, brauchen wir enormes Vertrauen in die Sicherheit der Systeme“, sagt Dr. Houssem Abdellatif, Global Head Autonomous Driving bei TÜV SÜD. „Deswegen müssen wir gemeinsam mit den Herstellern beweisen, dass die Technik diese Sicherheit gewährleisten kann.“

Über genau dieser Aufgabe brüten Wissenschaftler, Unternehmer und Tüftler seit Jahren. Und an ihrer Lösung arbeitet auch TÜV SÜD in vielen Projekten auf der ganzen Welt mit. Gemeinsam haben sie es geschafft, die Technik sicherer, transparenter und überprüfbarer zu machen. Und gemeinsam gehen sie die nächsten großen Herausforderungen an.

Es sind Menschen wie J. Marius Zöllner, der am Forschungszentrum Informatik in Karlsruhe gemeinsam mit TÜV SÜD automatisiert fahrende Fahrzeuge im echten Straßenverkehr testet. Projektleizer wie Peter Salzberger, der für TÜV SÜD im Projekt Pegasus dafür sorgt, dass automatisiert fahrenden Fahrzeugen auf der Autobahn keine Fehler unterlaufen. Oder Christian Müller, der künstlicher Intelligenz in Saarbrücken ihre Geheimnisse entlockt.

 

 

Vertrauenssache

Vertrauenssache

Schon bald könnte eine solche Situation Alltag sein: Ein automatisiert fahrendes Auto biegt um die Ecke, da springt ein Passant auf die Straße. 

 

Entmystifizierung der KI

Auf Müllers Bildschirm leuchten nun Tabellen, Grafiken und Skizzen auf. Müller klickt von Folie zu Folie; Wörter und Abkürzungen wie Grey-Box-Testing, Deep Reinforcement Learning oder APPL schwirren durch den Raum. Müller arbeitet in Saarbrücken mit seinem Team, dazu kommen die Kollegen vom Kooperationspartner TÜV SÜD aus München. „Im Prinzip arbeiten wir hier alle an der Entmystifizierung künstlicher Intelligenz“, sagt Müller.

Im Projekt openGENESIS arbeitet Müller für dieses Ziel mit TÜV SÜD und weiteren Projektpartnern daran, die Blackbox KI zu öffnen, in sie hineinzuschauen und zu verstehen, warum und wie eine KI zu ihren Entscheidungen gelangt. „Wir brauchen eine Möglichkeit, um KI für autonomes Fahren validieren und prüfen zu können“, sagt er.

Künstliche Intelligenz ist für automatisiert fahrende Fahrzeuge mindestens genauso wichtig wie Treibstoff oder Reifen. Erst sie ermöglicht den Computergehirnen der Autos, aus den Milliarden Informationsschnipseln der verschiedenen Sensoren des Fahrzeugs einen Sinn zu formen. Erst sie befähigt die Fahrzeuge, eigenständig hochkomplexe Aufgaben zu bewältigen. Und erst sie hat den rasanten Aufstieg des autonomen Fahrens in den vergangenen Jahren überhaupt erst möglich gemacht.

 

Die Blackbox öffnen

Den Durchbruch verdankt die Idee des fahrerlosen Fahrens vor allem der rasant gestiegenen Rechenpower von Computerchips sowie verbesserten und neuen Sensoren. Denn nur in dieser Kombination konnte künstliche Intelligenz ihre volle Kraft erst entfalten. Nun ist sie unschlagbar darin, in riesigen Datenmengen Muster zu sehen und eigene Schlüsse zu ziehen. In vielen Bereichen übertrifft sie das menschliche Gehirn längst.

Nur einen großen Haken hat die Technologie: Wie sie in ihrem Inneren genau funktioniert, was in der Blackbox KI vor sich geht, versteht kaum jemand zu 100 Prozent. Warum eine KI Millionen Fotos von Hunden erkennt, plötzlich aber einen Hamster als Hund identifiziert; warum sie Tausende Kilometer ohne Fehler über Landstraßen und Kreuzungen fährt, dann aber mitten auf einer Kreuzung stoppt: Das ist noch nicht vollständig klar.

Um dieses Rätsel zu lösen, geht Müller mit seinem Team und den Projektpartnern, vereinfacht gesagt, so vor: Als Erstes identifiziert er aus riesigen Datensätzen Situationen, bei denen KI bislang an Grenzen kommt. Im zweiten Schritt baut er diese Situationen virtuell nach. Dabei nutzt er Datensätze, die sein Team aus echten Bewegungsprofilen von Verkehrsteilnehmern gewonnen hat. Im dritten Schritt treten verschiedene KI-Systeme in den virtuellen Situationen gegeneinander an. An dieser Stelle schaut Müller in die Blackbox hinein. Zum Schluss überprüft er, ob sich die virtuellen Situationen auf die Realität übertragen lassen.

Für Matthis Eicher, Projektleiter von openGENESIS bei TÜV SÜD in München, ist jedes dieser Ergebnisse ein neuer Baustein auf dem Weg zu einer konsistenten und sicheren Prüfung von künstlicher Intelligenz in automatisiert fahrenden Fahrzeugen. „Wir wollen mit Open Genesis eine Community aufbauen, in der jeder Partner entsprechend seinen Stärken Teilbereiche von KI erforscht und beleuchtet“, erklärt er. Nach und nach soll so ein großes Gesamtbild heranwachsen. „Unser Ziel ist es, die Technik am Ende vollständig zu verstehen und Anforderungen für eine Prüfung und Zertifizierung von KI in Fahrzeugen zu erstellen.

Zusammen stark

Zusammen stark

Automatisiert fahrende Fahrzeuge sind mit Dutzenden Sensoren und Kameras ausgestattet, die sich gegenseitig ergänzen. Zusammen decken sie alle Bereiche um das Fahrzeug herum ab.

100 Millionen Verkehrs­situationen müssen für jede automatisierte Fahrfunktion in etwa durchgespielt und simuliert werden.

 

Vom Computer auf die Straße

Für eine sichere Zulassung müssen autonom fahrende Fahrzeuge ihr Können allerdings nicht bloß am Rechner beweisen – sondern vor allem unter realen Bedingungen, im Alltag der Straße. Das ist das Gebiet von Prof. Dr.-Ing. J. Marius Zöllner. Im Karlsruher FZI Forschungszentrum Informatik führt der promovierte Informatiker und FZI-Vorstand zu den Werkzeugen, die er für diese Aufgabe nutzt. In einer Garage stehen zwei Testwagen: die Kofferräume vollgepackt mit Prozessoren, Kabeln, Schaltungen, die Karosserien bestückt mit mehr als zwei Dutzend Kameras und Sensoren. Dort, wo im Armaturenbrett sonst die Klimaautomatik sitzt, sind drei Auswahltasten angebracht: Normal, Assisted, Autonomous. Bei Praxistests fahren die Wagen selbstständig über Kreuzungen, halten an Ampeln und navigieren durch die Straßen der Stadt. „Mitten durch Karlsruhe“, sagt Zöllner. Die Forscher im Auto greifen bei solchen Testfahrten nur in Problemsituationen ein. Zöllner leitet in Karlsruhe Deutschlands erstes Testfeld, in dem automatisiert fahrende Fahrzeuge bereits im urbanen Straßenverkehr getestet werden. Um die Testfahrten abzusichern und möglichst viele Daten zu sammeln, haben die Forscher auch Kreuzungen, Fahrbahnstreifen oder Brücken mit Sensoren und Kameras ausgerüstet.

An einem Touchscreen so groß wie ein Küchentisch zeigt Zöllner, was man mit diesen Daten anfangen kann. Eine virtuelle vierspurige Kreuzung, Ampeln, Haltelinien, eine Straßenbahnbrücke, jede Menge bunter Autos. „Das ist keine Simulation, sondern eine reale Kreuzung in Karlsruhe“, sagt Zöllner. Die Autos bewegen sich so, wie sie sich in der Realität bewegen. Die Fahrradfahrer und Passanten verhalten sich wie im echten Leben.

 

Unsichtbare Hindernisse

Zöllner und sein Team haben an dieser Kreuzung gelernt, dass pro Stunde ungefähr ein Autofahrer trotz Verbot eine Kehrtwende einlegt. Dass Fahrradfahrer auch mal bei Rot auf die Kreuzung schießen. Oder dass eilige Fußgänger in letzter Sekunde über die Ampel hetzen. Und sie können die Daten nutzen, um mit ihnen echte Alltagssituationen zu erproben. Zum Beispiel, wie sich ihre Testautos an einem Frühlingsmorgen bei leichtem Nebel verhalten würden, wenn sie mit genau 34 km/h hinter einem anderen Wagen auf die Kreuzung fahren und dieser plötzlich bremst. „So sammeln wir extrem wertvolle Daten“, sagt Zöllner. Bislang allerdings fehle ein weltweit einheitliches System, um sie zu katalogisieren und abzuspeichern.

Eine andere Herausforderung sind die Macken mancher Sensoren. Jede Technik hat Stärken und Schwächen. Kameras kommen bei Gegenlicht in Schwierigkeiten, können aber Farben erkennen. Radarwellen versagen in Tunneln, können aber Entfernungen gut abschätzen. Lasersensoren sind sehr genau, können aber mit Farben nichts anfangen. Im Zusammenspiel decken die Sensoren und Kameras alle möglichen Situationen ab. Manchmal entstehen trotzdem Artefakte. Auf der Karlsruher Teststrecke tauchte im Winter plötzlich ein unsichtbares Hindernis auf der Kreuzung auf. Der Testwagen blieb jedes Mal unvermittelt stehen. „Die Technik hat da ein Monster gesehen, wo keines war“, sagt Zöllner. Irgendwann merkte sein Team, dass die Sensoren Reflexionen von Sträuchern am Straßenrand falsch interpretiert hatten.

Trotz aller Herausforderungen glaubt Zöllner, dass die Automatisierung der Fahrzeuge immer schneller voranschreiten wird. Szenarien wie Parkhäuser oder Betriebsgelände, wo Autos selbst Parkplätze suchen und einparken, oder teilautonomes Fahren auf Autobahnen hält er in den nächsten 10 bis 15 Jahren für realistisch. Bis die Fahrzeuge aber in jeder Situation ohne menschlichen Fahrer auskommen, kann es ihm zufolge noch dauern. Zu viele Unwägbarkeiten, zu große Risiken, zu hohe Kosten.

 

 

 

Ressource: Vertrauen

Und bei vielen Menschen zu viel Skepsis. Davon berichtet Armin Grunwald, Professor für Technikfolgenabschätzung am Karlsruher Institut für Technologie, der sich seit Jahren mit den gesellschaftlichen Konsequenzen technologischen Fortschritts beschäftigt. Dabei hat er gelernt, dass die meisten Menschen technischen Fortschritt grundsätzlich positiv bewerten. Gleichzeitig weiß er, dass es bei jeder technologischen Neuerung vor allem auf eine Ressource ankommt: „Ohne Vertrauen geht gar nichts“, sagt er. Beim autonomen Fahren komme es deswegen auf die entsprechende Sorgfalt und eine maßvolle Markteinführung an. Darauf, auch mal einen Gang zurückzuschalten und nicht nur auf Schnelligkeit zu setzen. Nur so könne man aus Fehlern, die irgendwann zwangsläufig passieren würden, auch etwas lernen und die Technik entsprechend verbessern. „Ich plädiere für Zeit und dafür, sich nicht jedem ökonomischen Druck zu beugen“, sagt Grunwald. So könnten sich auch die Kunden besser an die neue Technik herantasten.

Dass es diese Zeit womöglich braucht, hat auch der Forscher und Buchautor Andreas Herrmann bei seinen Recherchen beobachtet. Als er seine Probanden im Fahrsimulator auf Testfahrt schickte, gab er an einem bestimmten Punkt die Anweisung, den Fahrersitz umzudrehen und den Computer fahren zu lassen. Herrmann war überrascht, wie groß die Hemmschwelle zur Kontrollabgabe selbst im Simulator war. „Ein unabhängiges Prüf- und Zertifizierverfahren für die Technik in den autonomen Autos ist sicherlich ein wichtiger Schritt, um Vertrauen aufzubauen“, sagt er.

Für hochautomatisiertes Fahren auf der Autobahn wird dieser Schritt gerade im Projekt Pegasus erarbeitet. In dem vom Bundesministerium für Wirtschaft und Energie geförderten Verbundprojekt entwerfen Automobilhersteller, Zulieferer, Forschungsinstitute und als einzige Prüforganisation auch TÜV SÜD Standards und Regularien für das einheitliche Testen und Freigeben hochautomatisierter Fahrfunktionen.

„Es geht darum, überhaupt erst einmal Richtlinien für einheitliche Tests zu entwickeln“, sagt Peter Salzberger, der das Projekt für TÜV SÜD leitet. Klingt trivial, ist in der Praxis aber extrem komplex. Welche Fahrszenarien müssen für eine Zulassung geprüft werden? Welche davon real, welche simuliert? Wie oft müssen die hochautomatisierten Fahrzeuge eine Situation durchlaufen? Wie spezifisch müssen die Anforderungen sein? Wo liegen die Automatisierungsrisiken und wie hoch ist die menschliche und technologische Leistungsfähigkeit im hochautomatisierten Verkehr? „Wir mussten Standards für die virtuelle Simulation entwickeln, Standards für Software und Prüfsysteme, die dabei eingesetzt werden, Standards für die Art und Weise, wie wir Szenarien auf realen Testfeldern gestalten wollen“, erzählt Salzberger. Kurz vor Abschluss des Projekts ist er zufrieden mit den Ergebnissen. „Beim hochautomatisierten Fahren auf der Autobahn sind wir schon ziemlich weit“, sagt er. TÜV SÜD stellt eine eigene Testumgebung für die Absicherung hochautomatisierter Fahrfunktionen auf dem Prüfgelände zur Verfügung, und auf der A 9 zwischen München und Ingolstadt fahren die Testautos der Industriepartner bereits heute autonom.

500 MILLIONEN Zeilen Programmiercode wird ein autonom fahrendes Fahrzeug schätzungsweise benötigen. Zum Vergleich: Eine Boeing 787 kommt mit 6,5 Millionen Zeilen aus.

 

Die Zukunft ist längst da

Wer noch weiter in die Zukunft blicken möchte, muss nur nach Singapur reisen, ins Innovationsviertel One-North. Dort kurven zwischen Palmen und Hochhäusern in einem Pilotprojekt autonome Taxis über den Asphalt, die während der Testphase zwar noch von einem Aufpasser kontrolliert werden, aber bald vollkommen eigenständig durch die Stadt steuern sollen. Auf einem zwei Hektar großen Gelände hat die Nanyang Technological University im Westen der Stadt eine eigene kleine Ministadt gebaut, um autonome Fahrzeuge so real wie möglich zu testen. TÜV SÜD hilft hier als strategischer Partner im Projekt Cetran, die hochautomatisierten Busse und Autos so sicher wie möglich zu machen. Bis 2022 will der asiatische Stadtstaat eine autonome Busflotte auf die Straße gebracht haben.

Und so wächst Singapur zu einem Ort heran, an dem das hochautomatisierte Fahren womöglich zuerst seinen Durchbruch erleben könnte. Aber auch hier entscheiden am Ende die Verbraucher über das Schicksal der Technologie. „Wir wollen auf der ganzen Welt sicherstellen, dass ein Fahrzeug nach dem besten Stand der Technik und in aller Rigorosität geprüft wurde“, sagt Dr. Houssem Abdellatif. „Denn nur wenn die Menschen der Technik vertrauen, wird aus einer Vision Realität.“