Edge Cases, die das autonome Fahren seit Jahren bremsen

Wenn ein autonomes Fahrzeug in den Verkehr fährt, verbringt es 99,9% seines Lebens damit, immer dieselben Dinge zu tun: auf der Spur zu bleiben, an der roten Ampel anzuhalten, den Abstand zum vorderen Fahrzeug zu wahren. Die eigentliche Frage lautet aber: was passiert in jenen seltsamen Momenten, die im winzigen restlichen Bruchteil vorkommen - also einmal in Millionen von Kilometern? Genau diese Momente sind es, die das Versprechen des autonomen Fahrens, "bald bereit" zu sein, verzögern - und in diesem Artikel erkläre ich, warum sie bislang ungelöst bleiben.
Was ist ein Randfall, und warum ist der Lange Schwanz etwas anderes?
Zunächst klären wir die Terminologie, weil diese beiden Konzepte häufig verwechselt werden. Ein Randfall (Edge Case) ist ein seltenes Szenario, das außerhalb der Trainingsdaten eines autonomen Fahrsystems liegt: eine umgefallene Leiter auf der Autobahn, eine ungewöhnliche Handzeichen-Geste eines Polizisten, außergewöhnliche Wetterbedingungen. Diese lassen sich im Voraus definieren, zumindest in der Theorie.
Der Lange Schwanz (Long Tail) hingegen ist ein beunruhigenderes Konzept: die Summe all dessen, woran man nicht einmal zu denken imstande ist. Über Nacht wechselnde Baustellen, eine Regenmatte, die bei Regen von einem Pickup rollt, jenes Szenario am äußersten Ende des Schwanzes, an das keiner gedacht hat, es auf eine Problemliste zu schreiben. Ist der Randfall ein Puzzle, ist der Lange Schwanz wie eine Kiste, bei der man nicht weiß, aus wie vielen Teilen das Puzzle besteht.
Auch die Seltenheit hat verschiedene Arten. Die erste sind seltene Klassen: Objekte wie Esel oder Krankenwagen, die auf Straßen kaum anzutreffen sind. Die zweite, tückischere Art sind seltene Szenarien: die Objekte selbst sind völlig gewöhnlich, aber ihre Anordnung ist seltsam - ein plötzlich hinter dem LKW hervortretender Fußgänger oder ein Radfahrer, der eine Leiter trägt. Die zweite Art zu finden ist viel schwieriger, denn jede Komponente ist im System bereits definiert; das Problem ist ihr Zusammenkommen.
Experten unterteilen Randfälle in vier Hauptkategorien: umgebungsbezogen (Wetter, Lichtverhältnisse), objektbasiert (seltene Objekte), verhaltensbezogen (unvorhersehbare Verkehrsteilnehmer) und sensorbezogen (Hardwaredefekte, tote Winkel). Jede Kategorie ist für sich schon ein Problem; zusammen erklären sie, warum der Schwanz so lang ist.
Die wichtigsten Punkte
- Ein System mit 99% Genauigkeit kann etwa alle 10.000 Meilen Fahrt auf ein gefährliches Szenario stoßen, das es nicht lösen kann.
- Während ein gängiger Datensatz 493.322 Annotationen für Autos enthält, gibt es lediglich 49 Annotationen für Krankenwagen.
- Die 30 seltensten Objektklassen erscheinen in 344.966 öffentlich verfügbaren, gelabelten Datenframes jeweils weniger als 250 Mal.
- Wenn autonome Systeme wie Menschen fahren würden, könnten sie lediglich etwa ein Drittel aller Unfälle verhindern.
Seltenheit in Zahlen: Warum ist dieser Schwanz so lang?

Das Ausmaß der Seltenheit zu begreifen, verlangt etwas Mathematik. 99% Genauigkeit klingt hervorragend, oder? Aber rechnen wir nach: ein System mit dieser Genauigkeit gerät auf 10.000 Meilen Fahrt etwa einmal in ein gefährliches Szenario, das es nicht lösen kann. Schon für den täglichen Gebrauch ist diese Zahl sehr hoch - für volle Autonomie ist sie von katastrophaler Größenordnung, denn die Sicherheitsschwelle erfordert ultraniedrige Fehlerraten.
Die Lage auf der Datenseite ist noch eindrucksvoller. Die SearchAD-Benchmark, eine gemeinsame Arbeit von Mercedes-Benz und der Hochschule Esslingen, untersuchte 423.798 Frames aus 11 Fahrdatensätzen: 90 seltene Kategorien, 513.265 manuell erstellte Labels. Das Ergebnis? Jede der 30 seltensten Klassen erscheint in öffentlich verfügbaren gelabelten Daten mit 344.966 Frames weniger als 250 Mal. Bei einem Spezialunternehmen, das versuchte, diese seltenen Fälle manuell zu finden, dauerte die Arbeit acht Monate; pro Frame wurden im Durchschnitt mehr als eine Minute aufgewendet und jeder Frame mindestens zweimal geprüft.
| Objektklasse | Anzahl der Annotationen im Beispieldatensatz |
|---|---|
| Auto | 493.322 |
| Kinderwagen | 1.072 |
| Krankenwagen | 49 |
Diese Tabelle zeigt die Schiefe der Welt selbst: Autos sind überall, Krankenwagen fast nirgends. Und das Problem ist nicht nur die Entdeckung; die labelbasierte Suche liefert nur vordefinierte Klassen zurück. Wenn niemand einen Fußgängermüllsack tragenden Fußgänger im Regen gelabelt hat, kann keine Abfrage, die diese Daten sucht, ihn finden. Aggregierte Erfolgsmetriken können Rückschritte bei seltenen Klassen auch innerhalb eines starken Gesamtscores verbergen.
Können wir nicht einfach mehr Daten sammeln?
Die Antwort ist in der überwiegenden Mehrheit der Fälle nein, und der Grund liegt in einer Tatsache, die ein Satz fasst: die Schiefe der Daten ist die Schiefe der Welt. Die überwiegende Mehrheit der auf den Straßen gesammelten Fahrdaten ist voller gewöhnlicher Verhaltensweisen - Spurhalten, Beachten von Ampeln, gerade Straße. Wenn man den Datensatz verdoppelt, fügt man im Wesentlichen doppelt so viele gewöhnliche Beispiele hinzu; die seltenen werden noch tiefer in der Schlange vergraben. Das ist das klassische Problem abnehmender Erträge: Rechenleistung und Daten zu skalieren liefert bei ultraniemdrigen Fehlerraten keinen ausreichenden Ertrag.
Was, wenn wir die seltenen Szenarien auf der Bühne neu erschaffen? Genau hier steht die zweite Wand: die meisten seltenen Fälle sind gefährlich oder unmöglich. Einen hinter einem LKW hervorkommenden Fußgänger zu choreografieren ist nicht einmal ansatzweise denkbar. Moreover, the queue is open-ended - hmm
Simulation ist deshalb ein glänzender Helfer, aber kein Retter. Keine noch so große Anzahl realer Tests kann die Sicherheit allein garantieren; außerdem ist das künstliche Erzeugen seltener Ereignisse für sich genommen ein schwieriges Ingenieursproblem. Waymos Ansatz ist hier bemerkenswert: das Team rekonstruiert in der realen Welt tödlich verlaufene Kollisionsszenarien und setzt den Waymo Driver an die Stelle des Fahrzeugs, das die Kollision auslöst. In der Simulation vermied er alle Kollisionen. Beeindruckend - aber auf definierten Szenarien erfolgreich zu sein bedeutet nicht, die gesamte Schlange abzuarbeiten.
Wie gehen Hersteller mit demselben Problem um?
Mobileye: Eine künstliche Intelligenz, die Fehler jagt
Die beiden Fahrzeuge, die Mobileye 2026 vorstellte, bringen eine systematische Lösung für das Problem. Meteor, ein Multi-Agenten-KI-Datenanalyst, durchforstet mit visuell-sprachlichen Modelleinbettungen und automatischem Schlussfolgern Millionen Stunden Fahrvideo. Und wonach er sucht, ist interessant: keine singulären Wunder namens schwarzer Schwan, sondern wiederholbare Fehlschläge - wiederkehrende Muster wie teilweise verdeckte Fußgänger oder mehrdeutige Verkehrsteilnehmer. Erkundung, Hypothese, Szenarioabfrage, Validierung und die Trainingsdatenpipeline laufen automatisch. Das Kumpelsystem Genario verwandelt jeden validierten Fehlschlag in ein fotorealistisches synthetisches Szenario und vervielfältigt es mit Variationen von Tag/Nacht, Regen, Schnee, Eis und Nebel. Hinter all dem stehen über 25 Jahre Erfahrung, mehr als 230 Millionen Fahrzeuge und täglich Datenvolumen von 8 Millionen Fahrzeugen.
Waymo: Begrenztes Gebiet, strenge Regeln
Waymos Strategie lautet nicht, die Schlange zu verkürzen, sondern das Gebiet zu verkleinern, in dem sich die Schlange bewegen darf. Die sogenannte Operational Design Domain (ODD), der operative Entwurfsbereich; wird durch Geografie, Straßentyp, Geschwindigkeitsbereich, Wetter und Tageszeit definiert. Laut den regulatorischen Unterlagen des Unternehmens umfasst das Zielgebiet Straßen mit Geschwindigkeitsbegrenzungen bis zu 65 mph. Die Fahrzeuge fahren vollständig autonom; Entfernte menschliche Operatoren fahren das Fahrzeug nicht per Joystick, sondern geben nur übergeordnete Anweisungen. Im Oktober 2026 veröffentlichte das Unternehmen zudem einen neuen Rahmen für Ereignismanagement-Übungen zur Vorbereitung auf unerwartete Situationen. Die Botschaft der Geschäftsführung ist klar: Autonome Fahrzeuge können Unfälle dramatisch reduzieren, aber nicht auf 100 % senken, und man muss hier offen und ehrlich darüber sprechen. Unternehmensdaten zeigen, dass die Unfallzahl ihrer Robotaxis pro Meile im Vergleich zu früheren Jahren deutlich niedriger ist. Eine weitere Beobachtung: ODD-Definitionen und Sicherheitskonzepte lassen sich in mehreren Städten wiederverwenden - diese Flexibilität wirft aber auch Fragen nach den Grenzen des Gebiets auf.
Tesla und NVIDIA: Zwei unterschiedliche Wetten
Tesla setzt darauf, dass Millionen von Fahrzeugen und Milliarden von Meilen realer Weltdaten mit der Zeit die Schlange erhellen werden. In den Full Self-Driving (Supervised) -Versionen berichten Nutzer von weniger Eingriffen, und laut dem Unternehmen reduziert FSD die Wahrscheinlichkeit von Kollisionen durch menschliche Fehler um mehr als 80 % - aber das sind die eigenen Daten des Unternehmens und die Frage der unabhängigen Validierung ist umstritten; Tesla hat keine offiziellen Disengagement-Daten veröffentlicht. Auch die Nutzerberichte sind zwar anekdotisch, stecken aber voller Hinweise: die Notwendigkeit, das System zu verlassen, vor einem spurwechselnden Lkw, oder ein System, das mit hoher Geschwindigkeit auf einen Baustellen-Lkw in der linken Spur zurast.
NVIDIA blickt hingegen in die entgegengesetzte Richtung: denken über unbekannte Situationen hinweg mithilfe von Simulation und generalisierbarer Intelligenz. Das Projekt Alpamayo-R1 zeigte, dass das mit Denkdaten trainierte Modell die Planungsgenauigkeit in schwierigen Fällen um bis zu 12 % verbessert und Nahkollisionen um 35 % reduziert hat. Keine der beiden Philosophien - ebenso wenig wie Mobileyes hypotesengesteuertes Data Mining oder Wayves End-to-End-KI-Ansatz - hat sich bisher als endgültige Lösung erwiesen. Niemand hat das Ende der Schlange gesehen.
Ferngesteuerte menschliche Intervention: Sicherheitsnetz oder Schwachstelle?
Die praktische Absicherung der Robotaxi-Unternehmen ist die Teleoperation: dass ein entfernter menschlicher Operator eingreift, wenn das System überfordert ist oder ausfällt. Eine Anhörung im US-Senat hat offenbart, dass Robotaxi-Unternehmen genau darauf setzen. Aus der Branche gab es ohnehin schon die Einschätzung, dass die Robotaxis von Cruise häufig Eingriffe durch entfernte Operatoren benötigten.
Doch dieses Sicherheitsnetz hat eine Leiter. Beim Waymo-Modell gibt der entfernte Operator nur übergeordnete Anweisungen; er übernimmt nicht das Steuer. Beim Robotaxi-Start von Tesla in Austin heißt es hingegen, dass entfernte Support-Mitarbeiter bei Geschwindigkeiten von 2 mph und darunter vorübergehend die Kontrolle übernehmen und das Fahrzeug aus der Ferne steuern können, und ein Bericht einer staatlichen Verkehrsbehörde aus dem Jahr 2025 dokumentiert, dass Tesla für seltene Grenzfälle und anspruchsvolle Umgebungen auf Remote-Betrieb setzt. Niedriglatente 5G- und 6G-Verbindungen machen diese Modelle technisch möglich. Die Frage lautet: Ist es eine echte Lösung, dass der Mensch die Szenarien lösen kann, die das System nicht bewältigt, oder verlagern wir das Problem nur in eine unsichtbare Warteschlange?
Was sagt das Recht zwischen Versprechen und Wirklichkeit?
Hier wird es ernst, denn ein Unfall durch einen seltenen Grenzfall wirft nicht nur eine technische, sondern auch eine rechtliche Frage auf. In den USA hat die NHTSA im April 2026 ein Update der Regeln für autonome Fahrsysteme veröffentlicht. Auf der rechtlichen Seite gibt es eine interessante Unterscheidung: Dass ein Fahrzeug die Sicherheitsstandards erfüllt, macht es noch lange nicht fehlerfrei; der Vorwurf der Fahrlässigkeit ist ein völlig anderer rechtlicher Weg, und Anwälte von Klägern spielen genau an dieser Stelle. Laut einem in Texas erstellten Recht Ratgeber lautet das in Verfahren verwendete Argument: die Lücke zwischen dem Versprechen des Unternehmens und dem, was das Auto tatsächlich tut. Das technische Risiko, das Brookings anspricht, führt zum selben Punkt: Unvorhersehbare Fehler in Wahrnehmungs- und Vorhersagesystemen können dazu führen, dass das Fahrzeug zur falschen Zeit das Falsche tut.
Auch die Stufen des SAE-Standards J3016 legen das Versprechen gegenüber der Wirklichkeit auf den Tisch. Auf der Skala von Stufe 0 bis Stufe 5 befindet sich die überwiegende Mehrheit der Fahrzeuge auf den Straßen immer noch auf Stufe 1 oder Stufe 2. Stufe 3 schafft eine große Haftungsverlagerung, die die Verantwortung vom Fahrer auf den Hersteller überträgt. Für Stufe 5 geht manche Experten wie folgt aus: Fahrzeuge, die überall dort funktionieren, wo ein Mensch fahren kann, werden nie existieren. Selbst eine wissenschaftliche Arbeit aus dem Jahr 2026 schlägt eine zusätzliche, situations- und kontextabhängige Klassifizierung vor, mit der Begründung, dass die bestehenden Stufen die Leistungsfähigkeit in der realen Welt nicht widerspiegeln.
Kann die Warteschlange abgearbeitet werden? Die ehrliche Antwort
Ich sage es dir so klar wie möglich: Grenzfälle sind statistisch extrem seltene, aber unvorhersehbare Szenarien, die den Weg der autonomen Fahrt zur versprochenen vollständigen Autonomie verzögern; weder endloses Sammeln von Daten noch Simulation können diese offene Warteschlange allein abarbeiten. Die optimistische Seite hat echte Unfälle in der Hand: Waymo-Daten zeigen, dass die Zahl der Unfälle pro Million Meilen tatsächlich gesunken ist, und die synthetische Szenariogenerierung von Mobileye verkleinert die Warteschlange systematisch. Die pessimistische Seite hat aber ebenfalls Fakten in der Hand: wenn du wie ein Mensch fährst, verhinderst du nur etwa ein Drittel der Unfälle; laut einigen Sicherheitsorganisationen ist die fahrerlose Fahrt noch nicht so weit, es gibt regelmäßig weiterhin Versagen bei grundlegenden Aufgaben. Und die nächste Diskussion steht schon vor der Tür: wenn wir die Grenzfälle irgendwie lösen, wie garantieren wir diesmal die Zuverlässigkeit generalisierender KI-Modelle?
Meine Lesart ist diese: autonomes Fahren ist kein Rennen, sondern eine Auslese am Fließband. Tausende problemlose Kilometer jeden Tag beeindrucken niemanden; den Unterschied macht, was du in jenem seltsamen Moment machst, der einmal pro Million Meilen kommt. Und was du in diesem Moment tun wirst, ist schon an dem Tag unbekannt, an dem du dir das Szenario ausmalst. Meinst du, Robotaxis besiegen diese Schlange, oder bleiben sie immer einen Schritt voraus? In den Kommentaren interessiert mich deine Meinung.
Quellen
- Diagnosing the long tail: how Mobileye turns edge cases into targeted training (Mobileye Blog)
- Why AV Models Miss Rare Edge Cases (and How to Find Them) | Voxel51
- Edge Cases in Autonomous Driving: Detection and Handling Guide | Kognic
- Waymo simulated driving behavior in reconstructed fatal crashes (Scanlon et al., 2021, ScienceDirect)
- Preparing for the Unexpected: A New Framework for AV Incident Management Exercises (Waymo Blog, Okt. 2026)
- Full Self-Driving (Supervised) Vehicle Safety Report (Tesla)
- Lösung des Long-Tail-Problems mit e2e-KI (Wayve)
- SAE Levels of Driving Automation (SAE International)
- Autonome Fahrzeuge könnten die meisten Unfälle nur schwer verhindern (IIHS)
- STATE DOT Policy and Regulatory Approaches (NCDOT, 2025)