Крайние случаи, которые годами сдерживают автономное вождение

Когда автономный автомобиль выезжает на дорогу, 99,9% своей жизни он проводит, делая одни и те же вещи: двигаться по полосе, останавливаться на красный свет, держать дистанцию с машиной впереди. Но главный вопрос вот в чем: что происходит в те странные моменты, случающиеся в крошечном оставшемся фрагменте времени, - то есть раз на миллионы километров? Именно эти моменты откладывают обещание «готового завтра» автономного вождения - и в этой статье я расскажу, почему их до сих пор не удалось решить.
Что такое граничный случай и почему длинный хвост - это совсем другое?
Сначала проясним терминологию, потому что эти два понятия часто путают. Граничный случай (edge case) - это редкий сценарий, выходящий за рамки обучающих данных системы автономного вождения: перевернутая на шоссе лестница, непривычный жест регулировщика, необычные погодные условия. Их можно определить заранее, по крайней мере в теории.
Длинный хвост (long tail) - понятие куда более пугающее: сумма всего, о чем вы даже не подумали. Стройплощадки, меняющиеся изо дня в ночь, матрас, выкатившийся из пикапа под дождем, тот сценарий на самом кончике хвоста, который никто и не подумал бы внести в список проблем. Если граничный случай - это головоломка, то длинный хвост - коробка, в которой вы даже не знаете, сколько в ней деталей.
У редкости тоже есть разновидности. Первая - это редкие классы: ослы, машины скорой помощи и другие объекты, редко встречающиеся на дорогах. Вторая, и более коварная, - это редкие сценарии: сами объекты вполне обычны, но их комбинация странна - пешеход, внезапно вышедший из-за грузовика, или велосипедист, везущий лестницу. Второй тип найти гораздо сложнее, потому что каждый компонент в системе уже определен; проблема в том, как они сочетаются.
Специалисты делят граничные случаи на четыре основные категории: средовые (погода, освещенность), связанные с объектами (редкие объекты), поведенческие (непредсказуемые участники движения) и специфичные для сенсоров (аппаратные сбои, слепые зоны). Каждая категория сама по себе - головная боль; а все вместе они объясняют, почему хвост такой длинный.
Ключевые моменты
- Система с точностью 99% может примерно раз в 10 000 миль движения столкнуться с опасным сценарием, который не сможет разрешить.
- В популярном наборе данных насчитывается 493 322 аннотаций автомобилей, а аннотаций машин скорой помощи - лишь 49.
- 30 самых редких классов объектов встречаются в общедоступных размеченных данных объемом 344 966 кадров менее 250 раз каждый.
- Если автономные системы будут ездить как люди, они смогут предотвратить лишь около одной трети всех аварий.
Редкость в цифрах: Почему этот хвост такой длинный?

Чтобы осознать масштаб редкости, нужна небольшая математика. Точность 99% звучит прекрасно, не так ли? Но посчитайте: система с такой точностью примерно раз за 10 000 миль движения попадает в опасный сценарий, который сама не может разрешить. Даже для повседневного использования эта цифра огромна - а для полной автономии она катастрофична, поскольку порог безопасности требует сверхнизких показателей ошибок.
Картина на стороне данных еще более впечатляющая. Бенчмарк SearchAD, разработанный совместно Mercedes-Benz и университетом Эсслингена, изучил 423 798 кадров из 11 наборов данных о вождении: 90 редких категорий, 513 265 ручных аннотаций. Результат? Каждый из 30 самых редких классов встречается в общедоступных размеченных данных объёмом 344 966 кадров менее 250 раз. В специализированной компании, вручную искавшей эти редкие случаи, работа заняла восемь месяцев: на каждый кадр тратилось в среднем больше минуты, и каждый кадр проверялся как минимум дважды.
| Класс объекта | Количество аннотаций в выборке набора данных |
|---|---|
| Легковой автомобиль | 493.322 |
| Детская коляска | 1.072 |
| Скорая помощь | 49 |
Эта таблица показывает перекошенность самого мира: машины повсюду, машины скорой помощи практически нигде. И проблема не только в обнаружении; поиск на основе меток возвращает только заранее определённые классы. Если никто не разметил пешехода в мусорном пакете под дождём, ни один запрос, ищущий эти данные, его не найдёт. Агрегированные метрики успеха тоже могут скрывать регресс на редких классах за высоким общим баллом.
Может, просто собрать больше данных?
Ответ у подавляющего большинства - нет, и причина укладывается в одно предложение: перекошенность данных - это перекошенность мира. Подавляющая часть данных о вождении, собранных на дорогах, наполнена обычным поведением - следование полосе, соблюдение светофоров, прямая дорога. Удвоив набор данных, вы в основном добавите вдвое больше обычных примеров; редкие ещё глубже погружаются в хвост очереди. Это классическая проблема убывающей отдачи: масштабирование вычислительных мощностей и данных не даёт нужной отдачи при сверхнизких уровнях ошибок.
А что если воссоздать редкие сценарии на сцене? Вот здесь и стоит вторая стена: большинство редких случаев опасны или невозможны. Сценарий с пешеходом, внезапно появившимся из-за грузовика, хореографией не назовёшь. Более того, хвост открыт - у него нет конечной точки, то есть момента, когда можно сказать «мы завершили всё», никогда не наступит.
Поэтому симуляция - блестящий помощник, но не спаситель. Никакое количество тестов на реальной дороге не может само по себе гарантировать безопасность; к тому же искусственное создание редких событий - сама по себе сложная инженерная задача. Подход Waymo здесь примечателен: команда воссоздаёт в реальном мире сценарии столкновений с летальным исходом и ставит Waymo Driver на место автомобиля, вызвавшего столкновение. В симуляции он избежал всех столкновений. Впечатляюще - но успех на определённых сценариях не означает исчерпания всего хвоста.
Как производители подходят к той же проблеме?
Mobileye: Искусственный интеллект, охотящийся за сбоями
Два автомобиля, представленные Mobileye в 2026 году, предлагают системное решение этой проблемы. Мультиагентный аналитик данных на базе ИИ под названием Meteor просматривает миллионы часов видео с вождением, используя эмбеддинги визуально-языковых моделей и автоматические рассуждения. А ищет он нечто интересное: не единичные чудеса под названием «чёрные лебеди», а воспроизводимые неудачи - повторяющиеся паттерны вроде частично скрытых пешеходов и неоднозначных участников движения. Поиск, гипотезы, опрос сценариев, верификация и цепочка обучающих данных обрабатываются автоматически. А система-компаньон Genario превращает каждую верифицированную неудачу в фотореалистичный синтетический сценарий и размножает её с вариациями день/ночь, дождь, снег, лёд, туман. За всем этим стоят более 25 лет опыта, более 230 миллионов автомобилей и ежедневная загрузка данных с 8 миллионов автомобилей.
Waymo: Ограниченная зона, жёсткие правила
Стратегия Waymo - не сокращать очередь, а уменьшать зону, в которую очередь может входить. Операционная дизайн-область, которую он называет Operational Design Domain (ODD); определяется географией, типом дороги, диапазоном скоростей, погодой и временем суток. Согласно регуляторным документам компании, целевая зона включает дороги с ограничением скорости до 65 mph. Автомобили работают в полностью автономном режиме; удалённые операторы-люди не управляют автомобилем с помощью джойстика, а лишь дают рекомендации высшего уровня. В октябре 2026 года он также опубликовал новую структуру учений по управлению инцидентами для подготовки к непредвиденным ситуациям. Посыл со стороны руководства ясен: автономные автомобили могут драматически сократить количество аварий, но не достичь 100%, и об этом нужно говорить открыто и честно. Данные компании показывают, что количество аварий на миллион миль у их роботакси значительно ниже, чем в предыдущие годы. Другое наблюдение - возможность повторного использования определений ODD и концепций безопасности в нескольких городах - эта гибкость заставляет усомниться и в границах самой области.
Tesla и NVIDIA: Две разные ставки
Tesla сделала ставку на то, что миллионы автомобилей и миллиарды миль реальных данных со временем прольют свет на очередь. В версиях Full Self-Driving (Supervised) пользователи сообщают о меньшем количестве вмешательств, и по данным компании, FSD снижает вероятность столкновений из-за человеческой ошибки более чем на 80% - но эти данные самой компании и вопрос независимой верификации остаются спорными; Tesla так и не опубликовала официальных данных об отключениях (disengagement). Отчёты пользователей, хотя и носят анекдотический характер, полны подсказок: необходимость выхода из системы перед грузовиком, меняющим полосу, или система, приближающаяся на высокой скорости к ремонтному грузовику, стоящему в левой полосе.
NVIDIA же смотрит в обратную сторону: рассуждать о неизвестных ситуациях с помощью симуляции и обобщаемого интеллекта. Проект Alpamayo-R1 показал, что модель, обученная на данных для рассуждений, улучшила точность планирования в сложных случаях до 12% и сократила близкие столкновения на 35%. Ни одна из этих двух философий - как и гипотезно-ориентированный майнинг данных Mobileye и подход сквозного искусственного интеллекта Wayve - пока не доказана как окончательное решение. Никто не видел конца очереди.
Удалённое вмешательство человека: Сеть безопасности или уязвимость?
Практическая гарантия компаний-разработчиков роботакси - телеоперация: система не справляется или выходит из строя - тогда в дело вступает удалённый оператор-человек. Слушания в Сенате США показали, что компании-разработчики роботакси делают ставку именно на это. И в отрасли уже сложилось мнение, что роботакси Cruise часто требуют вмешательства удалённых операторов.
Но у этой страховочной сети есть своя лестница. В модели Waymo удалённый оператор лишь даёт рекомендации высшего уровня; руль он в свои руки не берёт. А на запуске роботакси Tesla в Остине сообщалось, что сотрудники удалённой поддержки могут временно брать управление на себя на скоростях 2 mph и ниже и вести автомобиль дистанционно, а в отчёте одного государственного транспортного ведомства за 2025 год задокументировано, что Tesla применяет удалённые операции для редких крайних случаев и сложных условий. Низколатентные связи 5G и 6G делают эти модели технически возможными. Вопрос в том: является ли реальным решением то, что человек разбирается со сценариями, которые система решить не смогла, - или мы просто переносим проблему в невидимую очередь?
Что говорит право о разрыве между обещанием и реальностью?
Здесь всё становится серьёзнее, потому что авария из-за редкого крайнего случая порождает не только технический, но и юридический вопрос. В США NHTSA в апреле 2026 года опубликовала обновление правил для систем автономного вождения. А на правовом фронте есть любопытное различие: соответствие автомобиля стандартам безопасности не делает его безупречным; иск о халатности - совершенно отдельный юридический путь, и адвокаты истцов играют именно здесь. Согласно юридическому руководству, подготовленному в Техасе, аргумент, используемый в исках, - разрыв между обещанием компании и тем, что машина делает на деле. К той же точке привязан и технический риск, о котором говорит Brookings: непредсказуемые ошибки в системах восприятия и прогнозирования могут привести к тому, что автомобиль сделает нечто неправильное не в тот момент.
Уровни стандарта J3016 от SAE тоже выносят обещание на обсуждение реальности. По шкале от Уровня 0 до Уровня 5 подавляющее большинство автомобилей на дорогах всё ещё находится на Уровне 1 или Уровне 2. Уровень 3 создаёт огромную смену нагрузки, перекладывая ответственность с водителя на производителя. А насчёт Уровня 5 некоторые эксперты думают вот так: автомобили, работающие везде, где может ездить человек, никогда не появятся. Даже научная статья 2026 года, утверждая, что существующие уровни не отражают реальных возможностей, предлагает дополнительную классификацию на основе окружения и ситуации.
Можно ли исчерпать очередь? Честный ответ
Скажу тебе как можно яснее: Крайние случаи - это статистически крайне редкие, но непредсказуемые сценарии, которые откладывают достижение автономным вождением обещанной полной автономии; ни бесконечный сбор данных, ни симуляции не способны в одиночку исчерпать эту открытую очередь. На стороне оптимистов - реальные аварии: данные Waymo показывают, что число аварий на миллион миль действительно снизилось, а генерация синтетических сценариев Mobileye систематически сужает очередь. Но и у пессимистов есть факты: если ездить как люди, можно предотвратить лишь примерно треть аварий; по данным некоторых организаций по безопасности, автономность ещё не наступила - регулярно случаются провалы в базовых задачах. И следующий спор уже на пороге: если мы как-то решим проблему крайних случаев, как на этот раз мы гарантируем точность моделей генеративного искусственного интеллекта?
Моё прочтение такое: автономное вождение - это не гонка, а конвейерный отбор. Тысячи безаварийных километров в день никого не впечатляют; решает то, что ты делаешь в тот странный момент, который случается раз на миллион миль. А что ты сделаешь в тот момент, неизвестно уже в тот день, когда ты представляешь себе этот сценарий. Как думаешь, роботакси одолеют эту очередь, или она всегда будет убегать на шаг вперёд? Интересно узнать ваше мнение в комментариях.
Источники
- Diagnosing the long tail: how Mobileye turns edge cases into targeted training (Mobileye Blog)
- Why AV Models Miss Rare Edge Cases (and How to Find Them) | Voxel51
- Edge Cases in Autonomous Driving: Detection and Handling Guide | Kognic
- Waymo simulated driving behavior in reconstructed fatal crashes (Scanlon et al., 2021, ScienceDirect)
- Preparing for the Unexpected: A New Framework for AV Incident Management Exercises (Waymo Blog, Oct 2026)
- Full Self-Driving (Supervised) Vehicle Safety Report (Tesla)
- Solving the long-tail with e2e AI (Wayve)
- SAE Levels of Driving Automation (SAE International)
- Self-driving vehicles could struggle to eliminate most crashes (IIHS)
- STATE DOT Policy and Regulatory Approaches (NCDOT, 2025)