Произошло еще одно космическое чудо времени в индустрии автономных транспортных средств. Сейчас компании одна за другой переходят на «полностью беспилотный» L4. Интересно, что когда кто-то объявляет о предполагаемом прорыве или продвижении, конкуренты объявляют то же самое вскоре после этого. В данном случае это Waymo, Gatik, Cruise и совсем недавно Mobileye. Следите за Motional, Argo, Aurora, Zoox и т. д. в любую минуту. (Я не упоминаю Tesla, потому что их человеческие морские свинки не являются наемными работниками. Так что, что бы ни говорил Илон, мы будем знать, что они далеко не беспилотные.)
Теперь же безрассудный ажиотаж привел к удалению «безопасного водителя». (Этот процесс в любом случае не должен существовать. Подробнее см. в моих статьях ниже). Говорят, что все в системе SAE L4. Это означает, что они водят лучше, чем человек. Однако, в отличие от случаев, когда есть водитель-человек, нет никаких правил для тестирования этих систем или установления того, что водитель машины имеет надлежащую лицензию. Никакие законы, предписывающие соответствующие стандарты и детали испытаний, не должны быть обнародованы. Ни результаты этих испытаний, ни даже обзор любого государственного или правительственного органа. То, что мы имеем, является конечным разгромом лисы и курятника. Лисица тайно сертифицирует себя по неизвестному стандарту и тестам. Все, что им нужно сделать, это заявить в письменной форме, что они что-то сделали.
Регламент DMV штата Калифорния
https://www.dmv.ca.gov/portal/news-and-media/117199-2/
· Подтверждение способности технологии обнаруживать дорожные ситуации и реагировать на них в соответствии с Кодексом транспортных средств штата Калифорния, а также описание того, как транспортное средство соответствует определению автономной технологии SAE Level 3, 4 или 5.
· Проверка транспортных средств на соответствие федеральным стандартам безопасности автотранспортных средств или на их освобождение от требований Национальной администрации безопасности дорожного движения.
· Подтверждение того, что производитель провел испытания и методы проверки и удовлетворен тем, что автономные транспортные средства безопасны для эксплуатации на дорогах общего пользования Калифорнии.
Это поразительно безрассудно и контрпродуктивно. Во-первых, индустрия постоянно демонстрировала ажиотаж. Во-вторых, машинное, общее и глубокое обучение — это зарождающиеся технологии, которые не могут делать правильные выводы. Это означает, что они должны запоминать миллиарды сценариев, объектов и их вариаций. Включить множество аварийных и пограничных случаев. Так как для этого нужно испытывать их снова и снова для настройки и повторного тестирования, как вы думаете, где это произошло? Эти компании будут упоминать пройденные мили, особенно в симуляции. Но выпуск данных помимо этого, Waymo подал в суд, чтобы предоставить какие-либо значимые данные. Мало того, что против этого никто не возражал. Никто не предлагал предоставить данные, которые Waymo отказывается предоставлять, и не предлагал выйти за рамки скудного набора данных, который запросил CA DMV, и предоставить что-то значимое.
Единственное, что мне известно, кроме моих призывов к должной осмотрительности и открытости, — это Джек Уист, сотрудник Intel, технический директор отдела корпоративной стратегии Mobileye и его вице-президент по стандартам автоматизированных транспортных средств. Он возглавляет глобальную команду, работающую над автоматизированными технологиями безопасности транспортных средств и соответствующими стандартами. Ниже он призывает к «водительскому экзамену» и доказательству того, что он пройден. Конечно, нет упоминания о том, что включает в себя тест и какие доказательства будут предоставлены. Поскольку Mobileye недавно объявила, что скоро будет «полностью беспилотной», об этом ничего не говорится.
https://spectrum.ieee.org/ieee-standard-for-autonomous-cars
Что означает «безопасное вождение» в современном быстро меняющемся мире мобильности?
Безопасное вождение означает вождение с приемлемым для общества соотношением рисков и доказательство того, что вы это делаете. Например, когда мы сдаем экзамен по вождению, мы демонстрируем не только то, что мы понимаем правила дорожного движения, но и то, что мы понимаем, как вести себя социально приемлемым образом. Однако с машинами нам не нужно гадать; мы можем быть точными.
Так совпало, что я вхожу в Целевую группу SAE (Общества автомобильных инженеров) по проверке и проверке автономного вождения (ORAD) (V&V). Это отраслевая группа, устав которой заключается в написании стандарта тестирования для отрасли и правительств, чтобы использовать его в качестве руководства для создания законов, правил и т. д. Текст ниже взят из электронного письма, которое я отправил руководству. Я не получил ответа. В нем вы увидите мое подробное описание проблем, включая параллель с событиями DHS/DoD после 11 сентября, о которых я сообщил в 2006 году, а также подробные предложения о том, что необходимо сделать, чтобы исправить это.
Господа
Я предполагаю, что вы видели, как Waymo, Cruise и Gatik заявляют, что они полностью работают без водителя в некоторых ODD. Waymo и Cruise перевозят пассажиров без водителя. Также представляется, что CA DMV не требует, чтобы машина имела водительские права и сдавала какие-либо водительские экзамены. Они также, по-видимому, полагаются не только на самосертификацию производителя AV, но и на самосертификацию внутреннего тестирования, которое не основано на каком-либо государственном стандарте и не должно быть раскрыто им или общественности. Как я уверен, вы знаете, Waymo подала в суд и выиграла, чтобы предоставить очень минимальный выпуск данных о безопасности. На что никто в отрасли не жаловался и не улучшал. Это очень опасная ситуация. Конфликт интересов зашкаливает.
Мое испытание по разоблачению Lockheed/Northrop Grumman было сосредоточено на самосертификации. После 11 сентября было установлено, что Береговая охрана США не может укомплектовать должности, необходимые на их стороне, чтобы своевременно провести массовую модернизацию своих кораблей, самолетов и т. Д. Чтобы исправить это, они предприняли исторический шаг и позволили подрядчикам действовать как доверенные агенты Береговой охраны США. Процесс начался как обычно. Береговая охрана США создаст требования к миссии. Затем подрядчики создавали функциональные спецификации системы, проектировали сборку и тестировали созданные ими тесты. Обычно правительство одобряло эти тесты и либо использовало их повторно, либо использовало для создания собственных тестов, чтобы они могли проверить и проверить то, что сделал подрядчик. Однако здесь дело приняло исторический оборот. Подрядчики провели эти тесты и сертифицировали их от имени правительства. Проблема заключалась в том, что подрядчики злоупотребляли этой привилегией. Я остановил их, и они потеряли ведущую роль в программе, которая сейчас стоит 32 миллиарда долларов. И был написан закон, запрещающий это снова в DHS или DoD. (Все это есть в книге «Комплексные контракты».) Я привожу этот пример, потому что серьезных проблем с безопасностью и безопасностью, вызванных подрядчиками, можно было бы избежать, если бы подрядчики не срезали углы. Именно это и происходит в AV-индустрии. Ни у одной из этих компаний нет ничего близкого к законной «бездрайверной» системе L4, особенно в отношении соответствующих сбоев и крайних случаев. Подход к разработке и тестированию просто никогда не даст этого. Но давайте отложим часть «никогда». У них сейчас точно нет. То, что у них есть, — это достаточно возможностей, чтобы играть на шансы, наряду с NDA, сокрытием данных и т. д., чтобы все выглядело так, как будто они все это покрыли. Внушение ложного доверия обществу и правительству. Компании, которые делают правильные вещи правильным образом, не убегают от света, скрывая данные, отбирая видео для публикации и заставляя пассажиров подписывать соглашения о неразглашении. Они ищут свет.
Это приводит меня к документу V&V. Где это в процессе? Какова ожидаемая дата выпуска? Если его нельзя будет опубликовать, по крайней мере, в виде черновика для всеобщего обозрения в течение следующих 30 дней, я хотел бы предложить краткосрочное решение. SAE должна опубликовать заявление с кратким изложением будущего стандарта. Области, которые он предлагает, должны быть проверены, а данные должны быть созданы для предоставления и проверки правительством и общественностью. (По крайней мере, на том уровне, на котором в настоящее время это делают OEM-производители, производители самолетов и т. д.) Доверяй, но проверяй.
Я хотел бы предложить как минимум следующее
· Список изученных сценариев. Включить их характеристики, как указано в UL4600, и подтверждение V&V производительности подсистем AV, чтобы гарантировать, что окончательный результат не был ошибочным или случайным. Сюда входят системы датчиков/восприятия и планирования
· Список изученных объектов и их вариаций. (Это делается для того, чтобы все процессы машинного/общего/глубокого обучения выполнялись должным образом)
· Список отключений с обозначением всех аварий или потенциальных аварий. (Сейчас описываются только реальные сбои. Те, которые должны были или могли бы произойти, помечаются как имеющие различные системные проблемы или ошибки.)
· Список всех имитационных моделей и кривых производительности, использованных для их создания.
· Список всех программных или системных дефектов
Я считаю, что у SAE достаточно влияния, чтобы подтолкнуть отрасль, особенно различные уровни правительства, к тому, чтобы они поступили правильно и повернули вспять очень опасный курс, по которому она идет. Если мы этого не сделаем, прогрессивно растущий цикл ажиотажа заставит всех остальных не отставать и делать то же самое. Это приведет к тому, что некоторые срезают худшие углы. Это приведет к предотвратимым травмам и смертям. (Что, вероятно, потребует многих травм и смертей, если только не произойдет крупная катастрофа, чтобы отрасль остановила цикл. Это произойдет потому, что проверка NTSB займет очень много времени, и компании будут вводить общественность в заблуждение и продолжать играть на шансах. пока не достигнем критической массы.)
(Обратите внимание, что фиаско Deepwater освещается в книге «Complex Contracting».)
Ясно, что нет доверия, но проверить здесь. Отсутствие должной осмотрительности в области инженерии или безопасности. Крайне небрежный когнитивный диссонанс отраслевой эхо-камеры оглушает. Люди, которые поступают правильно, верным путем, ищут свет. Не бежать от него.
Подробнее здесь
Беспилотная пресса отказывается спрашивать Круза, есть ли у их «полностью беспилотного» машиниста лицензия, какой тест они прошли и легальна ли их система/услуга.
Не предоставляя каких-либо веских доказательств того, что они не водители, даже борясь с этим через судебный процесс, Waymo, Cruise и Gatik вводят общественность в заблуждение, подвергая свою жизнь риску и терпя крах.
Когнитивный диссонанс и индустрия беспилотных автомобилей
· https://imispgh.medium.com/cognitive-dissonance-and-the-driverless-vehicle-industry-83f878a2e393
Индустрию автономных транспортных средств можно спасти, если делать противоположное тому, что делается сейчас
Как неудавшаяся операция по спасению иранских заложников в 1980 году может спасти индустрию автономных транспортных средств
Меня зовут Майкл ДеКорт, я ветеран военно-морского флота (ASW-C4ISR) и бывший системный инженер, инженер и менеджер программ в Lockheed Martin. Я работал в авиасимуляторе, был менеджером по разработке программного обеспечения для всего NORAD, менеджером проекта по программному обеспечению базовой системы Aegis Weapon System и системным инженером C4ISR для Министерства обороны / Министерства внутренней безопасности и Государственного департамента США (борьба с терроризмом). И старший консультант по техническим проектам FTI для Целевой группы армейского ИИ в CMU NREC (Национальный инженерный центр робототехники).
Участие автономной отрасли — воздух и земля
- Основатель целевой группы SAE по моделированию автономного вождения на дорогах
- Член Целевой группы SAE ORAD по проверке и валидации
- Член UNECE WP.29 SG2 Virtual Testing
- Заинтересованные стороны USDOT VOICES (Виртуальная открытая инновационная совместная среда для обеспечения безопасности)
- Член SAE G-35, моделирование, симуляция, обучение новым технологиям AV
- Член SAE G-34/EUROCAE WG-114 Искусственный интеллект в авиации
- Член Консорциума телеопераций
- Член CIVATAglobal — гражданской ассоциации воздушного транспорта
- Заинтересованное лицо для UL4600 — Создание руководства по безопасности AV
- Член комитета IEEE по искусственному интеллекту и политике автономных систем
Редактор журнала SAE Autonomous Vehicle Engineering назвал меня дальновидным в отношении моей позиции в отношении Tesla и несостоятельного подхода к разработке и тестированию в отрасли беспилотных транспортных средств — (Страница 2) https://assets.techbriefs.com/EML/2021/digital_editions/ave /АВЭ-202109.pdf
Вручена награда IEEE Barus Ethics Award за усилия Министерства обороны и Министерства внутренней безопасности США по информированию о нарушениях после терактов 11 сентября.
