беспилотник Убера еще в 2018 году совершил смертельный наезд на пешехода и после этого приостановили испытания. Причем инженер находился в машине, только читал книгу..
При оснащении самого безопасного кроссовера системами для автономной езды инженеры Uber отключили штатную систему экстренного торможения, внедрив собственную, которая активировалась в беспилотном режиме и имела секундную задержку, во время которой алгоритм убеждается в опасности ситуации, а также рассчитывал путь возможного объезда препятствия.
Такая задержка позволила решить проблему ложных срабатываний системы. Еще одна особенность в том, что алгоритмы были обучены распознавать пешеходов только рядом с пешеходными переходами, а в остальных случаях программа относила их к транспортным средствам или неопознанным объектам. При этом если объект признавался транспортным средством, то алгоритм предсказывал его траекторию в соответствии с одним из базовых сценариев. Если он считает пешехода неопознанным объектом, то вовсе не занимается расчетом траектории его движения.
Из-за этих особенностей перед наездом алгоритм, увидевший женщину за 5,6 секунды до столкновения, не смог опознать в ней пешехода и потратил время на то, чтобы отнести ее к тому или иному классу объектов. При этом менял класс несколько раз.
В итоге алгоритм определил женщину с велосипедом как велосипед за 1,2 секунды до наезда, а торможение из-за предусмотренной разработчиками задержки началось за 0,2 секунды. То есть наезд был неизбежен
|