Первое правило робототехники нарушено: автопилот Uber сбил пешехода в США

На происшествие поспешили отреагировать представители компании. Посредством Twitter они высказали соболезнование в адрес семьи погибшей: «Мы искренне соболезнуем семье жертвы. В ближайшее время мы сосредоточим силы на том, чтобы помочь в расследовании этого инцидента.»

Глава компании Дара Хосровшахи также выступил с комментарием: «Невероятно печальные новости поступили из Аризоны. Мы не можем себе представить, что чувствуют близкие погибшей и намерены работать со следователями, чтобы понять, что произошло»

Компания моментально приостановила тесты беспилотных поездок в нескольких городах, включая Феникс, Питтсбург, Сан-Франциско и Торонто.

Вопрос о возможном программном сбое терзал экспертов с самых первых дней беспилотных автомобилей. «Мы сейчас находимся на самой ранней стадии знакомства с устройствами, которые работают и управляются автономно. Всегда с выпуском новой технологии есть риск наткнуться на подводные камни»,- отметил профессор Нью-Йоркского университета, обсуждая эту новость.

Сбои в программах беспилотных авто уже случались раньше. В 2016 году специальной группе Национального совета по безопасности на транспорте пришлось расследовать аварию во Флориде, где разбилась Tesla с автоматическим управлением. Тогда 40-летний Джош Браун включил автопилот и врезался в грузовик с прицепом, который начал совершать поворот. Сенсоры машины посчитали достаточным дорожный просвет между асфальтным покрытием и нижней частью кузова, который обычно сильно поднят над землей. После проверки 25 тысяч выпущенных моделей, не было принято решение о запрете подобной техники. В Tesla открестились от обвинений. По словам спикера компании, водителей уведомили о сырости технологии, а следовательно ответственность должна лежать на них.

Тот же Uber попал в заголовки газет, когда в неудачно вырулившую водительницу, опередившую зеленый сигнал светофора, влетел самоходный минивэн с роботизированным контролем. Тогда обошлось царапинами и перевернутой машиной.

Несмотря на прецеденты Аризона до сих пор остается одним из излюбленных штатов у компаний, которые работают над искусственным интеллектом в современных авто. В одном только Фениксе помимо Uber свои наработки тестировали Waymo (проект умного автомобиля от Google) и General Motors. Примечательно, что ни один из представителей этих компаний не ответил, когда Bloomberg обратился к ним за комментариями.

Как было сказано ранее, особую сложность в подобной аварии вызывает то, что трудно установить виновных в аварии, при том, что водитель фактически находится за рулем транспортного средства. Некоторые из пользователей Twitter задались вопросом, на кого падает обвинение: виноват ли водитель, программисты или машина?

«Самоуправляемые машины — абсолютно безумная идея. Тем, кто считает иначе, следует провериться у психиатра. Я бы не сел в салон такого автомобиля. Нужно обладать по-настоящему сложной мыслительной системой, чтобы уметь распознавать объекты перед собой и успевать реагировать на них… Теперь мы видим, насколько страшно полагаться на алгоритмы»

Последствиями подобных случаев оказываются не только непосредственно жертвы ДТП, но и тот факт, что громкие обсуждения в конце-концов способны напугать потребителей, на многие годы, а то и на целые десятилетия отвадив их от технологических новшеств.