Российский разработчик беспилотного КАМАЗа обратился за помощью к народу

Компания Cognitive Technologies, основной разработчик системы искусственного интеллекта для беспилотного КАМАЗа, создавая сценарии поведения самоуправляемого автомобиля, столкнулась с проблемой морального права, когда в определенных ситуациях избежать ущерба для кого-то из участников движения не удастся. Как авторобот должен действовать в таких случаях, кем или чем он вправе пожертвовать, чтобы потери оказались минимальными? Это должны решить мы с вами. А для этого нам предлагают поучаствовать в анкетировании.

Untitled-1

Untitled-1

Как поступить в непредвиденной ситуации, если она произошла на дороге? Обычно это каждый водитель решает самостоятельно, руководствуясь своим опытом, реакцией и способностью всесторонне оценить обстановку. Робот способен быстрее вычислить сценарий, когда ущерб минимален, но выбрать между двумя жертвами, как это сможет сделать человек, у него не получится. Машина поступит так, как будет запрограммирована. А вот какую именно установку ей дать, решать нам с вами, граждане России. Для этого всех желающих приглашают пройти анкетирование. На его основе разработчики системы сформируют законодательную инициативу, регламентирующую поведение самоуправляемого автомобиля на дороге.

pix_02

pix_02

Предположим, беспилотный автомобиль едет со скоростью 80 км/ч. Внезапно перед ним на дороге появляется собака. Как должен поступить авторобот, понимая, что экстренное торможение ничего не даст? Продолжить движение и задавить собаку, нарушить правила (с угрозой потери водительских прав), перестроившись на встречную полосу, отделенную двойной сплошной линией разметки, или совершить съезд в кювет, понимая, что это приведет к неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам водителя авторобота?

Организаторы исследования подготовили описания пяти типичных ситуаций, в которых избежать аварии невозможно. В них допускается 16 вариантов поведения авторобота. При этом рассматриваемая в исследовании модель предполагает полную автономность автомобиля, когда вмешательство водителя в процесс управления полностью исключено.

Исследования планируется провести для различных целевых групп: молодежной (от 14 до 30 лет), средней (31–50 лет) и старшей (старше 50). Также внимание будет обращено на различия в ответах мужской и женской аудитории респондентов. Будут учтены и различия в ответах у отдельных социальных групп.

Итоги компания планирует подвести до конца января 2016 года.

От себя добавим, что с подобными вопросами рано или поздно столкнутся все разработчики автопилотов, независимо от фирмы и страны. Первая из стран, кто грамотно сформулирует кодекс поведения робота, сможет стать законодателем всей отрасли.

Фото: КАМАЗ
Ошибка в тексте? Выделите её мышкой! И нажмите: Ctrl + Enter

Комментарии (29)

Самые новые

Ладно самолеты, в метро и то машинист сидит хотя вагоны едут под землей и никуда оттуда деться не могут и маршрут неизменный и станции всегда одни и те же.

Процетирую сам себя:

«метро в международных аэропортах — беспилотное»

Ответить#
0

Можно. Но не делают. Ведь достаточно и одного «заложника», а поди ж ты, двое минимум, а то и сменный экипаж на дальняке, хотя там-то как раз всё время автопилот рулит.

Вспоминаем опять же, как сэкономили на борт-инженере и возрадовались, типа «какая иканомия!». Дальше застопорилось чго-то. Не в ответственности ли дело за принятие решений?

Ладно самолеты, в метро и то машинист сидит хотя вагоны едут под землей и никуда оттуда деться не могут и маршрут неизменный и станции всегда одни и те же.

Ответить#
0

Можно. Но не делают. Ведь достаточно и одного «заложника», а поди ж ты, двое минимум, а то и сменный экипаж на дальняке, хотя там-то как раз всё время автопилот рулит.

Вспоминаем опять же, как сэкономили на борт-инженере и возрадовались, типа «какая иканомия!». Дальше застопорилось чго-то. Не в ответственности ли дело за принятие решений?

Все проблемы носят «нетехнический характер»

Ответить#
0

Самолеты давно можно сделать беспилотными, только никто летать не будет без «заложников в кабине»
Можно. Но не делают. Ведь достаточно и одного «заложника», а поди ж ты, двое минимум, а то и сменный экипаж на дальняке, хотя там-то как раз всё время автопилот рулит.

Вспоминаем опять же, как сэкономили на борт-инженере и возрадовались, типа «какая иканомия!». Дальше застопорилось чго-то. Не в ответственности ли дело за принятие решений?

Ответить#
0

ЧСХ, до сих пор ни поезда, в том числе метро, ни самолёты без участия человека не обходятся, а тут автотранспорт. Причём гражданский, ога..

метро в международных аэропортах — безпилотное. Самолеты давно можно сделать беспилотными, только никто летать не будет без «заложников в кабине»

Ответить#
0

статья как-бы намекает, что все остальные проблемы решены, «а не замахнуться-ли нам, на нашего дорого, УильямА, нашего, Шекспира, братьев Стругацких» biggrin

«Необидаемый остров» Стругацких, —воплощение в жистъ.

Ответить#
0

статья как-бы намекает, что все остальные проблемы решены
ЧСХ, до сих пор ни поезда, в том числе метро, ни самолёты без участия человека не обходятся, а тут автотранспорт. Причём гражданский, ога..

Ответить#
0

статья как-бы намекает, что все остальные проблемы решены, «а не замахнуться-ли нам, на нашего дорого, УильямА, нашего, Шекспира, братьев Стругацких» biggrin

Ответить#
0

Я думаю нужно спросить у робота! :rofl:

Ответить#
0

А в ПДД, на сколько мне память не изменяет, прописано экстренное торможение, без изменения полосы движения. И поскольку робот обязан полностью соблюдать ПДД, он и должен только экстренно тормозить, а не шарахаться по полосам подвергая опасности жизни окружающих.
Полностью согласен. Но совсем не согласен если мне в лоб выскочит какая-нибудь шаха, а робот будет тупо тормозить без манёвра. Короче я уж лучше сам буду рулить.

Ответить#
0

Очень просто. Нужно делать дорогу для беспилотников не на 80 км\ч, а на 300км\ч .Автопилот на такой скорости может обеспечить 100% безопасности. Естественно такую дорогу следует защищать, чтобы не одна собака не смогла на неё выскочить. Ещё на такую дорогу нельзя выпускать обычные авто. Средний человек не способен обеспечить безопасное управление на этой скорости даже на прямой. При этом решаются все организационные и технические проблемы. Беспилотник для таких дорог технически гораздо проще того, что уже разработано.

Ответить#
0

Как бы это цинично не звучало, но я плачу деньги за авто и хочу, чтобы он в любой ситуации выбирал мою безопасность и минимальные затраты. Ведь мой автопилот бесприкословно выполняет правила, а значит я как минимум не нарушаю закон. Поэтому в любой ситуации тормозим до последнего и никуда не сворачиваем. Что до едущих сзади, так там вина будет у несоблюдающего дистанцию (в случае с реальным водителем всегда так). Ну а если сзади тоже автопилот,  то моя машина подаст сигнал на экстренное торможение и при соблюдении дистанции (а автопилот это будет делать) паровозика не случится. Ну а проблемы внезапного появившегося — это проблемы, он нарушает и я за его нарушения страдать не должен.

Ответить#
0

Ну вот я бы в первом случае добавил бы ещё один вариант ответа. Применить экстренное торможение без изменения траектории движения с учётом дистанции до следом идущего транспорта. Если уж собьёт,  то собьёт. По крайней мере у собаки будет время куда ни будь рыпнуться. То есть тормозить в любом случае нужно.

Ответить#
0

Варианты ответов непродуманные. В варианте 1 — клаксон + торможение. В варианте 3: клаксон + плавное торможение с сохранением дистанции с сзади движущимся ТС. В пункте 4 и 5 необходимо применять экстренное торможение с подачей сигнала/клаксона. Если люди на дороге пострадают — это их вина, т.к. нарушили правила. И не важно, робот за рулём или нет. Плюс, не забываем, что в авто с автороботом также есть пассажиры (кто вообще сказал, что машина пустая?). А если речь действительно о собаке — то их главная проблема — отсутствие бокового зрения. Если привлечь внимание животного, оно само отскочит в сторону.

Ответить#
0

никаких поворотов, только прямо. даже если человек с коляской.
если мы говорим об автоматике,  то при всех соблюдениях правил (торможение перед зеброй или знаком школа, пешех.переход) препятствие является нарушителем ПДД. подвергать опасности кого либо еще — встречка с лобовухой или тротуар с полной остановкой — из-за нарушителя изначально неправильный подход.

Ответить#
0

Считаю, что выезд на встречку должен отметаться сразу. Вообще не закладывать этот вариант в алгоритм. Даже человек не в состоянии грамотно оценить и просчитать подобную ситуацию, как правило, в подобных случаях выезд на встречку приводит к ещё большим жертвам.

Ответить#
0

Почему бы не задавать эти вопросы автовладельцу перед первым использованием автомобиля? Пусть автопилот настраивает тот, кто несет ответственность за последствия.

Ответить#
0

Народ! А вы остальные 4 вопроса разве не смотрели? Там еще интереснее.

Я думаю, что все эти случаи должны быть описаны в ПДД!

А в ПДД, на сколько мне память не изменяет, прописано экстренное торможение, без изменения полосы движения.

И поскольку робот обязан полностью соблюдать ПДД, он и должен только экстренно тормозить, а не шарахаться по полосам подвергая опасности жизни окружающих.

Ответить#
0

Какой идиотизм или разработчик просто хочет снять с себя ответственность, потом если что всегда можно сказать, что так решил народ...

Ответить#
0

Моральные вопросы, говоришь?.. К чертям собачьим этот «беспилотный» бред! Расскажите про него, морально так, тысячам водил с тех Камазов, которые могут лишиться в перспективе работы. Но пока в России такие дороги, какие имеются, думаю, безработица им не грозит. Ямы объезжать беспилотник еще до-олго не научат yes
Из свеженького: «Россия заняла 123 место в мировом рейтинге качества дорог. Соответствующий список под названием Global Competitiveness Report 2015–2016 был подготовлен Всемирным экономическим форумом (ВЭФ). Всего в рейтинг попали 140 стран, сообщают „Известия“.

Объехать ямы не получиться-сплошные везде.А вот тормозить в «пол„-интересное занятие... а потом расколбас.(Камаз запросто опрокидывается груженый.

Я уже давно понял, что автомобиль надо приобретать исходя из качества и количества дорог. Сижу, коплю biggrin

Ага,как ни странно.
Коллличество переходит в качество.))
Качество-переходит в коллличество)))

Ответить#
0

Всё просто, на мой взгляд. Если есть возможность применения результативного экстренного торможения, значит тормозим. Если нет возможности избежать наезда на собаку (собак) или человека (людей),  то, однозначно, авторобота в кювет, мало ли кого машина примет за собаку? Может это будет ребенок ползти!!! Приписка о том, что может пострадать при этом водитель самоуправляемой машины, говорит нам о том, что создатели таким образом хотят сберечь КамАЗ, а не водителя, которого там быть не должно по определению! Автомобиль-средство повышенной опасности, тем более беспилотный, соответственно, опасность — это сам автомобиль!!! И чётко необходимо определить ответственность за нанесение вреда здоровью этим самоуправляемым аппаратом!

Ответить#
0

А если там не кювет? А если там люди? Или ребёнок ползёт? Или автобусная остановка, закрытая со всех сторон, но полная народу? Или обрыв в пропасть? Никуда сворачивать нельзя ни в коем случае! Надо резко тормозить, но оставаться в своём ряду.

Ответить#
0

Моральные вопросы, говоришь?.. К чертям собачьим этот «беспилотный» бред! Расскажите про него, морально так, тысячам водил с тех Камазов, которые могут лишиться в перспективе работы. Но пока в России такие дороги, какие имеются, думаю, безработица им не грозит. Ямы объезжать беспилотник еще до-олго не научат yes

Из свеженького: «Россия заняла 123 место в мировом рейтинге качества дорог. Соответствующий список под названием Global Competitiveness Report 2015–2016 был подготовлен Всемирным экономическим форумом (ВЭФ). Всего в рейтинг попали 140 стран, сообщают „Известия“.

Я уже давно понял, что автомобиль надо приобретать исходя из качества и количества дорог. Сижу, коплю biggrin

Ответить#
0

Моральные вопросы, говоришь?.. К чертям собачьим этот «беспилотный» бред! Расскажите про него, морально так, тысячам водил с тех Камазов, которые могут лишиться в перспективе работы. Но пока в России такие дороги, какие имеются, думаю, безработица им не грозит. Ямы объезжать беспилотник еще до-олго не научат yes

Из свеженького: «Россия заняла 123 место в мировом рейтинге качества дорог. Соответствующий список под названием Global Competitiveness Report 2015–2016 был подготовлен Всемирным экономическим форумом (ВЭФ). Всего в рейтинг попали 140 стран, сообщают „Известия“.

Ответить#
0

Как должен поступить авторобот, понимая, что экстренное торможение ничего не даст?

Экстренно тормозить, чтоб ущерб был минимальным.
Про выезды на обочину и встречку соглашусь с Владимиром

Ответить#
0

Тут даже думать не надо. Робот должен просто не нарушать правила — вот и всё. Только траектория №1.

Ответить#
0

Собаку жаль, но достанется, видимо, именно ей. Обосную:

Вариант 1. Экстренное торможение, собака успевает отскочить назад, напуганная звуком тормозящего грузовика. Сзади в грузовик влетает длинномер или легковушка — далее — все это хозяйство выносит на встречку, попутно снося и собаку в том числе.

Вариант 2. Экстренное торможение, грузовик сбивает собаку (у собаки есть шанс выжить, хотя и небольшой) + сценарий см. выше.

Итак, при этих двух вариантах наносится ущерб собаке, но водитель робоКАМАЗа остается жив, цел, ОРЁЛ! Зашибись.

Также живы остаются люди на встречке, а урон грузовику и другим участникам движения незначителен либо серьёзен, исходя из входных данных.

Опустим пока ситуацию, когда есть конструктивно выполненная разделительная полоса, столбики, отбойники и т.д.

Едем дальше.

Вариант 3. РобоКАМАЗ уходит влево (на встречку). Собака все равно имеет немного шансов уцелеть, если она бежит, вылупив глаза. РобоКАМАЗ вылетает на встречку, где встречается с легковым авто, школьным автобусом, бензовозом, велопробегом монашек и т.д. (нужное подчеркнуть). Итоги столкновений не обсуждаем — всем будет тошно + урон технике. Либо грузовик сталкивается с опережающим его автомобилем (если грузовик ехал по правой полосе).

Вариант 4. РобоКАМАЗ уходит в кювет. И тут полно вероятностей.

Если кювет глубокий или там вообще обрыв — робот не сможет распознать обрыв. В итоге мы лишаем жизни водителя робоКАМАЗа и теряем грузовик. Но бедная собака жива!

Если кювета нет, а сразу стоят строения (трасса проходит через населенный пункт). Угу. РобоКАМАЗ заедет к кому-то в гостиную или офис, развалив его до основания. Водитель, возможно выживет, но десяток клерков, сидевших в офисе или собрание кружка вязания бабушек в квартире об этом не узнают. Естественно, грузовик получит серьёзные повреждения. Но бедная собака жива!

Если справа в этот момент обгонял какой-нибудь пилот-неудачник — его размазывает об отбойник или он уходит в кювет вместе с робоКАМАЗом — результат смотри выше.

Но зато бедная собака жива!

И неважно, что ее через 1.5 секунды собьёт управляемый человеком автомобиль на соседней полосе.

Посему считаю (да не сочтут меня жестоким, ибо я люблю животных), что нужно жертвовать собакой.

Ах да, вот еще что. Сдается мне автопилот будет видеть в собаке просто препятствие. И он не отличит ее от лося, человека, куста перекати-поле и проч.

Ответить#
0

жестокие вопросы лишенные здравого смысла и исключающие поведение в реальных условиях. Просто пальцем в небо, а где конкретика с указанием расстояний до препятствий, с вариантом ответа содержащим «нажатие на клаксон»...так ребята алгоритмы не пишут, хотя...

Ответить#
0

Ты сейчас какую-то ерунду написал. Тут же ясно дают понять, что нужно выбрать, чем жертвовать в критической ситуации, когда иными путями, равно как «нажатие на класон» и торможением (это к отсылке на указание расстояния) избежать столкновения с чем-либо невозможно. Чем ты статью читал. Конечно, жестокие вопросы, но программе нужно заложить на них ответы.

Ответить#
0