Кого спасет робот? — журнал За рулем

Кого спасет робот?

Робот

Робот

Тот, кто хоть когда-то увлекался фантастикой, не может не помнить три закона роботехники, сформулированные Айзеком Азимовым. Позволю себе напомнить их:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Лично я читал все это в те времена, когда подобие робота можно было увидеть разве что в Политехническом музее. Было там роботоподобное сооружение по имени Сепулька, которое ездило по залу и проводило экскурсии для несмышленышей, включая встроенный магнитофон. То ли дело сейчас, когда самоездящие автомобили уже стали реальностью. Об этом мы недавно писали: технически проблема почти решена и дело лишь за политиками, которые дадут отмашку и выпустят все это на дороги общего пользования.

От этого, скорее всего, никуда не уйти —- так оно и будет. Да и технически, в общем-то, все это не так-то и сложно. Но дьявол кроется в мелочах и строит свои козни. А это совсем просто.

Судите сами. Предполагается, что автономные авто никогда не будут попадать в аварийные ситуации. Ход мысли понятен: компьютер соображает быстрее человека. В крайнем случае он должен попросить помощи у того же человека: мол, просыпайся, хозяин —- у нас неприятности. Вот дьявол и хихикает: так как же ты, милый друг, собираешься выпутываться из неприятностей? Скажем, авария неизбежна —- что дальше? А человек дрыхнет себе на заднем сиденье, имея на то полное право...

Фантазируем дальше. Отказали тормоза, отвалилось колесо, шоссе в неположенном месте переходит толпа пешеходов и пешеходиков —- список продолжить... Ваши действия, господин Робот?

В романах авторы стараются избегать таких ситуаций. Вспомним того же Александра Казанцева:

«Робот докладывал железным голосом:

— В воздухе можно пробыть пятьдесят семь секунд. Возможна посадка: на воду, на деревья, на болото. Шансы на гибель: сто процентов, восемьдесят шесть процентов, шестьдесят два процента. Выбрано болото."

В романе все кончилось нормально. И наши в итоге спасли-таки потомков Обамы и Псаки. А теперь представим себе, что у робота иная альтернатива. Скажем, так: влупить в каменную стену, размазать на автобусной остановке пятерых пенсионеров или влететь на полном ходу в мамашу с коляской... Что выберет он?

Жестоко?

Еще как —- для нас с вами.

Но ведь машину ведет робот!!! А он будет точно так же, как в романе, прикидывать проценты!!!

Человек в таких случаях соображает  то ли инстинктивно, то ли еще как... А робот скрупулезно сверится с программой и примет решение, исходя из минимального риска. Как в шахматах, где пешка плюс слон примерно равны одной ладье. А кто и чему равен на дороге? С автомобилями еще как-то можно подурачиться: скажем, один «бентли» равен" десятку "матизов". А как сопоставить жизнь людей разных социальных групп?

Люди с Запада пока что отмахиваются от проблемы. Мол, наша техника настолько совершенна, что ничего такого просто не может быть!

Но мы-то с вами понимаем, что очень даже может! И что делать программисту, которому придется писать соответствующую программу?

Айзек Азимов когда-то написал свои интереснейшие рассказы, обыграв законы роботехники всеми возможными способами. Между прочим, у некоторых его роботов то и дело глючили мозги: они не могли выйти из логической ловушки своих законов! Скажем, стоит ли пытаться спасать человека, если на это нет времени? Или можно ли говорить человеку правду, если она ему очень неприятна и, следовательно, вредна? Но у Азимова была умная героиня —- Сьюзен Келвин, которая блестяще распутывала все эти логические парадоксы. Да и то — — ПОСЛЕ ТОГО, А НЕ ДО,,,

А что же делать сейчас?

Может, ну их, этих роботов? По крайней мере, за рулем!

Ошибка в тексте? Выделите её мышкой! И нажмите: Ctrl + Enter

Читать комментарии (64)

Самые новые
Загрузка...