Робоэтика и «проблема вагонетки»

На экзамене по вождению:
- Представьте, что вы управляете машиной и перед вами неожиданно возникают два человека - старушка и девочка. Кого будете давить?
- Гм..... Ну, это... Старушку.
- Тормоз! Тормоз давить надо!!!

Собственно в этом коротком апокрифе и выражается мое отношения к частой дискуссии последнего времени – как должен вести себя робот-автопилот автомобиля в такой нештатной ситуации.
Действительно, с технической точки зрения, «проблема вагонетки» не имеет этической окраски, а решается только техническими и административными регламентами, конкретно п.10.1 ПДД: «Водитель должен вести транспортное средство со скоростью, не превышающей установленного ограничения, учитывая при этом интенсивность движения, особенности и состояние транспортного средства и груза, дорожные и метеорологические условия, в частности видимость в направлении движения. Скорость должна обеспечивать водителю возможность постоянного контроля за движением транспортного средства для выполнения требований правил. При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства»
.
Рассмотрим, что стоит за «перед машиной неожиданно возникают два человека» с технической точки зрения. Вот варианты:
1. Робот-автопилот неверно выбрал скорость движения для торможения т.к.
a. не смог распознать препятствие на расстоянии, достаточном для торможения (например, ночью или в дождь),
b. не учел особенности трассы (поворот, перегиб).
2. Люди оказались на трассе действительно внезапно, например по неосторожности или (полу)сознательно – провокация, например.

С первой ситуацией вообще все понятно – чисто техническая недоработка, система не готова к эксплуатации. Есть нормативы тормозного пути для всех видов транспорта, рекомендованная скорость движения для обеспечения безаварийного торможения.

Вторая ситуация, казалось бы и попадает в сферу действия этических законов, но, опять же, если задуматься, то возникает другой этический вопрос – к чему приведет попытка «увильнуть», сменить полосу движения. Для большегруза – однозначно к заносу, особенно если плохие метеоусловия. Но это может уже вовлечь в аварию ни в чем неповинных людей - вынести машину на встречную полосу и спровоцировать гораздо больше горя. То есть единственный разумный выход в такой ситуации – точно описан в анекдоте – сразу тормозить, а не тратить драгоценные доли секунды на просчет «кого давить»…

То есть, если у водителя – робота НЕ БЫЛО возможности обнаружить препятствие то он должен просто начать тормозить.

Другое дело, что точно имеет смысл подумать, как снизить последствия столкновения для человека. Так, из конструкций автомобилей полностью исчезли выносные зеркала на капотах (хотя они давали лучший обзор) – выяснилось, что при столкновении с человеком они гарантировано ломают ребра, если не рвут внутренности. Поэтому сейчас все зеркала находятся на двери и складываются по ходу движения. Аналогично, на робогрузовиках, имеет смысл устанавливать «фартуки», как на паровозах раньше, чтобы исключить затягивание под колеса. Такие «фартуки» могут выбрасываться как подушки безопасности в описанной выше нештатной ситуации и должны быть изготовлены из мягкого пластика, чтобы снизить травмирование людей.

ВложениеРазмер
Image icon 16_1391610782[1].jpg22.85 KB