На дороге бывают ситуации, когда водитель не может принять морально правильное решение. Ситуации, в которых авария с участием нескольких человек неизбежна, и приходится выбирать между меньшим злом. Не так много времени для размышлений: вы спасаете себя или спасаете потенциальных жертв?
Может ли автономная машина пожертвовать своими обитателями?
Это именно то, над чем ученые все еще работают сегодня, потому что вопрос о том, как автономное транспортное средство ведет себя в такой ситуации, до сих пор не решен. Должен ли автомобиль защищать своих обитателей при любых обстоятельствах или ему должно быть разрешено приносить в жертву обитателей, если он служит общему благу - спасет ли этот акт больше потенциальных жертв?
Дополнительная информация по теме kd0_1-line, для заполнения 20 этических правил автономного вождения
Федеральное министерство транспорта и цифровой инфраструктуры сформулировало 20 этических принципов автономного вождения.
- 1. Автоматическое вождение должно в первую очередь повысить безопасность.
- 2. Защита людей на первом месте. Автомобили должны быть зарегистрированы только в том случае, если они могут уменьшить ущерб по сравнению с характеристиками вождения человека.
- 3. Ответственность за автоматическое вождение возлагается на государственные органы. Поэтому системы вождения требуют официального одобрения и контроля.
- 4. Человек находится в центре своей претензии на развитие и потребности в защите. Вот почему правовое проектирование технологии происходит таким образом, что максимальная личная свобода выбора в общем порядке развития сбалансирована со свободой других и их безопасностью.
- 5. Автоматизированное вождение должно избегать аварий. Технология должна быть спроектирована таким образом, чтобы в первую очередь не возникали критические ситуации, в том числе и дилеммы.
- 6. Юридическое обязательство использовать автономные транспортные средства является этически сомнительным, если оно подчиняется техническим требованиям.
- 7. В опасных ситуациях защита человеческой жизни является главным приоритетом. Поэтому автономное транспортное средство должно быть запрограммировано таким образом, чтобы ущерб животным или имуществу был принят во избежание травм.
- 8. Дилемные решения не могут быть стандартизированы и также не являются этически программируемыми. Водитель-человек будет вести себя незаконно, если он убьет кого-то в чрезвычайной ситуации, чтобы спасти одного или нескольких других людей, но он не обязательно будет виновен. Такие обстоятельства не могут быть легко преобразованы в соответствующее программирование.
- 9. В случае неизбежных аварийных ситуаций любая оценка, основанная на личных характеристиках, таких как возраст, пол, физическое или психическое состояние, строго запрещена.
- 10. Ответственность переходит от водителя к производителям и операторам технических систем и инфраструктурным, политическим и юридическим органам, принимающим решения.
- 11. К ответственности за ущерб, причиненный автоматизированными системами вождения, применяются те же принципы, что и к ответственности за другие продукты.
- 12. Для конкретной реализации разработанных здесь принципов должны быть разработаны и доведены до сведения руководства по использованию и программированию автоматических транспортных средств.
- 13. Полное сетевое взаимодействие и централизованное управление всеми транспортными средствами в контексте цифровой транспортной инфраструктуры является этически сомнительным, если не может безопасно исключить риски общего мониторинга пользователей дорог и манипуляций.
- 14. Автоматическое вождение может быть оправдано только в той степени, в которой возможные атаки, такие как манипулирование ИТ-системой, не приводят к ущербу, который подрывает доверие к дорожному движению в долгосрочной перспективе.
- 15. Водитель в основном принимает решение о передаче и использовании данных своего транспортного средства.
- 16. Должно быть четко различимо, используется ли система без водителя, или же ответственность остается за водителем с возможностью отказа.
- 17. Чтобы обеспечить надежную связь между людьми и машинами, системы должны более тесно адаптироваться к поведению людей, а не наоборот.
- 18. Системы самообучения могут быть разрешены с этической точки зрения, если они обеспечивают безопасность.
- 19. В чрезвычайных ситуациях транспортное средство должно автономно переходить в «безопасное состояние». Определение безопасного состояния желательно.
- 20. Во время обучения вождению следует обучать работе с автоматизированными транспортными средствами.
Идея ученого из Оснарбрюккена состояла в том, чтобы изучить моральное поведение людей и затем перенести его на автономные транспортные средства. «Автомобили с автоматическим управлением будут первым поколением роботов, которые будут принимать моральные решения в центре нашего общества. Поэтому необходимо разработать правила и возможные действия для автономных транспортных средств, которые определяют, как такие машины должны вести себя в неизбежных аварийных ситуациях », - пишут авторы исследования, профессор Питер Кениг и Максимилиан Вехтер из Института когнитивных наук.
Сообщество предшествует личности
Для своего исследования авторы использовали технологию виртуальной реальности для наблюдения за поведением испытуемых в ситуациях дилеммы. Участники исследования ехали в туманный день на пригородных или горных ландшафтах на симуляторе с очками виртуальной реальности. В ходе экспериментов были неизбежные и неожиданные ситуации, в которых люди или группы людей оказывались в полосе движения.
«Уклоняться от людей на своей собственной полосе движения означало бы жертвовать другим числом людей на соседней полосе движения. Участники должны принять моральное решение », - объясняет ученый из Оснабрюка Вехтер, объясняя ход эксперимента. «Результаты показывают, что в случае неизбежных аварий решения в основном принимаются на благо общества», - говорит Вехтер. Основываясь на этих результатах, ученые разработали этику для самостоятельного вождения автомобилей, которая ставит сообщество перед человеком.
Согласно исследованию, автономные технологии могут сократить число жертв дорожного движения на 90%. Тем не менее, также будут критические ситуации, в которых нельзя избежать аварии, но число жертв может быть как минимум меньше.
Результаты исследования «Человеческие решения в моральных дилеммах в значительной степени описываются утилитаризмом: исследование виртуального вождения автомобиля содержит руководящие принципы для автономного вождения транспортных средств», опубликованные в «Науке и инженерной этике».