— Добрый день, Иоганн!
— Добрый день, Вилли! Что произошло?
— У нас странное дорожное происшествие. Нужна ваша помощь.
— Погодите, но какое отношение мы имеем к дорожной полиции?
— Иоганн, неужели вы думаете, что я пришел бы к вам с банальной автомобильной аварией? Я умею ценить ваше время и прекрасно понимаю, что у вас масса работы. Однако в данном случае произошел наезд «умного» автомобиля на пешехода. Причем странный наезд.
— А можно подробнее?
— Нужно! По 5-й авеню двигался автомобиль М-450 под управлением искусственного интеллекта. Вы знаете, они начали выпуск таких авто без водителя?
— Да. Я читал об этом, и мы долго спорили на эту тему.
— Ну так вот. Автомобиль на перекрестке 5-й и Короля Георга сбил мальчика, перебегавшего дорогу. Самое интересное, что мальчик уже заканчивал движение. Он начал его явно на зеленый. У автомобиля была возможность избежать столкновения, но при этом была вероятность аварии, в которой мог бы пострадать пассажир. Он отделался бы парой синяков. Однако ИИ выбрал решение спасать пассажира. Мы хотим понять, в чем дело и почему такое произошло.
— Действительно очень интересно. Привезите автомобиль к нам, а наши специалисты посетят компанию. Выясним, почему ИИ принял такое решение.
— Спасибо! Будем ждать!
Прошел месяц.
— Вилли, заедете к нам в гости? Есть новости. Увы, по телефону я не буду их рассказывать. Все не так просто.
Прошел час.
— Добрый день, Иоганн!
— Привет! Я пригласил для беседы конструкторов фирмы-производителя.
— Хорошо, послушаем, что они скажут.
— Итак, господа! Когда мы строили ИИ для управления автомобилем, то в его программу было заложено, что наибольший приоритет — жизнь пассажиров автомобиля. В результате все так и произошло. ИИ защищал своего пассажира и из двух возможных аварий выбрал ту, в которой пассажир бы не пострадал. Увы, мы так и не можем решить моральную проблему «меньшего вреда».
— Но почему вы не рассказали об этом?
— Да потому что иначе нас бы снесли толпы возмущенных граждан. И никто бы не покупал наши автомобили! А ведь мы — коммерческая компания. Нам продавать нужно!
— Но ведь так страдают пешеходы?
— А те, которые в машине — они не люди? Мы не смогли решить этот вопрос. А вы можете? Помогите тогда.
Впервые Иоганн не знал, что ответить.
Я тоже не знаю, что ответить… А вы знаете? Что важнее? Спасти пассажира или пешехода? Или другого водителя?
