Научный прогноз на 2017 год: философия

Спор о концепциях в этике больше не касается только моральных принципов и самопознания человека. Этика стала инженерной задачей. Возникает вопрос, какие принципы мы должны закладывать в автономные машины, действующие и принимающие решения в реальном мире.

Кирилл Мартынов

Доцент Школы философии НИУ ВШЭ

В области философии сейчас происходят интересные вещи, и в следующем году сегодняшние тенденции только усилятся. Проблемы, которые всегда казались абстрактными и умозрительными, в современном мире приобретают конкретное инженерное и социальное значение. К примеру, спор о концепциях в этике больше не касается только моральных принципов и самопознания человека. Этика стала инженерной задачей. Отныне это еще и вопрос о том, какие принципы мы должны закладывать в автономные машины, действующие и принимающие решения в реальном мире.

Ближайший пример таких машин — это роботы-автомобили. Мир сейчас готовится к появлению их коммерческих образцов. Через двадцать лет на улицах наших городов будут ездить миллионы таких беспилотников. Они будут более безопасными, чем современные автомобили, и число аварий на дорогах сократится. Однако нештатные ситуации все равно будут изредка возникать, и тогда роботам придется принимать непростые решения. Нужно ли, например, ехать по дороге в соответствии с программой и с 80-процентной вероятностью причинить смерть пешеходу, нарушившему правила? Или же следует в этой ситуации выбрать 30-процентный риск нанесения тяжелых травм ни в чем не повинным пассажирам, которых везет беспилотник? Условия задачи можно варьировать до бесконечности, и для каждого набора таких условий у роботов должны быть правильные ответы.

Проблема, конечно, в том, что «правильный ответ» во многих случаях зависит не только от фактов, но и от того, какой этической системы вы придерживаетесь. Следуете ли вы, например, учению о том, что этика — это максимизация пользы, согласно философу Иеремии Бентаму? Или же разделяете мнение Иммануила Канта о том, что этичные поступки не зависят от пользы?

В первом случае нужно определенно идти на риск травмы для пассажиров, даже если правила нарушил пешеход. В других системах этики возможны варианты. Мы начали учить роботов этике, и это означает, что скоро нам придется выбирать этические системы роботов, которыми мы пользуемся — то есть этика становится рыночным продуктом.

Кроме того, придумывая этику роботов, мы получаем мощнейший инструмент для изучения собственных, человеческих взглядов на добро и зло — и это тоже модный тренд, установка на практическую философию. Наконец, это значит, что мы фактически программируем наших роботов убивать. Как именно это устроено, можно в первом приближении изучить на странице Moral Machine MIT. В общем, философам подкинули работы и на 2017-й, и на следующие годы.

Дополнительные материалы

Статья «Этика 2.0: зачем машинам учиться принимать сложные решения»

Рецензия на книгу Вендела Уоллаха (Wendell Wallach) и Колина Аллена (Colin Allen) «Моральные машины: учим роботов различать правильное и неправильное» (Moral Machines: Teaching Robots Right from Wrong)

Нейролингвистика

…

Урбанистика

Что ждет нас в 2017 году. Научный прогноз

В канун Нового года особенно хочется заглянуть в будущее. Мы попросили ученых ВШЭ, представляющих разные области знаний, поделиться своими прогнозами о том, какие направления исследований будут особенно перспективны в 2017 году, где можно ожидать открытий и прорывов и как все это изменит нашу жизнь.

Читать все прогнозы