Google+
В субботу предлагаю поговорить немного на отвлеченную тему, которая лишь опосредованно связана с электроникой и гаджетами.
В 2014 году Массачусетский технологический институт, стабильно входящий в ТОП-10 лучших учебных заведений мира, запустил любопытный эксперимент под названием Moral Machine, или «Машина морали». Проект доступен для всех желающих — http://moralmachine.mit.edu/hl/ru — и есть даже русский язык. Основная задача эксперимента – это сбор информации о том, как человек совершает нравственный выбор.
Участнику исследования предлагается несколько ситуаций, где он должен выбрать меньшее из двух зол: самоуправляемый автомобиль собьёт 5 пешеходов или пешеходы выживут, но погибнут двое пассажиров автомобиля. В процессе ученые рассчитывают получить общие агрегированные данные о нравственности и этике. Возможно, в будущем эта информация поможет при создании программ поведения искусственного интеллекта.
Исследование базируется на широко известной проблеме вагонетки – мысленный эксперимент в этике, сформулированный ещё в 1967 году философом Филиппой Фут. Исследователи из MIT её немного модернизировали: человек в синем стоит на пешеходном мосту над железнодорожными путями. Он видит вагонетку, бесконтрольно несущуюся вперед. Если ничего не сделать, то вагонетка собьёт насмерть пятерых рабочих на путях. Однако мосту рядом стоит крупный человек. Если его толкнуть на рельсы, то вагонетка запнётся об него, и пятеро рабочих останутся живы. Как поступить?
Исследователи говорят, что сегодня перед производителями автомобилей и законодателями стоят гораздо более сложные проблемы, которые уже нельзя решить благодаря трём законам робототехники Айзека Азимова.
Изначально ученые не предполагали, что их исследование будет таким масштабным. Однако в эксперименте приняло участие около 40 миллионов людей из 233 стран мира. И теперь спустя 4 года можно подвести первые итоги.
Карта участников выглядит так:
А вот так выглядит интерфейс эксперимента. Нетривиальный выбор: кто должен выжить – люди, которые занимаются спортом, тем самым подразумевается, что они следят за фигурой, или люди с избыточным весом?
Ответы участников разнятся в зависимости от страны, но для начала посмотрим на картину в общем. У меня для вас плохие новости. Если вы кот, преступник или собака (именно в таком порядке), то, по мнению общества, вами в любом случае можно пожертвовать – переходите вы дорогу по правилам или нарушаете. Дальше, по мнению 39,6 миллионов человек, лучше сбить бабку, потом дедку, потом бездомного. Почему-то к толстым мужчинам общество относится с большим скепсисом, чем к толстым женщинам.
А вот если вы младенец в коляске, маленькая девочка, или мальчик, или беременная женщина, то, по мнению участников, самоуправляемый автомобиль должен сделать всё возможное, чтобы вас не переехать.
Ранжирование участников эксперимента вступает в прямое противоречие с немецкой комиссией по этике, создавшей в 2017 году ряд правил для автономных и удаленно управляемых движущихся средств. Например, правило номер 9 гласит, что на выбор не должны влиять пол, возраст и социальное положение. Соответственно, если толстый преступник переходит на зеленый, а беременная женщина нарушает и переходит на красный, то машина, если будет принимать решение, кого сбить, должна «торпедировать» женщину.
По мнению ученых, при принятии решений также наблюдается сильная корреляция с культурными особенностями и экономическим положением.
Например, участники эксперимента из Азии (Китай, Япония) в равных ситуациях предпочитали спасти пожилых, а не молодежь. Также в Азии меньше внимания обращали на социальное положение – богатый человек или бедный. У учёных есть гипотеза, что на Востоке распространена коллективная культура, где старшие пользуются большим почитанием. А жители стран, где больше развита культура индивидуализма (это так называемая западная культура, где на первое место выходят карьера, саморазвитие), полагают, что нужно спасать молодежь, потому что за ней будущее.
В бедных странах гораздо спокойнее относятся к нарушителям правил дорожного движения. А участники из состоятельных западных стран в большинстве считают, что спасать надо того, кто богаче. Участники из США и Великобритании в большинстве стремились спасать многочисленные группы, то есть если 5 человек переходят на красный, а в самоуправляемой машине 2 пассажира, едущих по правилам, то всё равно предпочтительней, чтоб они погибли.
Подумал, будет интересно посмотреть, какие решения примут читатели Mobile-Review. Выше есть ссылка на оригинальный тест, который всем рекомендую пройти, чтоб помочь исследователям. А ниже я разместил вопросы из этого теста, чтоб у нас получилась выборка только из читателей ресурса. Напоминаю, что правильных или неправильных вариантов здесь нет.