11 сентября 2021 11.09.21 46 15K

Столкни толстяка: как смоделировать моральный выбор

Видеоигры часто подводят нас к сложным (или не очень) моральным решениям. Но как устроены подобные «челленджи» в играх? Как ни странно, ответ на этот вопрос довольно-таки прост: в их основе лежит мысленный эксперимент, ставший самым популярным философским мемом, — дилемма вагонетки.

Изучая тему этики выбора в видеоиграх, я интересовался и теоретическими наработками в этом направлении. Ближе всего к теме подошла современная прикладная этика (или moral studies), которая попыталась проанализировать реалистичные условия принятия решений. Именно здесь появилась идея морального вовлечения, которое крайне важно, чтобы понять: почему в одних случаях моральная дилемма в игре работает, а в других воспринимается как подсчёт выгод?

Неудивительно, что дилемме вагонетки посвящена настольная игра в стиле Cyanide and Happiness.
Неудивительно, что дилемме вагонетки посвящена настольная игра в стиле Cyanide and Happiness.

В чём суть дилеммы вагонетки?

Ключевым примером, на котором обкатываются идеи данной теории, является дилемма вагонетки» (Trolley Problem) с ее многочисленными вариациями. Это мысленный эксперимент, придуманный философом Филиппой Фут (Philippa Foot) в 1967 году. Кроме вагонетки также рассматривались пилот падающего самолета, судья, способный остановить разъярённую толпу казнью невиновного и другие ситуации. Но все зацепились за самую простую схему. Неуправляемая вагонетка катится по рельсам и, если не вмешаться, задавит пять человек. Однако вы можете переключить стрелку и направить её на путь, на котором находится лишь один человек. Какое решение вы примете?

Дальше использование этого примера станет весьма популярным и появятся десятки вариаций. В одной вместо стрелки придётся столкнуть на пути толстяка, в другой пути замыкаются в кольцо, в третьей вам сообщают, что одинокий человек на второй ветке особо важен (изобретает средство от рака или что-то в этом духе).

Несложно увидеть, что если вы добавите задаче медиатизированную форму, то есть оформите её в виде рисунка, реального набора объектов или видеоряда с манипулятором, то у вас получится игра. Простенькая, скорее всего из тех, которые называют обучающими, но всё-таки игра.

 

Пример визуализации разных подвидов дилеммы.

Кстати, одним из направлений в изучении психологии принятия решений, стала как раз попытка поставить эксперимент с большей реалистичностью. Так, в одном эксперименте испытуемые должны были решать эту задачу в шлемах виртуальной реальности, слыша крики привязанных к путям. В 2017 году веб-сериал Mind Field повторил эксперимент со случайными людьми на реальной железной дороге. А в 2018-м бельгийские психологи воплотили модель в эксперименте на мышах (правда, вместо вагонетки был сильный, но не смертельный ток) — и в итоге пришли к мысли, что мысленные эксперименты бесполезны для науки.

В качестве курьёза можно вспомнить и эксперимент, в котором люди были заменены хрустальными фужерами, а в роли вагонетки выступил шар для боулинга. Предсказуемо, что люди выбирали более эффектный вариант, а вовсе не «гуманный». Хотя самый смешной вариант можно найти на YouTube, где ребёнок в качестве решения перекладывает человечка к остальным пяти и направляет поезд по этому пути.

 

Слагаемые сложных дилемм

Однако если мы всерьёз задумаемся об устройстве этого мысленного эксперимента, то обнаружим целую серию элементов, которые ясно показывают, какие параметры и нюансы можно использовать и варьировать для моделирования моральной ситуации — что и нужно разработчикам. Ведь мало представить — важно сделать, причём сделать понятно и хорошо.

1. Принуждение к выбору

Дилемма этим заканчивается, но, по сути, это ключ к ней: что бы вы ни выбрали, вы понесёте моральную ответственность за любое решение. И действие, и бездействие — ваш выбор. В играх это особенно легко реализовать: сюжет просто не движется дальше, пока вы не совершите выбор. А в ряде случаев игра ещё и может подстегнуть вас или сделать выбор за вас, причём порой худший.

Skyrim: хочешь не хочешь, а выбирать придётся.
Skyrim: хочешь не хочешь, а выбирать придётся.

2. Неизбежность и необратимость последствий

Незначительные или обратимые последствия не создают тревоги и вины, а потому очень слабо включают в нас ответственность. Дилемма расправляется с этим легко: вагонетка уже катится, и остановить её нельзя — при любом раскладе пострадают люди, но вы вольны повлиять на исход.

Разработчикам подобный ход понравился: игры, особенно прежних времён, вообще не церемонились с игроками и наказывали их за любые ошибки. В данном случае создателю нужно лишь определиться с тем, приводит ли выбор игрока к ветвлению сюжета, или один из вариантов признаётся неверным (и ведёт к поражению). Вместе с тем для игрока потери — повод всерьёз отнестись к выбору.

3. Ограничение вариантов

В реальности всегда остаётся шанс на нестандартный ход: каким-то чудом докричаться и предупредить людей на путях, столкнуть тяжёлый предмет вместе с толстяком, а не его самого, подорвать вагонетку на подходе случайно завалявшейся в кармане базукой… По этой причине для ясности выбора варианты сокращаются до простой альтернативы «или/или». В ряде случаев даже оговаривается ограниченность ваших ресурсов: не хватит времени добежать, не сможете сами сброситься вместо толстяка, или это не остановит вагонетку.

Поскольку в играх всё запрограммировано, такой ход оказался удобен. Даже при ветвящемся нарративе у вас конечное количество последствий, которые нужно предусмотреть. Идея с ресурсами также весьма перспективна: нехватка предмета, уровня кармы или навыка может закрыть варианты в диалоге или действии. Всё это разнообразит игру и подталкивает к перепрохождению.

Frostpunk: живые лица вызывают больший эмоциональный отклик. Впрочем, не всегда.
Frostpunk: живые лица вызывают больший эмоциональный отклик. Впрочем, не всегда.

4. Ограниченность времени на принятие решения

В изначальном варианте такое ограничение не оговаривается, но подразумевается. В последующих экспериментах (особенно не мыслительных) начали не только оставлять на выбор 20—40 секунд, но и собирать статистику скорости принятия решения. Так выяснили, что включение центров мозга отвечающих за эмоции, коррелирует с увеличением времени принятия решения. Что, впрочем, не доказывает влияния эмоций на решение.

Для создателей игр время на принятие решений — необязательный «челлендж». Однако в попытках создать более реалистичный диалог (например, в играх CD Projekt RED) такие вещи в целом смотрятся хорошо. Большинство же игр всё-таки оставляют игроку возможность потупить.

Эту модель не описывают в этике, однако, и она нужна разработчикам.
Эту модель не описывают в этике, однако, и она нужна разработчикам.

5. Возможность варьировать условия и контекст

Дилемма вагонетки представляет собой простую схему, которую можно наполнять деталями: что известно о жертвах, какие будут последствия, где происходит ситуация? Ведь толстяк может оказаться одновременно и злодеем, который привязал пятерых к рельсам. Или лёгкость выбора пятерых в пользу одного существует лишь умозрительно и запросто опровергается дополнением о том, что тот один — ваш близкий. Наконец, сама Фут предполагала разные контексты: на месте несущейся вагонетки может оказаться падающий самолет, грузовик с грязной бомбой или толпа линчевателей.

Видеоигры развивались тем же путём: от группы пикселей, в которых вы должны были опознать то героя, то принцессу, то огнедышащего монстра, к многообразным реалистичным сеттингам, в которых приходится вставать на сторону гетов или кварианцев, людей или эльфов, беглых магов или храмовников… Разные миры, фракции и ситуации, идеологии и позиции героев, наконец — разные эмоции к персонажам, которые тоже могут влиять на выбор.

Со временем разработчики открыли и другие опции. Например, в классическом виде последствия и контекст очевидны, но можно сделать знание игрока неполным (что добавит реалистичности). Возможно красноречивая жертва не так уж добродетельна, а оглашённая правда приведёт к намного более ужасным последствиям, чем можно было бы предположить.

Ограничения подхода

Философы и обыватели часто высмеивают эту дилемму, множа мемы о ней. В самом деле, голая схема вряд ли помогает понять настоящие причины морального выбора человека. Да и в реальности намного чаще мы сталкиваемся с ситуацией, где вы — просто наблюдатель. Или с историей, где вы сами, зная о вагонетке, занимаете место в пятерке смертников (например, в выборе образа жизни, дурных привычек и т. п.).

Однако для игр такая схема, на которую можно накручивать детали, расширять контекст и факторы, влияющие на успех действия, остаётся намного более удобной, чем любые другие примеры (будь то дилемма заключённого, дилемма переполненной лодки или что-то другое). Особенно это касается сюжетных игр, не идущих дальше выбора из двух альтернатив (пример — игры Telltale Games).

Более того, видеоигры по большому счёту завязаны на рациональные действия (анализ, подсчёты, тактику, стратегию), поэтому для выхода в область морали им нужно нечто иное — эмоции, чувство долга и вины, отклики, основанные на привычке и эмпатии. Собственно, так и трактуют эту дилемму современные нейрокогнитивисты.

Что самое забавное, некоторые игры, построенные на выборе, ещё и цитируют дилемму вагонетки или намекают на неё в пасхалках. Например, в  Prey есть ачивка «Столкнуть толстяка» и этот же вопрос есть в тесте в самом начале. Более свежий и неожиданный пример: в College Kings (визуальная новелла с драками и сексуальным контентом) герой во время психологического теста представляет себя в ситуации подобного выбора. Выглядит довольно реалистично, хотя и не без элемента комедии.

В Steam также есть инди-игра, полностью посвящённая проблеме, — Dr. Trolley’s Problem. Хотя обилие вариантов, которые предлагает игра, может вызвать парадоксальный эффект (кое-что говорящий нам и о неудачах других): в какой-то момент вам становится просто всё равно. А вот сделать так, чтобы не было, — это поистине искусство, которое никакими схемами не описать.


Иван Кудряшов
Поддержи Стопгейм!

Лучшие комментарии

reinekekeke 12 сентября 2021, 12:37
Эксперимент интересный с точки зрения истории психологии, но действительно раздражающий (как и большинство прочих размышлялок). ВСЕГДА, когда ставят перед выбором «или/или», возникает желание послать к чёрту вопрошающего. Знакомый:

«Я тут общался с чуваком, которые работает в ржд как раз на маневровой горке. Был удивлен, что чувак никогда не слышал про эту пресловутую вагонетку, и конечно же пересказал ему.
Отвечает, цитирую:
»Ну, проще всего стрелку расклинить. Тогда вагон соскочит передними тележками и встанет. Или если бежать клинить далеко, прост попробовать дернуть, когда первыми тележками стрелку пройдет, а задними еще нет — тогда враскоряку встанет на двух путях. А если не получится — ты хотя бы пытался, на суде учтут.""

Treshcore 11 сентября 2021, 14:26

>> 3. Ограничение вариантов

Когда я читал этот параграф, я вспомнил об одной ситуации, которая возникла в Assassin's Creed Odyssey. В процессе прохождения, вы так или иначе наткнетесь на миссию, где вам нужно разобраться… если правильно помню, то с тираническим руководителем театра.

В какой-то момент выполнения этого квеста, вы лично сталкиваетесь то ли с лидером, то ли с одним из его силачей, где-то в амфитеатре. По итогу, он предлагает вам выбор: либо вы спасаете мужчину и он убивает женщину, либо наоборот. Будете тупить — убьет обоих. В своем первом прохождении я выбрал один из вариантов, увидел горькие последствия и обвинения в духе «Лучше бы это был я»...

И как же мне было неприятно сталкиваться с этим квестом при втором прохождении. Однако, когда я подошел к тому моменту, что-то во мне перемкнуло. Серьезно: я вижу того «лидера», я вижу, как он говорит с мужчиной и женщиной. Если я знаю исход, что мешает мне просто взять лук и, была-ни была, пристрелить его издалека. Собственно, я это сделал, спровоцировал его на драку, в процессе которой он забыл о своих заложниках. Убив его, я спас и мужчину, и женщину.

Можно что угодно говорить об Assassin's Creed Odyssey, можно что угодно говорить о новых играх серии вообще, но уж точно не то, что Ubisoft не заботятся о разных вариантах прохождения этих новых игр.

stranikmegzvezd 12 сентября 2021, 8:19

Первый раз вообще встречаюсь с мыслью, что наука об этике что-то определяет. На всякий случай, останусь при мысли, что на самом деле они всё-таки изучают следствия, а не формируют причины. В крайнем случае, они изучают следствия для формирования рекомендаций тем, кто задаёт направление движения масс.

И да, я уже написал, что в целом власть/общество и игровая студия, конечно, отличаются по подходам, но… Игровая студия является частью общества, поэтому в любом случае они всё равно возьмут те дилеммы, которые хотя бы отчасти протекают в русле основных тенденций или как минимум не сильно им противоречат.

И нет, наука никогда не сможет ответить какой выбор сделает человек. Что это за глупость вообще? Наука сможет лишь сделать прогноз, выводы которого с некой вероятностью станут реальностью. Всё и не более того.

Разница будет в том, что игра будет всячески упирать на оболочку дилеммы, на драму, эффекты и массу противоречивых обстоятельств, чтобы зацепить и впечатлить игрока. При этом игра скорее всего откажется утверждать один из вариантов выбора правильным, чтобы не разочаровывать весомую часть аудитории. Наука же будет заинтересована в понимании процесса выбора, в понимании логики.

LootHunter 11 сентября 2021, 20:38

Тут скорее надо стремиться не к реалистичности визуала, а стараться приблизить ситуацию к реальной. Например, сделать подобный эксперимент в ММО, где смерть персонажа будет означать полный вайп аккаунта.

LootHunter 11 сентября 2021, 13:12

Изучая тему этики выбора в видеоиграх, я интересовался и теоретическими наработками в этом направлении. Ближе всего к теме подошла современная прикладная этика (или moral studies), которая попыталась проанализировать реалистичные условия принятия решений. Именно здесь появилась идея морального вовлечения, которое крайне важно, чтобы понять: почему в одних случаях моральная дилемма в игре работает, а в других воспринимается как подсчёт выгод?

Проблема в том, что у науки и игр — разные цели. Наука об этике пытается понять, какие решения и в каких ситуациях являются этически правильными, а какие — нет. Игра же пытается вызвать у человека эмоциональную реакцию, а таковая будет тем сильнее, чем неоднозначнее эта ситуация для человека. Именно отсутствие чёткого понимания — что выбрать, что делать — и заставляет нас нервничать, переживать. И именно эту проблему пытаются решить исследования связанные с этикой. Если наука находит однозначно правильное решение — это успех для науки, и одновременно провал для игры. И наоборот.

stranikmegzvezd 11 сентября 2021, 13:23

По моему важны как детали развилки, так и вовлеченность человека в выбор. Да, если человек не социопат, какое никакое сопереживание у него будет в обоих вариантах. Но, судя по обсуждению таких развилок в фандомах, важно, чтоб игрок не смог быть отстранённым!

И это на самом деле важно! Я не учёный и экспериментов со статистикой не проводил, но мне кажется, что выбор в случае сухого пересказа ситуации, передачи сути, скажем, через аудиовизуальный ряд фильма или игры будет разным! И уж тем более я много раз читал, как люди делали свой выбор, но с оговоркой, что в жизни поступили бы иначе! А мне думается, что они бы не просто поступили бы иначе, но, возможно, поступили неожиданно для самих себя. В том смысле, что тот, кто даже в самой лучшей по сценарию и постановке игре решил одно, в жизни с тем же раскладом может поступить иначе.И дело не только в вовлеченности близких, а в разнице объёма факторов, которые описывают ситуацию для мозга. В книге, в фильме и в игре на самом деле всё происходит где-то там, а мы ещё и сознаём, что всё это придумано. А то, что текст, фильм или игра на не додали, мы дорабатываем или же не дорабатываем воображением, которое может быть весьма разным и впридачу зависеть от обстоятельств в реальности и личной точки зрения на вымысел.
stranikmegzvezd 11 сентября 2021, 18:36

Э-э, а разве правильность определяет именно… наука об этике, а не обстоятельства реальности с политикой и какой-либо идеологией? Пришли к власти одни люди — одна правильность, пришли другие — всё не так, а наоборот. А наука об этике всего лишь изучает механизм, которым люди анализирует ситуацию и делают выводы в пользу своей правды.

А так да, правы. И более того, наука заинтересована дать обществу понимание того, как эффективнее научить человека правильному выбору, а игры заинтересованы как учить фундаментальным истинам, так и тупо заработать на них деньги, зацепив внимание и психику как можно больше числа возможных покупателей.
stranikmegzvezd 12 сентября 2021, 18:46

Не предсказать, а всего лишь спрогнозировать с определённой погрешностью. А то у Вас сказано — определить. Определяет точный лабораторный анализ сколько там в крови пациента микроэлементов и лейкоцитов, а мнение хоть одного человека, хоть множества можно только спрогнозировать.

reinekekeke 12 сентября 2021, 20:01

Добавлю при некотором размышлении

Это ведь не один тест. Их целая серия, с разными деталями (а если там ребёнок/старик/бандит/родственник разной степени близости/пожилой ребёнок-бандит по имени Люк, или вагонетка с боньбой/какашками/лекарствами от спидорака). Теоретически, это позволяет высчитывать уровни гуманности/эмпатичности/волевых качеств/практичности и как-то интегрировать эти данные в игру. К примеру, классическая Masquerade Bloodlines ещё в самом начале игры задаёт как раз такие вопросики, более или менее провокационные, и именно на основании ответов относит игрока к одному из вампирских кланов (мне предсказуемо выпали Гангрелы).

Также, если глянуть глубже, эти данные позволяют смоделировать этическую систему индивида (игрока!) и на её основании _выстроить_ игровой мир (и даже сюжет!) из разного рода модулей (в зависимости от целей разработчиков). Создать как комфортные условия Justice for All, так и тленбольстрадание.

Иван Кудряшов 21 сентября 2021, 21:12

Образование строится по принципу понять чужой текст, то есть сделать его содержание своим. А умничать, ссылаясь на чужой текст — это немного другое, и часто с пониманием не связанное.

MoNoLiT90 20 сентября 2021, 6:24

Эта дилемма вагонеток мне напоминает один диалог из фильма «Кто я?» на крыше многоэтажного здания между тремя собеседниками:
— У тебя два варианта — ты отдаешь нам диск и прыгаешь вниз.
— И второй — мы отбираем диск и скидываем тебя вниз.
— Я выбираю третий — оставляю диск себе и скидываю вас обоих! 
Ситуации разные, но в мозгу упорно встает именно эта ассоциация в первую очередь) 

Just_Baron 11 сентября 2021, 16:38

Это скучно, тут ты ничего не можешь сделать, тут тебя за ручку ведут. А так ты можешь самостоятельно все сделать.

Читайте также