Разрешение спора о рациональности суждений и принятии решений

Оригинальное название: 
Resolving the Debate About the Rationality ofJudgment and Decision Making

Разрешение спора о рациональности суждений и принятии решений. Часть 1

Двойственность предмета обсуждения

Во второй и третьей частях мы видели разрыв между нормативной и описательной моделями человеческого процесса принятия решений. В сущности, описательная модель фиксирует множество отклонений в человеческом поведении от так называемой нормативной модели.

В четвёртой части мы познакомились с альтернативными трактовками этого — не как искажений, а как свидетельств совершенства механизмов познания у людей.

Мы увидели также, что подобные альтернативные трактовки часто игнорируют индивидуальные особенности. В частности, такие трактовки неспособны объяснить, что часть людей демонстрирует нормативные или близкие к нормативным ответы и такие люди встречаются намного чаще среди взрослых людей с высоким IQ и полезными мыслительными привычками.

Ниже я попробую предложить теорию двойственных процессов, способную примирить Прогрессоров и Панглоссиан.

Теория двойственных процессов

Нейрологи и когнитивные психологи сходятся в том, что работа мозга может быть описана как работа двух различным систем — каждая со своими функциями, сильными и слабыми сторонами:

  • система 1 — быстрая и автоматическая;
  • система 2 — медленная, аналитическая, требующая много вычислительных ресурсов.

Определяющей особенностью Системы 1 является её автономность. Этот термин используется, потому что:

  • она работает быстро;
  • её исполнение неизбежно, если возникли соответствующие условия;
  • она не требует ресурсов сознания — «главного процессора»;
  • она независима от сигналов, поступающих в сознание;
  • в ней могут параллельно выполняться несколько процессов, не мешающих друг другу и сознательным мыслям и действиям.

Система 1 включает в себя управление поведением со стороны эмоций, автоматические механизмы, появившиеся в результате эволюции, а также способность к автоматическому исполнению выученных действий.

В неё также входят бессознательные эвристики — автоматизмы обработки данных, в большинстве случаев дающие верные и полезные ответы, не требуя при этом участия сознания — распознавание лиц, речи, окружения. Эти же эвристики ответственны за некоторые когнитивные искажения — например, за «подстановку атрибута», когда вместо сложного признака бессознательно оценивается другой признак, связанный с первым, но более легкий для оценки.

Система 2, система сознательного мышления, отличается от Системы 1 почти всем:

  • она медленная и очень затратная по ресурсам;
  • в каждый момент времени в ней может выполняться всего один процесс;
  • объём нашего сознательного внимания крайне ограничен.

Одна из важнейших функций Системы 2 — это способность перекрыть решения Системы 1. Это необходимо, потому что решения Системы 1 «быстрые и грязные» и не годятся для ситуаций с неопределённостью. Эвристики годятся для известного. В неизвестном окружении они могут обойтись очень дорого.

Реакции Системы 1 могут в определённых условиях приводить к неприемлемому результату — они быстрые, но часто неточные. Поэтому, когда нам необходимо оценить действительно важные вещи — например, риски для наших детей — мы используем Систему 2 для подробного размышления и, возможно, игнорирования быстрых подсказок Системы 1.

Например, бессознательно нас больше волнует риск заболеть от внутрибольничной инфекции, чем заработать диабет. Между тем диабетом в США затронуты около 45 миллионов человек, а внутрибольничными инфекциями — 1500 человек в год. При этом, чтобы повлиять на вероятность заболеть диабетом, у нас довольно солидное количество способов, а на больничные инфекции куда меньше. Поэтому при использовании Системы 2 для выбора мы получим решение, отменяющее решение Системы 1.

Чтобы суметь перекрыть решения Системы 1, Система 2 должна обладать двумя взаимосвязанными способностями. Одна из них — это способность подавить решения Системы 1, отменить их, если вычислено более подходящее решение. Такие механизмы подавления Системы 1 действительно были обнаружены.

Однако подавить Систему 1 — полдела. Бесполезно подавлять один ответ, если на его месте не подставить лучший. Откуда же брать такие лучшие ответы? Возможное объяснение: из механизмов построения гипотез и мысленного моделирования, составляющих вторую часть Системы 2. Мы создаём временные модели мира и проигрываем в них наши возможные действия (или иные начальные условия).

Представление о двойственности процессов мышление может совместить точность описания у различных эволюционных теорий и тот факт, что когнитивные способности часто весьма далеки от того, что эволюционисты считают выработавшимся оптимальным поведением. Это возможно при следующих предпосылках:

  • есть две системы обработки, только что описанные здесь;
  • эти две системы предназначены для разных классов ситуаций и используется для достижения разных типов целей;
  • встречаются индивидуумы с более развитой Системой 2, которой легче доминировать над Системой 1.

Эволюционные психологи, вероятнее всего, правы, когда говорят, что Система 1 развилась в результате эволюционной адаптации. Однако эволюционные объяснения несостоятельны для решений Системы 2, основанных на сознательном и рациональном анализе. Здесь в игру вступают представления об эпистемической и инструментальной рациональности.

Эволюционная оптимизация и инструментальная рациональность

Для полного понимания того, что предлагает теория двойственности процессов мышления, необходимо уяснить, в чём отличие между эволюционной адаптацией (оптимизация на генетическом уровне) и инструментальной рациональностью (оптимизацией на уровне конкретного человека). В понимании такого различия может скрываться сближение позиций Прогрессоров, делающих упор на законах человеческого мышления, и Панглоссиан, упирающих на эффективность человеческого мышления. Механизмы Системы 1 действительно эффективны, им есть логичные эволюционные объяснения и экспериментальные свидетельства. Механизмы Системы 2 действительно рациональны и этому тоже есть объяснения и свидетельства. Эволюционная адаптация сама по себе не гарантирует инструментальной рациональности, они относятся к разным областям.

Ключевым моментом для различия является именно уровень конкретного человека. Эволюционная оптимизация действует на уровне вида в целом, на уровне закрепления в генах самых общих свойств. Идеальная оптимизация, приспособленность не приводит к идеальному мышлению. Мышление присуще не виду, не генам, а конкретному организму.

Для выживания вида в целом необходим механизм эволюционной адаптации. Он привел к появлению у человека Системы 1, Она работает одинаково у всех — это результат оптимизации на уровне вида. У вида нет сознания, нет целей — только приспособленность к среде.

Система 2 работает на уровне конкретного организма. У организма есть цели, поэтому к нему применима инструментальная рациональность. Если у систем 1 и 2 случается конфликт, всё зависит от того, какая из систем в данном организме развита сильнее.

Сближение позиций Прогрессоров и Панглоссиан

Во второй части были введены понятия описательной модели и нормативной модели:

  • описательные модели содержат точные характеристики ответов, характерных для человеческих существ. Они фиксируют то, что есть;
  • нормативные модели вводят «золотые стандарты» действий и убеждений, служащие для максимальной точности убеждений и эффективности действий. В качестве примера упомянем теорему Байеса.

Важно понимать, что не все расхождения между нормативной и описательной моделями суть примеры человеческой иррациональности. Ещё в середине прошлого века Прогрессоры и Панглоссиане сошлись во мнении, что человеческая рациональность имеет ограничения в виде особенностей конструкции человеческого мозга и ограниченного объёма доступной информации. Для обозначения подобной рациональности, ограниченной доступными ресурсами внимания, памяти и времени, а также особенностями когнитивного аппарата, даже предложен термин «ограниченная рациональность».

Понимание ограниченности реальных когнитивных ресурсов привело к понятию прескриптивных, или предписывающих моделей вместо нормативных. Предписывающая модель описывает, к какому поведению следует стремиться с учётом человеческих возможностей и внешних ограничивающих факторов (например, отведенного на решение времени). Если нормативная модель обозрима человеческим умом, то она же является также предписывающей. Если же нет, то предписывающая модель настолько близка к нормативной, насколько позволяют обстоятельства. Предписывающа модель — ещё один шаг к сближению позиций Прогрессоров и Панглоссиан.

Последующее сближение возможно, если помнить о том, о чем уже говорилось ранее:

  • эволюционная адаптация. Оптимизация генетического кода вида в целом под внешнее окружение;
  • инструментальная рациональность. Оптимизация поведения конкретного индивидуума согласно его внутренним целям.

Эволюционные психологи приводят много примеров оптимальности человеческого поведения, появившейся в результате эволюционной адаптации. Они не так уж неправы, ведь практически всё, полезное для выживания вида, полезно и отдельному индивидууму. Практически всё — но не целиком всё.

Механизмы выживания, выработанные в доиндустриальные времена, иногда просто неактуальны в технологическом обществе. Например, инстинкты сохранения энергии в виде запасов жира неуместны в обществе, где закусочные буквально на каждом углу.

Например, современная судебная система намного чаще нуждается в суждениях, основанных на точной оценке свидетельств и их значимости, чем на общих знаниях и личном опыте присяжных.

Или широко известное правило «клиент всегда прав», зачастую трактуемое так, что необходимо оставаться вежливым и корректным, как бы гнусно конкретный клиент не выражал зачастую невыполнимые требования. Служащий должен полностью подавить все негативные эмоции, которые автоматически включаются Системой 1 в ответ на агрессивное поведение клиента — подавить, потому что абстрактное правило «клиент всегда прав» в подобной искусственной и часто противоестественной ситуации более правильно, чем напрашивающийся отпор.

Разрешение спора о рациональности суждений и принятии решений. Часть 2

Враждебная и доброжелательная к эвристикам окружающая среда

Если коротко, Панглоссиане показали, что у многих когнитивных ошибок может быть эволюционное обоснование или адаптационная польза. Прогрессоры, однако считают, что современный мир меняется слишком быстро для того, чтобы реакции, выработанные видом, оставались полезными для конкретного человека. Как написали давным-давно Хиллель Эйнхорн и Робин Хогарт: «неясно, что следует называть естественной средой обитания в современном быстро меняющемся мире. Да, в лабораториях испытуемым предлагаются непривычные действия, но как знать, может, способность к непривычным действиям добавляет очки.»

Критики «абстрактности» лабораторных исследований и стандартных тестов заблуждаются именно в этом. Они критикуют абстрактность задач и проблем когнитивистики, не замечая, что «реальная жизнь» сама по себе становится всё более абстрактной. Попробуйте «интуитивно» разобраться с банкоматом или обсудить с вашим врачом план лечения. Ваш личный опыт, ваши эмоции, ваши интуиции о поведении в обществе – всё это окажется бесполезным. Расширяющееся пространство вариантов выбора всё больше напоминает скорее компьютерное меню, чем интуитивно знакомые дом, лес и прочие «естественные среды обитания.»

К сожалению, в современном мире всё чаще возникают ситуации, в которых поведение, выработанное в процессе эволюции, далеко от оптимального. Люди всё чаще должны работать именно с информацией, а не с ситуацией в контексте, как работает Система 1. Абстрактные задачи в лабораториях когнитивистов всё чаще напоминают реальные проблемы реального мира. Более того, реальный мир зачастую предъявляет более строгие требования к качеству решений, чем тесты когнитивистов – иначе ваши эвристики будут «взломаны» более рациональными участниками, эксплуатирующими вашу Систему 1. Вспомните хотя бы размещение товаров в супермаркете – они расположены именно с учётом эвристик поведения обычного человека.

Всё это, само собой, не означает, что эвристики всегда опасны. Они часто дают нам приблизительно верное решение, давая возможность минимизировать применение формальных правил рациональности. Однако даже те психологи, которые всячески показывают полезность эвристик, признают, что следование исключительно эвристикам может завести слишком далеко.

Причина в том, что полезность эвристик очень сильно зависит от доброжелательности окружающей среды. Окружающую среду можно назвать доброжелательной, если она содержит элементы, необходимые для верной работы эвристик. Особо отметим, что в доброжелательной среде нет других людей, которые использовали бы ваши эвристики в своих целях.

Во враждебном окружении таких элементов нет. Даже если там есть элементы, запускающие ваши эвристики, то они запускают их с целями, нужными не вам, а их хозяевам. Например, полуголые красотки в рекламе или то же глубоко продуманное размещение товаров в магазине…

Как пример возьмём главу «Как невежество делает нас умнее» из книги Гигенрензера и Тодда. В ней рассказывается о том, насколько полезна может быть эвристика «да - нет» в определённом окружении. Например, человек, ничего не смыслящий в теннисе, успешно предсказывал результаты встреч, следуя эвристике «побеждает игрок с знакомой фамилией» – доля успешных предсказаний составила 72%. Это сравнимо с результатами лучших теннисных экспертов.

Эвристика «да - нет», безусловно, полезна – при определённых условиях. Но что если условия специально нацелены на эксплуатацию этой эвристики? Если я посмотрю на свой завтрашний день с точки зрения данной эвристики, то получу следующие результаты:

  • я куплю кофе за три доллара, хотя чашка кофе за полтора доллара удовлетворила бы меня столь же успешно;
  • я съем сандвич, в котором содержится дневная норма необходимого моему организму жира;
  • я пойду в более дорогостоящий банк;
  • я расплачусь кредиткой вместо наличных.

Ни одно из этих действий никак не согласуется с моими долгосрочными целями. Моё окружение эксплуатирует применяемую мною эвристику «да - нет» в своих, а не в моих целях. Таким образом, коммерческие предприятия моего города сложно назвать доброжелательной к моим эвристикам окружающей средой.

Ещё одним примером недоброжелательной к интуитивным эвристикам среды можно считать сферу личных финансов. У самых узнаваемых банков страны обычно самый низкий процент по вкладам. Можно считать, что из-за того, что люди следуют эвристике узнавания, они недополучают миллионы долларов, так как в менее известных банках процент по вкладам, как правило, выше. (Кажется, тут автор немного лукавит, не говоря о том, что больший процент по вкладам в менее известных банках влечёт также и более крупные риски.)

Исследования показывают, что подобные ошибки в финансовых решениях у Системы 1 случаются едва ли не постоянно. Например, исследователи предложили выбрать среди двух программ страхования:

  • программа A предусматривает ежегодный платёж 400 даллоров и ежемесячные платежи в 40 долларов;
  • программа B не требует никаких ежегодных платежей, но ежемесячные платежи при этом составляют 80 долларов.

Многие выбирают второй вариант, так как в нём нет неизбежной крупной траты. Между тем простой подсчёт показывает, что он менее выгоден:

  • программа A: 400 + 12 * 40 = 400 + 480 = 880;
  • программа B: 12 * 80 = 960.

Первый вариант,как видим, выгоднее. Однако автоматическая реакция вида «избегать риска крупных трат» мешает принять решение в пользу более экономичного варианта.

Множество рекламных уловок также направлены на эксплуатацию встроенного поведения Системы 1. Например, рекламный слоган лотереи 6/49 «Ты можешь быть единственным!» отлично маскирует реальную вероятность выигрыша, равную приблизительно 1 / 14000000.

Вот ещё пример того, как легко взломать Систему 1. Участникам предлагалась следующая вымышленная ситуация. Вы съели на обед бутерброд с мясом в вакуумной упаковке из супермаркета. В вечерних новостях вы слышите, что в подобном мясе можно встретить возбудителя одной из форм человеческой энцефалопатии. Предлагается оценить, насколько точно вы уменьшите потребление мяса в вакуумной упаковке, услышав подобную новость, в пользу других продуктов. Разумеется, почти все участники сказали, что совершенно точно сильно уменьшат потребление такого мяса. Второй группе участников предложили точно такую же ситуацию, но там вместо человеческой энцефалопатии упоминался «человеческая разновидность коровьего бешенства» . Конечно, это описание автоматически вызывает представление о болезни, присущей только животным, и наша Система 1 оценивает описание как менее опасное.

Если мы полагаемся исключительно на Систему 1, мы живём буквально не своим умом. Эта система настроена на выживание вида в целом, а не на конкретную жизнь конкретного индивидуума. Ее может легко взломать каждый, кто знает, на какие ключевые слова реагирует наша животная часть. Во второй части мы видели много примеров того, как фрейминг-эффекты ставят человеческие предпочтения с ног на голову, сводя на нет нашу способность самостоятельно думать. В современном обществе то и дело приходится задумываться, чтобы Система 2 могла отменить быстрые, но неверные решения Системы 1.

Затянувшийся спор между Панглоссианами и Прогрессорами можно рассматривать как две стороны одной медали. Можно согласиться практически со всеми выводами Панглоссиан, но придать им совершенно другой смысл. Скажем, эволюционные психологи в восторге от того, как идеально приспособлены механизмы ума к обстановке, возникшей ещё в плейстоцене. Да, действительно, они само совершенство. Но в то же время благодаря наличию именно этих механизмов существует многомиллиардная рекламная индустрия. Благодаря тому, что она нашу Систему 1, когда мы недостаточно внимательны и не можем остановить инстинктивные действия, мы теряем массу денег, сил и времени. Для Прогрессоров очевидно, что к сегодняшним реалиям эвристики из плейстоцена приспособлены плохо.

Эволюционные психологи также указывают, что если бы информация подавалась в виде, удобном для восприятия Системой 1, наши интуитивные решения были бы замечательно точны. Да, это так и есть. Однако мир редко озабочен тем, чтобы снабжать нас информацией в том виде, который хорошо воспринимается древними структурами мышления. Мы живём в технологическом обществе, где решения надо принимать, опираясь на абстрактные вероятности, а не частотности. Куда вложить деньги, какому врачу доверять, какую машину купить и прочее – все эти решения мы вынуждены принимать, имея лишь абстрактные числа вероятностей, а не интуитивно понятные частотности. Мы не можем опираться на частоту каких-то событий, принимая решения – эти события не происходят с нами лично, мы имеем лишь опосредованные вероятности.

В огромном большинстве рутинных микрособытий эволюционно отточенные механизмы незаменимы. Распознавание языка, лиц, обмен мыслями, ориентация в пространстве, социальные взаимодействия и так далее – во всех этих случаях автоматические механизмы Системы 1 поистине бесценны, они работают на благо человека. Но есть немногочисленный – по сравнению с общим количеством – класс ситуаций, когда не совсем точное срабатывание этих механизмов идёт совершенно не на благо, но во вред человеку. Современной экономики во времена плейстоцена не существовало, эволюционные механизмы ещё не успели про неё узнать – поэтому она является недоброжелательной средой для наших эвристик.

Добавить комментарий

Plain text

  • HTML-теги не обрабатываются и показываются как обычный текст
  • Адреса страниц и электронной почты автоматически преобразуются в ссылки.
  • Строки и абзацы переносятся автоматически.
CAPTCHA
This question is for testing whether or not you are a human visitor and to prevent automated spam submissions.