Да, я читал эту статью.

Сейчас у нас появилось много статей; они, правда, все такие немножко узенькие: в одной про фрейминг, во второй про личность. Только сейчас мы написали обобщающую для «Psychology in Russia», где все эти разные аспекты как-то соединены.

Мне кажется, что, с одной стороны, в соотношении сознания и имплицитных процессов возникает очень много проблем. Вот, скажем, человек использует компьютер и получает от него подсказку решения – здесь возникает вопрос, с кого потом спрашивать за неверно принятое решение. Ответ не очень понятен, потому что, если бы ты сам принимал это решение, то с тебя можно было бы спрашивать. С другой стороны, когда есть с кого спрашивать, возникает проблема оценки качества решения. Начну со второго.

Так получилось, что в свое время Александр Павлович Корнилов проводил посмертную психологическую экспертизу по делу академика В.А. Легасова. И была (помнится, мы обсуждали) одна совершенно безобразная претензия к человеку, который положил свое здоровье, «разгребая» Чернобыль. В свое время он сделал проект для саркофага, рассчитывая на самый плохой вариант – если бы там осталась вода. Учет этого потребовал специальных усилий и затрат. А когда ликвидаторы вошли в зал реактора, воды там не было – были сухие залы с графитовыми кучами. И ему предъявили что-то вроде: «У вас было неправильное решение». Конструктивно более сложное, чем требовалось, как оказалось постфактум. Неправильное потому, что оно было рассчитано на самый тяжелый результат, а ситуация оказалась более простой – без воды. Это типичная ошибка при оценке качества решений, известная как «феномен обратного мышления». Конечно, это был только один из аспектов его конфликтной ситуации с коллегами по институту. Но аспект показательный – оценка качества решения.

А если в такую ситуацию, с серьезными последствиями, как это происходит сегодня, еще и вклинивается компьютер! Вопрос: с кого спрашивать, если технические решения принимаются сегодня с помощью компьютера?

Однажды я знакомилась с подходом к принятию решений в лаборатории, когда еще был жив О.И. Ларичев. Там строились модели принятия решений и хорошо работали программисты, которым хотелось что-то знать о психологии принятия решений, потому что они разрабатывали системы поддержки принятия решений, как мне помнится, для наших военных руководителей, т.е. модели для людей, которые принимают решения, в частности, по включению военной техники в то или иное развитие ситуации. У них были всяческие игры... Проблема была в том, что при запросе на помощь в психологическом анализе стратегических игр не позволялось психологу увидеть конкретику ситуации и возможных «подсказок» в ней. И разумеется, совершенно невозможно дать психологические рекомендации, если не знаешь материала.

Смысл примера – решения человеком теперь принимаются на основе закрытой информации. И проблема закрытости информации, на основе которой принимаются эти решения, и проблема вклада личностного компонента – в таких условиях неопределенности – остаются. 

Сейчас я приехала с конференции в г. Костроме. Там был доклад нашей Юли Красавцевой о сравнении принятия решений как раз на примере модели Игровая задача Айова (IGT): особенности личностной регуляции стратегий в IGT у врачей и менеджеров. Она взяла серьезную выборку менеджеров – людей, которые владеют или руководят разными компаниями и у которых в подчинении от пяти до трехсот человек – все это обеспеченные люди, которые не сами работают на стройке.

По поводу выступления было два возражения. Первое – кому это вообще интересно, как принимают решения врачи? Хотелось встать и сказать: «Вы ходили когда-нибудь к врачу? Вас вообще интересует, кто вам ставит диагноз?». Когда мы начинаем, к сожалению, ходить к врачам, то начинаем понимать, что профессиональные базовые знания – сами по себе, а вы как индивидуальный случай – сами по себе, и врач не всегда обеспечивает это взаимодействие. Он относится часто к вам формально: «90% с этим живут – и вы поживете». Но вот как в профессиональные решения включаются процессы личностной регуляции – это уже научная проблема. И обращение к выборке врачей обусловлено тем, что этапы принятия решения входят в их профессиональную деятельность.

И второе возражение – по поводу менеджеров. Кому интересны менеджеры? Почему вы обследовали именно эти две группы? Вообще-то психология управления – довольно уважаемое в мире направление. Г. Греф приглашал сюда Д. Карузо (бывший молодой сотрудник П. Сэловея), как специалиста по эмоциональному интеллекту, который показывает сферы применения темы именно в управленческой деятельности.

Модель Майер – Сэловей – Карузо состоялась, и теперь Д. Карузо у нас представлен как большой авторитет по эмоциональному интеллекту. Хотя бы по этому имени можно сориентироваться, как связано принятие решений, экономическая деятельность и психологическая регуляция?

Но я вижу также сложившуюся вокруг этого понятия «психологическую практику»: какие деньги зарабатываются на всяких якобы обучающих процедурах.

Сейчас это становится еще более актуальным в связи с развитием систем искусственного интеллекта, которые пытаются сделать понятными для принимающих решения и которые, на самом деле, задают свои эвристики, задают какие-то свои искажения.

Это был в 70-80-е гг. большой хоздоговор у О.К. Тихомирова с НИЦЭВТ – Научно-исследовательским центром электронной вычислительной техники. В чем тогда была проблема? Не было еще «персоналок» (с Microsoft и проч.), и программисты сами строили диалоговые системы. Одна из общих задач была изучить, в какой степени наше мышление управляется заданными алгоритмами, структурами диалога. Она была поставлена психологами уже тогда.

Как Вам кажется, какие еще могут быть психологические последствия, связанные с внедрением подобного рода технологий, которые поддерживают принятие решений людьми, а иногда даже предлагают эти решения?

Первая проблема в том, что они могут предлагать решения, но при этом не учитывать эмоционально-личностный контекст в отношении предлагаемого. И мне кажется, это серьезно. Просто потому, что при стратегических решениях, как и в моделирующих выбор ситуациях моральных дилемм, человеческая жизнь начинает выступать в «цене» количества смертей. В частности, именно в аспекте ценности человеческих потерь сегодня возможна переинтерпретация деятельности наших полководцев – Г.К. Жукова и др.

Это хотя и не компьютерный случай, но важный аспект решений, когда речь идет о ценности человеческой жизни. Компьютерные технологии вполне могут «посоветовать» совсем не то, к чему придет человек, даже зная все эти ориентиры. Хорошо это или плохо – другой вопрос.

Можно, я на эту тему вспомню еще про эвристики Д. Канемана, скажем, эвристику репрезентативности? Там очень хорошая экспериментальная парадигма. Показывают фильм о молодоженах и спрашивают испытуемых: «Как вам кажется, как скоро они разведутся и разведутся ли вообще?». И дают базовые частоты, как часто люди (такого возраста, в такой ситуации) в стране реально разводятся. И что же? Участники чаще не ориентируется на эти базовые частоты. Они принимают решения в соответствии с индивидуальным опытом – как это было представлено среди знакомых пар, которые развелись или нет. 

Получается, что искусственный интеллект, вынося те или иные решения, будет ориентироваться на базовые частоты, а люди – на иные аспекты. И в этом смысле, если речь идет о том, что искусственный человек нужен для того, чтобы помогать реальному человеку, то большой вопрос, как он это будет делать, если у них совершенно разные ориентиры: у одного – базовые частоты, а у другого – иные критерии. 

Но что меня удручает, так это то, что не появляется новых исследовательских проблем в области психологии компьютеризации. Остаются все те же проблемы, что были в конце 1980-х – начале 1990-х годов. Это удивительно. Почему психологи при использовании компьютерных средств не могут найти каких-то новых ниш понимания психологической регуляции познания, решений человека? Почти все, что обсуждается применительно к решениям, было известно раньше. Либо обсуждаются темы «компьютер и общение» (социальные сети, буллинг и проч.). Либо психологические критерии выбора – при создании систем ИИ – отдаются на откуп специалистам в области искусственного интеллекта, т.е. не профессиональным психологам.

А как Вы думаете, каким образом технологии искусственного интеллекта – предиктивная аналитика, компьютерное зрение – могут повлиять на толерантность к неопределенности при принятии решений, на те ценностные и мировоззренческие основания, которые поддерживают эту толерантность?

Специально я на эту тему не думала. Мы прослеживали, как в условиях использования компьютера толерантность или интолерантность к неопределенности включается в стратегии на примере решения комплексных проблем. Аспирант В. Епишин смоделировал комплексную проблему, где муравьи-разведчики ходят и что-то добывают, с тем чтобы выросло все сообщество. У меня только такое (наряду с книжным – по Дернеру) сегодня знакомство с компьютерными моделями, которые могут использоваться. Но мы и на другом материале прослеживали влияние толерантности и интолерантности в ситуациях выбора, когда речь идет о получении «советов» или о «сетевом мышлении», когда может быть множество параметров изменений – это предтечи дернеровских задач, комплексных проблем.

И мы выявили неожиданные эффекты их роли в принятии решений. Первое наше наивное ожидание состояло в том, что толерантность к неопределенности, поскольку это принятие нового, неизвестного, противоречивого, будет позволять перескакивать через какие-то этапы, принимать решения в условиях неопределенности информации. А что мы получили? Именно толерантные лица берут максимальную информацию, берут все возможные советы (от компетентного, но безличного Другого), то есть получается, что они, по Попперу, расширяют рамки незнаемого. Мы же ожидали обратного – что интолерантные будут брать всю информацию, а толерантные будут давать решения при меньшем числе обращений к компьютеру или человеку, который может дать дополнительные сведения.

Пока мы выявили для себя, что толерантность к неопределенности работает немножко не так, как предполагалось, в двух экспериментах: на материале вербальных задач и компьютеризованных комплексных проблем. Поэтому мне кажется, что по отношению к компьютерным средствам могут быть совершенно разные стратегии. Как раньше было – что сказали по телевидению в программе «Время», то и правда, а теперь – если решение или рекомендацию выдал компьютер, то значит это «правильное» решение и иначе не можем и помыслить, то есть компьютер тоже может сохранять ту картину мира, где то, что вам сказали, то и правильно, а вы должны просто следовать этому, потому что так «думает» (подсказывает) компьютер.

А как быть с другой ситуацией? Как включать предоставляемые компьютером ориентиры в регуляцию собственного мышления? Здесь очень много вариантов построения именно психологических исследований. Потому что, даже получив от компьютера те или иные «советы», человек будет принимать решения относительно собственной жизни отнюдь не только на их основе, но и на основе своего образа мира, который не сводится к критериям и прогнозам согласно компьютерным данным. Как вера либо неверие в возможности включения компьютерных «подсказок» в собственные решения входит в реальную жизнь человека? Не знаю, но можно пытаться изучать.