Практическое применение моделирования
Мы обсудили построение моделей, начиная с выделения объектов и отношений, и до поиска и описания причин и следствий в объяснениях. Повторим ещё раз – всё это нужно нам для достижения прагматических целей, то есть для того, чтобы внести больше ясности в те ситуации, где нам необходимо действовать.
Моделирование и причинно-следственный анализ — это практики в процессе поиска, постановки и решения проблем, который можно описать как процесс изменения агента для приспособления к среде, и изменения среды для приспособления к агенту.
Не бывает моделирования, которое не имеет какой-то (может быть, отложенной) цели, связанной с выбором поведения, меняющего мир.
Все начинается с того, что мы пытаемся понять: что из окружающей обстановки — наша проблема. Для этого мы выделяем объекты. Когда мы решаем, что проблема найдена, мы определяем, что будет предпочтительным решением этой проблемы, для этого мы формируем набор предпочтений (состояний мира, которые мы считаем желательными).
Дальше происходит анализ, включая доэкспериментальную аргументацию. Мы формируем гипотезы и составляем объяснение (модель) ситуации, в котором стараемся понять не только из каких объектов она состоит, но и как эти объекты связаны, в особенности связями типа «причина-следствие», и почему эти связи обеспечивают наблюдаемое поведение.
На этом этапе объяснение может казаться логичным, мы можем и не заметить, что с ним что-то не так, тогда это выяснится гораздо позже. Поэтому мы проверяем модель, собираем данные, ставим эксперименты. Особенно мы стараемся опровергнуть объяснение, ищем свидетельства, которые в него не вписываются — чтобы улучшить ее и облегчить себе работу в будущем. Когда мы нашли модель, которая устойчива к попыткам опровержения, мы можем на основании нее действовать.
Из причинно-следственного анализа мы видим, куда и в какой ситуации можно совершить интервенцию (вмешательство), чтобы изменить что-то такое, что нам важно. Вариантов вмешательства может быть несколько, и всегда есть вариант не вмешиваться, оставить всё по-старому. Отсюда появляются альтернативы – разные варианты решения проблемы. Обычно на этом этапе мы также стараемся перечислить все возможные ограничения на применимость модели.
Обычно мы ищем варианты вмешательства либо перебирая знакомые паттерны, которые мы уже видели раньше, либо пытаясь собрать новый паттерн из кусочков старых. Возможные паттерны мы стараемся раскритиковать, даже выходя за пределы исходного объяснения. Для этого используются разные вспомогательные приемы и практики (например, анализ pre-mortem, задавание вопросов типа: «представь, что ничего не получилось, и расскажи, что пошло не так»).
В итоге мы выбираем какой-то из вариантов действия, принимаем решение. А затем планируем и выполняем конкретные работы, реализующие этот вариант.
Именно следование этому алгоритму мы и называем «рациональной работой», то есть работой, основанной на разумных доводах, позволяющих предполагать, что выбранный нами вариант действий приведет к тому результату, которого мы хотим достичь.
Дальше мы неизбежно получим от мира обратную связь — насколько наша модель была точна, насколько объяснение было качественным, насколько реальные проведённые работы соответствовали принятому решению, какие неожиданности застали нас врасплох, и так далее. В результате мы можем откалиброваться — понять, насколько наше ощущение качества решения соответствует реальности.
Проверка качества моделирования происходит в конце концов только на этапе непосредственного исполнения решения, принятого на основе модели. Поэтому важно не пропускать получаемую информацию и непрерывно улучшать процессы моделирования, поиска альтернатив и принятия решений, учитывая новые данные каждый раз, когда результат ваших действий вас удивляет.
Улучшения надо понимать буквально – всегда лучше брать ваш существующий результат и изменять его, а не пытаться построить что-то новое с нуля.
Проверьте, выбрана ли именно ваша проблема. Ошибка, которую тут легко совершить — ролевая, несоответствие проблемы интересам роли. Плохо решать не свои проблемы, точно так же, как плохо не решать свои.
Про ошибки в моделировании мы много говорили в предыдущих разделах. Устранение ошибок можно и нужно проводить инкрементально, не выбрасывая всю модель на помойку.
Поиск альтернатив. Есть две крайности: искать слишком много альтернатив, в результате время, затраченное оценку и выбор становится слишком большим, либо делать первое попавшееся действие, тогда большинство решений будет заканчиваться провалом, и итераций понадобится слишком много. Посмотрите трезво на свой процесс поиска альтернатив и откалибруйтесь.
Принятие решения. Теории принятия решений пытаются формально описать критерии выбора вариантов, и есть множество вариантов (pun intended) таких описаний.
Мы можем пытаться при принятии решения оптимизировать один показатель (ожидаемую полезность[1], издержки, дисконтированный денежный поток, альтернативные издержки, теоретико-игровые выплаты и т.п.), либо сттремиться к многокритериальной оптимизации. Для разных вариантов существуют модельные ситуации, обсчитываемые с помощью упрощённых моделей, где исходы известны, вознаграждения и потери заданы, все можно вычислить и сравнить. Что интересно, в этих модельных ситуациях в лабораторных условиях люди (и иные агенты, животные, теперь и ИИ) все равно не ведут себя как эти упрощённые модели предписывают себя вести рациональным агентам.
Надо учитывать, что невозможно учесть все внутренние убеждения и представления агентов о себе и о мире, абстрагироваться от этих представлений и от фундаментальной неопределённости выбора агента при принятии решений. (Некоторые философы называют эту неопределённость «свободой воли», но нам даже не нужно тут углубляться в объяснения её природы.)
В реальности, когда агенту нужно выбрать из нескольких вариантов в многофакторной ситуации, агент не столько пытается логически рассчитать ожидаемую полезность, сколько старается обосновать свой уже сделанный в быстром мышлении интуитивный выбор.
Скорее всего, это не так уж плохо: как мы обсуждали, быстрое мышление неизбежно учитывает и предыдущий опыт, и новые данные, и даже результаты рассуждений, проведённых в медленном мышлении. Только оно делает это не алгоритмически, а с помощью распределённых представлений. Но совершенно не факт, что результат этого – некачественный.
Поэтому, пока агент тщательно выделяет объекты, классифицирует их, строит и изучает модели, рассматривает факторы и обдумывает альтернативах – его экспертное интуитивное понимание обновляется, и решение в итоге может оказаться лучше, чем если попытаться всё же провести исчерпывающий расчет.
Приходится также учитывать, что и подготовка к принятию решения, и сам процесс принятия решения агенту чего-то стоят: времени, сил, денег. Эти ресурсы, плюс ресурс внимания, у агента обычно ограничены[2]. Ресурсы учитываются явно или интуитивно, и тоже влияют на принятие решений.
В целом, когда нам кажется, что агент действует против своих интересов (это вызывает ощущение дребезга), мы, скорее всего, просто не знаем всех предпочтений агента, а некоторые предпочтения скрыты даже от него самого (от его осознанного медленного мышления). Постараться вывести эти предпочтения в фокус внимания иногда само по себе помогает принимать более хорошие решения.
Когда информации больше, чем мы можем обработать за отведённое для принятия решения время, мы чаще всего либо выберем и учтём что-то случайным образом, либо застрянем в аналитическом параличе — состоянии, когда решение откладывается потому, что агент пытается проанализировать всю-всю информацию, несмотря ни на какие ограничения. Аналитический паралич откладывает действия и, по сути, является вариантом «не делать ничего». Обычно этот вариант – не очень хорош.
Принятие решений значительно усложняется, если речь идёт не об одном конкретном моменте, а о цепочке связанных между собой решений. Это ставит вопрос о временном горизонте планирования. Решения будут радикально отличаться, если вы рассматриваете не один момент в близком будущем, а несколько разных, на которые вы одновременно строите планы, и которые задают ограничения друг для друга. Все работы по решению проблем, которые вы делаете, меняют вас и меняют среду, поэтому изменяются и те проблемы, которые вы собираетесь решать дальше.
Думать о таким неопределённом будущем зачастую можно только эвристически, то есть с помощью интуитивно выведенных правил, не имеющих почти никакого логического объяснения, и слабо подкреплённых данными. Одна из таких хороших эвристик — увеличивать спектр будущих возможностей, то есть при рассмотрении альтернатив выбирать те, которые создают вам больше свободы в следующих решениях, те, которые не вводят новых ограничений.
У Д. Дойча тоже есть похожая эвристика: fun criterion. Он предлагает выбирать то, что приносит fun - радость (для него это специфическая радость познания, любопытства, разбирательства в новом). Если вы руководствуетесь этим критерием, вы можете постоянно шаг за шагом расширять известную вам область мироздания, а значит, и набор доступных в будущем путей – стратегий. Кроме того, вы будете развивать и укреплять в себе творческое начало.
Вы в любом случае поступаете так, чтобы каждое решение как можно лучше готовило вас к последующим ситуациям. Вопрос всегда только в том, насколько крупные системы и длинные промежутки времени вы способны рассмотреть, и насколько вы способны в моделях предусмотреть все неизвестное. Но если вы просто думаете вперед на 15 минут, вы будете принимать не те решения, которые вы будете принимать, если вы думаете вперед на 20 лет. Речь тут не о планировании на эти периоды, а о моделировании и прогнозировании на таких временных промежутках. Вы может всё равно строит планы только на 5 минут вперёд, но, если ваши модели смотрят на 20 лет вперёд – ваши решения будут другими.
Можно утверждать, что каждая живая система пытается минимизировать сюрпризы, которые принесёт ей будущее, и делает это в соответствии со своей темпоральной глубиной[3].
Чтобы хорошо приспосабливаться ко всему набору вероятных миров, вам нужно смотреть как можно шире и как можно дальше, и понимать, что процесс поиска, постановки и решения проблем принципиально повторяющийся, итеративный. Всегда надо думать о том, что случится на следующий день после того, как вы решите проблему, которая прямо сейчас стоит перед вами.
Von Neumann, J., & Morgenstern, O. (1944). Theory of Games and Economic Behavior. Princeton University Press. ↩︎
Simon, H. A. (1955). “A Behavioral Model of Rational Choice.” Quarterly Journal of Economics, 69(1), 99-118. ↩︎
https://deniseholt.us/dr-karl-friston-on-the-fabric-of-intelligence/ ↩︎