Теории принятия решений

Теория принятия решений/decision theory — это каким образом агенту надо рационально (то есть оптимально, исходя из его вычислительных ограничений и неопределённости как во входных данных, так и результатах действий) выбирать действие между несколькими альтернативами. В принципе, обсуждаем все системы, только некоторые из них способны принимать решения.

Наша задача в теории принятия решений (впрочем не только в ней) уйти от антропоцентризма:

• уход в мышлении и языке от привязки к конкретному системному уровню в эволюции (клетка, организм, популяция, экосистема), целостное рассмотрение всей биосферы на всех временны́х масштабах^[1], в том числе и техносферы с техно-эволюцией. Если мы имеем многоуровневую эволюцию, то нужно обеспечить внятный язык разговора о проблеме индивида в биологии, говорить о многоуровневости индивидов, иметь имя для "эволюционной единицы" (разговор о генетической и меметической эволюциях, репликаторах, генах, мемах).
• по линии рассуждений David Deutsch: уход от парохиального (частного, для текущей ситуации, в которой находятся люди) мышления, посадка мышления на общую привязку к физике. Астрофизики и математики — это физические системы, хотя и очень сложно устроенные. Предложение описывать мир в терминах агентов-как-создателей (constructor theory): одни устойчивые системы создают другие устойчивые системы, включая саморепликацию с мутациями, создание инструментов и т.д.
• выявление трансдисциплинарных рассуждений по линии вещество-существо-сознательное_существо-команда-сообщество-общество (в части простой физичности это создатели/constructors или IPU, в части выхода в мир «разумных существ» это агенты в узком их понимании как «планирующие системы» и мультиагентные системы. Фактически тут используется и constructor theory (Deutsch и Marletto), и multilevel evolution (Ванчурин со товарищи, Levine со товарищи), и active inference (Friston со товарищи).
• готовимся к рассмотрению не только животных и людей, но и киборгов, и органоидов («мозг на подложке электродов»), AI на разной элементной базе, и далее выход в коллективы и сообщества, включая эко-системы умных агентов^[2].
• праксиология, социология, политика, экономика с их вечными попытками найти, как обсуждать коллективы в их связи с индивидами: преодоление застревания на «методологическом индивидуализме», предполагающем выделенность отдельных людей-организмов из общей дарвиновской и техно-эволюции, учёт распределённых вычислений в фирмах, на рынках, работы с коллективными пулами ресурсов, включая вычислительные ресурсы и коллективные/акционерные капиталы.
• отвязка проблемы управления вниманием (сознания) от особенностей именно человека, обсуждение людей с экзокортексом и эффекторами, а не «биологических людей», а также коллективов, включая гибридные эко-системы с «небиологическими интеллектами» (agent swarms тут даже не подходит, ибо сразу говорим о многоуровнево устроенных фирмах, эко-системах, сообществах, обществах, а не одноранговой сети агентов в роях/swarms).
• Теории принятия решений нужны будут и при разговорах про этику, и там возникнет вопрос про природу агента (экстропианство^[3], трансгуманизм^[4], биоэтика^[5], этика AI^[6] и органоидов^[7], и так далее) в условиях бесконечной эволюции/open endedness^[8].
• -- ... и много других достоинств от отказа мышления в чёткой привязке только к одному системному уровню (человеческой популяции), а часто ещё и к одной системе на этом уровне, одному взрослому человеку, использования «птолемеевской модели человека»^[9], а далее ещё и птолемеевской модели мира вокруг человека.

Итак, есть агент («лицо» — физическое/человек или юридическое/фирма, но важно учитывать и различных других агентов, которые трудно представить «лицом», но которые тоже принимают решения, хотя иногда об этом трудно помыслить — сообщества, общества, человечество в целом, но даже и кошки с собаками и тиграми). Этот агент принимает решения. Как он должен принимать решения, чтобы они были оптимальными с точки зрения достижения целей этого агента? Таких теорий принятия решений есть несколько:

• **Классическая****доказательная/**evidential^[10] («логика в условиях неопределённости»). Там рассуждающий рациональный агент, делающий выбор при планировании действий/acts и результатов/outcomes в условиях неопределённости/uncertainty: выбирающий предпочтения/preferencies из опций/prospects/options. Decision theory is concerned with the reasoning underlying an agent’s choices, whether this is a mundane choice between taking the bus or getting a taxi, or a more far-reaching choice about whether to pursue a demanding political career. (Note that “agent” here stands for an entity, usually an individual person, that is capable of deliberation and action.). То есть «обычно какая-то отдельная личность». И дальше там beliefs/убеждения и desires/желания и главный предмет — рациональность выбора (классическая теория принятия решений — нормативная теория, говорит «как надо выбирать, чтобы добиться результата»). В том числе в классической теории говорится, что рационально выбирать варианты действия надо по ожидаемой пользе (expected utility). Множество вариантов этой теории серьёзно критиковались в том, что они плохо справляются с новостями, ибо не учитывают причинно-следственных отношений. Ещё интересно, что evidential переводят на русский как «доказательная», но более чётко тут было бы «основанная на данных измерений», что совсем другое!
• Причинная^[11] (контрфактуальные рассуждения, работа с причинами и следствиями в байесовых сетях в условиях неопределённости). всё как в доказательной классике, только It evaluates an option’s utility by calculating the option’s expected utility. It uses probabilities and utilities of an option’s possible outcomes to define an option’s expected utility. The probabilities depend on the option. Causal decision theory takes the dependence to be causal rather than merely evidential. Там тоже агенты, причём не только рациональные, но и сверхрациональные^[12] и их уже несколько, и их решения зависят от решений друг друга — там сразу теория игр, агенты играют друг против друга, но ни разу не командно, а каждый сам за себя: «агенты в агентном окружении».
• Квантовоподобная (использование «дополненного Байеса» в рассуждениях о причинности, excess Bayesian inference). Агент выполняет квантовоподобную оценку вероятности, и это даёт другие решения! Рациональность квантовоподобна, и вероятности в ней субъективны, разные агенты на основе разных знаний (добытой в ходе исследований информации) и с учётом известных им планов действий себя и других агентов оценивают вероятности в одной и той же ситуации по-разному! Количество литературы, которая опирается на квантовоподобные описания причинности, в том числе причинности в действиях агентов (прежде всего людей, но сейчас и не только людей, помним об AI и организациях), стремительно растёт^[13].

Теории принятия решений не затрагивают творчества: генерация альтернатив, «творчество». Альтернативы считаются в теории решений входными данными, так что нужно только учесть намерения агента при выборе. Творчество (генерация альтернатив) мы будем рассматривать в «исследованиях», ибо нужны догадки, чтобы пошли исследования. Но дальше в рамках рационализма нужно рационально не только исследовать, но главное — принимать итоговые результаты исследований (теории/объяснения, которые лучше других предсказывают состояния мира) всерьёз, то есть строить на их основе планы действий и воплощать их.

Традиционная теория принятия решений^[14] нормативна: какие предпочтения по выбору действий агент не просто может иметь (но не обязан иметь), но обязательно должен иметь, чтобы результаты для него были оптимальны. Традиционная теория принятия решений основывается главным образом на традиционной аргументации, чётком следовании логике. А далее идёт «классическая логика в условиях неопределённости», какие-то вероятностные расчёты — и это с точки зрения лестницы причинности просто учёт ассоциаций, первая ступенька лестницы из её трёх ступенек.

Например, праксеология^[15] как общая теория деятельности, использующаяся в праве и экономике, опиралась именно на классическую теорию принятия решения. Там был постулат о рациональном принятии экономических решений, а дальше предполагалось использование агентами классической теории решений. Вероятности при этом считались принадлежащими миру, «физичными», предметом изучения физики, свойством мира.

После «одомашнивания причинности» появляются зачатки новой теории решений, использующей понятие причинности как основное для рассуждений о выборе действия из его альтернатив. Строится граф причинности, уточняется — и затем используется для предсказания наилучшего результата действия.

Людвиг фон Мизес даже считал экономику (в варианте австрийской школы^[16]) поддисциплиной праксеологии, а другими дисциплинами там были (тоже «австрийские», то есть праксеологические) право, социология, но эти проекты «не взлетели», а австрийская экономика вполне «взлетела» и до сих пор жива, находясь до сих пор в конкуренции с «мейнстримной» неоклассической экономикой именно по расхождению в теории принятия решений. Австрийцы ещё со второй половины 20 века интуитивно понимают, что речь идёт о графах причинности и объяснениях (и напирают на контрфактуальность в этих объяснениях), и это задолго до формализации в causal inference, которая более-менее оформилась где-то после выхода работ Judea Pearl 2009 года. Теории, построенные на основе рациональных объяснений, «австрийцы» называли «аксиоматическими», подчёркивая, что аксиомы «кладутся» из ниоткуда, они догадки/гипотезы/guesses, а дальше критика и логика делают своё дело, чтобы выжили сильнейшие наборы догадок/аксиом. Поэтому «австрийцы» уклончиво говорили всё время, что они избегают численных моделей, и модели их качественные, ибо в те времена, когда они работали, невозможно было обсуждать неклассические теории вероятности.

Экономисты-неоклассики (так называемый «экономический мейнстрим», ибо это большинство сегодня живущих экономистов) обходятся корреляциями и статистическими зависимостями, первый уровень causal ladder, они довольствуются предсказательными моделями, эмпирицизм в чистом виде. Это относится не только к экономистам (нормативным, которые на основе устаревшей теории принятия решений принимают плохо работающие законы в сфере экономики), но и к медикам (они принимают плохие решения по лечению людей и животных), социологам (плохие решения по поводу установления культурных норм поведения людей в группах), и так далее — везде, где опираются только на классическую статистику, игнорируя полную лестницу причинности, то есть опору на «аксиоматическую теорию»/контрфактуальные объяснения.

Если идти дальше по этой линии «объяснений причин и следствий в условиях неопределённости», то быстро попадаем в причинную теорию принятия решений^[17].

В причинной теории принятия решений вероятность нужна только для принятия решений агентом, она относится к описанию отношений между агентом и миром, а не существует в мире «объективно». Формулировки вероятности идут через контрафактуальность и возможные миры. Речь тут идёт об основополагающем «принципиальном принципе»/principal principle, который был предложен David Lewis для связи теории вероятности и теории принятии решений, краткая формула этого принципиального принципа — «человек/агент принимает решения на основе шансов».

И дальше два варианта рассуждения:

• Вероятности «объективны», они относятся к миру. Бог играет в кости. В мире есть принципиально случайные события, к которым неприложимы объяснения причин и следствий. Это классическая теория вероятностей, она базируется на эмпирицизме. Мы просто наблюдаем вероятности, которые есть в мире! Мир недетерминистичен, из какой-то ситуации есть несколько выходов, какой-то из них происходит случайно.
• Вероятности субъективны, они зависят от нашего взгляда на мир, наших догадок. Это субъективная теория вероятности. Бог не играет в кости, случая нет, из каждой ситуации есть единственный выход, он не случаен. Но есть непредсказуемость этих неслучайных событий, ибо агент не всеведущ.

В теориях, опирающихся на субъективные теории вероятностей (аксиоматически****е теории/объяснения, сформулированны****е контрфактически)****,случайности (недетерминистичность) исключаются из физики, и это не противоречит непредсказуемости мира**.** Даже в эксперименте с котом Шредингера его судьба предопределена (детерминизм в физике), но непредсказуема (агент принципиально не может узнать, какая она, не предприняв измерения результатов, включая открытие ящика).

Есть вариант Functional Decision Theory^[18] от Eliezer Yudkowsky и Nate Soares, этот вариант вводит контравозможное/counterpossible рассуждение/reasoning. и там тоже decision-theoretic agents, и ещё говорится про типы решений, а не только токены решений, у которых тип просто «решение». Она даётся как «Новая теория инструментальной рациональности». И там, конечно, тоже «рациональный агент». И инструментальный (в отличие от универсального/general) интеллект: skill at prediction, planning, and means-ends reasoning in general (в отличие от скорости решения широкого класса проблем и вменяемости, и других характеристик). И далее по этой линии уходим в обсуждение интеллекта как очень опасного инструмента, который выйдет из-под контроля людей и поставит их под контроль, принимая против них решения лучше, чем они против него. Грубо говоря, выиграет в теории игр. Ибо даже в ролевой игре в дочки-матери можно интересоваться, кто выиграл, а кто проиграл. Другое дело, что Functional Decision Theory как-то особо в мире не обсуждается, несмотря на все достоинства логических решений парадоксов.

Основная проблема всех этих классических и даже причинных теорий решений в том, что эксперименты над живыми людьми показывают, что люди вовсе не так рациональны, как требуют эти теории. То есть можно считать, что люди рациональны, но делают ошибки. Но при ближайшем рассмотрении оказывается, что сами теории тоже не слишком хороши. И есть теории, которые показывают результаты более похожие на те, что показывают в эксперименте люди.

По линии трактовки принципиального принципа, опирающегося на субъективную теорию вероятностей («вероятность нужна только для принятия решений, в природе/реальности вероятностей нет») есть два понимания:

• Субъективная вероятность — обычная байесовская вероятность причин-следствий. Она происходит согласно математике вероятности, предложенной аксиоматикой Андрея Колмогорова^[19], просто связана с принятием решений агентом, а не «объективна». Вероятность субъективна и байесовская (условная! Зависит от априорного знания агента!). Рациональный агент добавляет учёт последствий своих действий в выбор.
• Квантовоподобная вероятность причин-следствий (excess Bayesian), при этом в современной физике это основная линия рассуждений. Вполне возможна, и даже необходима трактовка принципиального принципа не только на основе субъективной теории вероятности, но и на основе квантовой природы мира, отражаемой в математике квантовой физики^[20].

Friston вводит агента в его телесном (emdodied/active) взаимодействии со средой и говорит об «ограниченной/bounded» рациональности как аппроксимировании байесовского обновления/update (последовательность этих updates — это inference), ибо совершенная/perfect рациональность физически невозможна, то есть вводит active inference^[21] как теорию принятия решений в 2013 году. По факту active inference даёт стандартный агентный язык и для психологии (классическая decision theory) и для экономики (expected utility), плюс обсуждается связка с поведением мозга в ходе принятия решений (neuronal correlates). Всё это идёт по линии обучения с подкреплением/reinforcement learning и пониманием награды за принятое правильно решение, так что обсуждаются ещё и политики/policies, оптимизации и много чего ещё. Но в 2021 году язык active inference поменялся и теперь это звучит как formal way of describing the behavior of certain kinds of random dynamical systems that have the appearance of sentience^[22]. То есть это динамические системы, у которых появляется разумность. Или в первом же абзаце текста так: active inference is a formal way of describing the behavior of self-organizing (random dynamical) systems that interface with the external world, such as humans in their environment, with latent representations that maintain a consistent form (i.e., a particular steady-state) over time. То есть речь идёт о людях как системах. Причинность не обсуждается, в тексте всё evidential, несмотря на учёт действий. Counterfactuals и possible worlds не рассматриваются, разговор идёт об измерениях, марковских моделях и переходах между состояниями. Но тут обучение, новизна и любопытство (exploration vs. exploitation). С другой стороны, причинность всё-таки учитывается через «активность» вывода, понимаемую как «телесность» (active/embodied inference, ибо речь идёт не только о моделировании и изменении тем самым моделей себя-агента и мира, но и изменении себя и мира, поэтому нужно исчисление интервенций в каком-то виде, do-calculus из лестницы причинности).

В active inference в части теории принятия решений важно, что есть ход на моделирование социальности через теорию режимов ожиданий (regimes of expectations, ROEs)^[23]. A ROE is a set of expectations about states of the world characteristic of a given cultural group. Individual agents acquire ROEs in ontogeny through the selective patterning of attention and salience, by leveraging shared expectations (often automatically and implicitly) to guide goal-directed behavior. Such practices lead agents to forage for information that is culturally marked as salient, which in turn resolves uncertainty about the world and underwrites the learning of context-specific expectations (e.g., preferences) that constitute a ROE. И там очень похожие рассуждения и про быстрые и медленные изменения в обучении, что делает Ванчурин в описании многоуровневой эволюции, и на ходы на меметическую эволюцию, которые делает Дойч, и даже на многоуровневую этику: The ROEs structures appraisals and automatic behavior upstream, via constraints on possible actions flagged by deontic cues in the generative process, and downstream, via policy selection within the generative model. Upstream constraints exist at the highest spatiotemporal scales of the architecture of expectations, in the sense that they are spatially extended (e.g., material setting vs. brain-based architectures), and change slowly, as they require the physical action of multiple agents (e.g., niche construction outcomes that emerge over hours and years vs. changes in neural connectivity that can change over milliseconds and seconds). This means that the higher levels of a ROE are more robust, as their physical implementation retains the traces of agents’ action over longer time scales. This allows for deontic cues encoded in the environment to be passed over generation via ecological and informational inheritance, and thereby allow the reproduction of attention, or epistemic foraging styles over ontogeny by shaping observations and states of the world encoded in an agent’s generative model. В этом месте разворачивается вполне традиционный системный подход, но вроде как без ярко выраженной причинности. И понятие «агента» оказывается то человеком (и там сразу нейрокорреляты), то даже agents, like the traffic officer, as well as non-human ‘agents’ like traffic lights.

Самое необычное тут, конечно, квантовоподобная/quantum-like/excess Bayesian теория принятия решений — и заключение, что кажущаяся «иррациональность» выбора «по Байесу» может оказаться просто «квантовоподобной рациональностью». Для байесовских вычислений может не хватить ресурсов (они медленны, это «вероятностная булева алгебра», и они просто откидывают в вычислении события, априорные вероятности в которых неизвестны, кроме того вероятностные алгебры в ходе квантовых вычислений оказываются принципиально несовместимыми («байес» — это просто вероятностная булева алгебра, поэтому если описания мира были выполнено разными агентами с разными субъективным оценками вероятностей, то формально логического вывода при совмещении высказываний из разных алгебр сделать нельзя). При переходе к квантовоподобной вероятности (из аксиом Колмогорова убираем одну, что рассказывается подробно в работах Андрея Хренникова^[24] и его научной группы) ограничение на совместный вывод/inference на данных, полученных с разными оценками вероятностей разными агентами, снимается.

Квантовоподобные вычисления используют дискретизацию, чтобы не считать непрерывные функции, при этом вычисление становится линейным и ускорение вычисления принимает экспоненциальный порядок, все биологические системы поэтому используют квантовоподобный вывод, а не классический байесовский и уж тем более не жёсткую булеву алгебру для своих вычислений. Кроме того, отход от булевской логики, зашитой в байесовый вывод делает результат вычисления «слегка резонирующим с неизвестным»^[25].

Идею квантования и ренормализации давайте перенесём на многомерное пространство понятий, типа тех, что используются в нейросетях — каждая буква, каждое слово, каждая фраза и т.д. представлены там каким-то многомерным вектором. Если воспринимать такие пространства непрерывными, то будет огромное число вычислений. Поэтому их квантуют/дискретизируют, это называют grid/решётка. И в точках этого пространства представляют что угодно — события, понятия, объекты. Обычно это всё лежит между теми точками самой решётки, которые мы отображаем символами (да, символические вычисления как раз про это), но как-то «резонирует» с узлами этой решётки, которые мы отслеживаем в наших вычислениях. Физики такую операцию дискретизации делают рекурсивно, называют это renormalization group^[26] (решётки внутри решёток внутри решёток). Но в принципе, все такие вычисления по дискретным представлениям чего-то непрерывного — они квантовоподобны, можно применять математику примерно ту, что в квантовой физике. И это экономит вычисления, вы вычисляете не всё, а только то, что находится в точках дискретизации. Бесконечность сводите к редким дискретам. Вычисления, требующие огромной вычислительной мощности для приближения к бесконечной точности, становятся линейными — а точность определяется точностью дискретизации («гонка мегапикселей» в фотоаппаратах ведь как раз про это, но начиная с какого-то момента «всё всех устраивает, разрешения больше не надо, слишком дорого и не нужно»).

Типичная статья последователей подхода Андрея Хренникова говорит о том, что классические теории психологии (большинство работ по теории решений основывается на том, что агенты — именно люди, и эти люди психологически склонны к тем или иным вариантам поведения, поэтому сразу отсылки к психологии как теории человеческого поведения) основываются на идее, что люди принимают решения с целью максимизировать «вознаграждения»/awards и минимизировать «наказания» - другими словами, чтобы их действия приводили к положительным результатам в большей степени, чем к отрицательным последствиям. Эта логика, известная как «обучение с подкреплением», соответствует павловскому обусловливанию^[27] в выработке условных рефлексов, когда люди учатся предсказывать последствия своих действий на основе прошлого опыта.

В работах по классическим «психологическим» вариантам теорий принятия решений часто используется «индивид»/individual (человек!) с обсуждением его internal state, и практически не задействуется понятие «агент». Переход к обсуждению агентов в неклассической, то есть квантовоподобной теории принятия решений труден, ибо разбирающиеся в математике для квантовой физики обычно дальше разбираются в самой квантовой физике (изучают поведение вещества на микроуровне, физические явления), до изучения других предметных областей с приложением квантовоподобной математики они почти не доходят.

По этой линии quantum cognition^[28] нужно иметь чёткую интерпретацию квантовой информации, это можно сделать по линии рассуждений, предложенной Deutsch, Wallace и Marletto, включая и то, что все они опираются как раз на теорию принятия решений/decision theory. В физике этого «принимающего решения» агента/constructor/IPU называют наблюдателем/observer, но когда переходят к обсуждению many-worlds interpretation^[29], то переходят на обычного «агента». Рациональность тут не обсуждается, ибо как раз объясняется, что вроде как «иррациональное» поведение оказывается вполне расчётливым и оптимальным, только формулы для расчёта берутся не классические, а с использованием математики квантовоподобности.

Всё это направление абсолютно новое (ручеёк работ потёк только лет 15 лет назад, до этого были отдельные работы с туманными догадками), тут пока никто ни о чём ещё не договорился в части терминологии, процедур расчёта. Но то, что квантовоподобные расчёты регулярно показывают предсказание результатов психологических и социологических экспериментов лучше, чем неквантовые — этого никто не отрицает, проблема только в трактовке «физического смысла» этих расчётов, задействующих понятия «многих миров» или «коллапса функций», заимствованные из квантовой физики и её философско-логических оснований.

Точно так же, как байесианство стало известно людям массово только после бума искусственных нейронных сетей для AI, ибо в текущем поколении лучших систем AI используется байесовская математика, так и квантовая (некоммутативная, минус одна аксиома из Колмогоровской классической вероятности) вероятность станет известна после бума квантовых компьютеров, это неизбежно. А с учётом того, что квантовая вероятность — это генерализация байесовской^[30], то можно ожидать примерно такой же революции в распространённой среди исследователей теорий принятия решений, как как с приходом Байесовской математики. Исследователи active inference уже совершили у себя такую революцию^[31].

В связи с неизбежным бумом квантового компьютинга и квантового обучения (например, квантового обучения с подкреплением/quantum reinforcement learning, ибо там ожидаются невероятные скорости и энергоэффективность по сравнению с классическими подходами) число разобравшихся в квантовой вероятности будет расти, хотя и не так быстро, как число разобравшихся с байесовской вероятностью в момент прихода моды на глубокие нейронные сети. Опять же, один из отцов современной версии искусственного интеллекта на нейронных сетях Yann LeCun не устаёт повторять, что бросил бы вероятности под автобус^[32], его больше привлекает free energy principle, основанный на физических теориях, ибо мозг людей работает не как «вычислитель по Байесу», и он физичен!

Все эти соображения про квантовоподобность в теории принятия решений стыкуются с квантовоподобными подходами к эволюции по линии Виталия Ванчурина со товарищи, а также Karl Friston, Chris Fields и Michael Levin со товарищами, которые рассматривают эволюционный процесс с неизбежными неустроенностями (разными состояниями, переходы между которыми легки, и все эти состояния примерно одинаково выгодны) на многих системных уровнях и многих масштабах времени как оптимизационный процесс, в том числе ведущий к непрерывному усложнению жизни. Математика эволюции-как-обучения оказывается квантовоподобной**, эволюционная и многоуровневая (системный подход!) рациональность оказывается квантовоподобной, численные значения всех вероятностей оказываются другими, нежели вычисляемыми в старой классической математике «по Байесу».** Байесианский вывод должен быть дополненным, **excessBayesianinference.Современные теории решений двигаются в их развитии от классических к** причинным-на-байесовских-сетях**, а далее** до контекстных причинных-на-квантовоподобных структурах (contextual probabilistic quantum-like-structures) по Хренникову.

---

1. https://mdpi.com/1099-4300/25/7/964 ↩︎

2. https://arxiv.org/abs/2212.01354 ↩︎

3. https://en.wikipedia.org/wiki/Extropianism ↩︎

4. https://en.wikipedia.org/wiki/Transhumanism ↩︎

5. https://en.wikipedia.org/wiki/Bioethics ↩︎

6. https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence ↩︎

7. https://www.tandfonline.com/doi/full/10.1080/21507740.2022.2048732?src=recsys ↩︎

8. https://www.oreilly.com/ideas/open-endedness-the-last-grand-challenge-youve-never-heard-of ↩︎

9. https://ailev.livejournal.com/1390574.html ↩︎

10. https://plato.stanford.edu/entries/decision-theory/ ↩︎

11. https://plato.stanford.edu/entries/decision-causal/ ↩︎

12. https://en.wikipedia.org/wiki/Superrationality ↩︎

13. Например, https://www.livescience.com/quantum-like-model-of-decision-making-proposed.html ↩︎

14. https://plato.stanford.edu/entries/decision-theory/ ↩︎

15. https://en.wikipedia.org/wiki/Praxeology ↩︎

16. https://en.wikipedia.org/wiki/Austrian_School ↩︎

17. https://plato.stanford.edu/entries/decision-causal/ ↩︎

18. https://arxiv.org/abs/1710.05060 ↩︎

19. https://en.wikipedia.org/wiki/Probability_axioms ↩︎

20. https://core.ac.uk/download/pdf/160114348.pdf ↩︎

21. https://www.frontiersin.org/articles/10.3389/fnhum.2013.00598/full ↩︎

22. https://arxiv.org/abs/2110.04074 ↩︎

23. https://www.frontiersin.org/articles/10.3389/fpsyg.2019.00679/full ↩︎

24. https://disk.yandex.ru/i/oVvfyvsbUfP46A ↩︎

25. https://www.sciencedirect.com/science/article/pii/S0303264720301994, там 8.4. Linearity of quantum representation: exponential speed up for biological functioning и ещё в https://www.frontiersin.org/articles/10.3389/fnbot.2022.910161/full. ↩︎

26. https://en.wikipedia.org/wiki/Renormalization_group ↩︎

27. https://ru.wikipedia.org/wiki/Классическое_обусловливание ↩︎

28. https://en.wikipedia.org/wiki/Quantum_cognition ↩︎

29. см. раздел decision theory в https://en.wikipedia.org/wiki/Many-worlds_interpretation ↩︎

30. https://arxiv.org/abs/1508.00936, https://journals.aps.org/pra/abstract/10.1103/PhysRevA.94.042106 ↩︎

31. https://arxiv.org/abs/2112.15242, https://arxiv.org/abs/2201.00921 ↩︎

32. https://medium.com/intuitionmachine/why-probability-theory-should-be-thrown-under-the-bus-36e5d69a34c9 ↩︎