Логические рассуждения вероятностны
Современная логика включает в себя работу с вероятностными утверждениями, даёт средства для вычисления степени уверенности в выводе рассуждений, сделанных в условиях неопределённости. Строгая математическая логика оказывается просто частным случаем вероятностной (байесовской) логики! Этот революционный поворот в логике науки произошёл совсем недавно — по факту уже в 21 веке. Он отражён в работах E.T.Jaynes[1], плохо доступных широкой публике, ибо это работы для математиков, занимающихся теорией вероятности. Это байесовская вероятность (а не «фишеровская» частотная вероятность, так её называют по имени одного из наиболее выдающихся статистиков прошлого, Рональда Фишера[2]), а традиционная логика дискретной «истины-лжи» — это просто частный предельный случай байесовской логики, где уверенность в выводе обновляется при появлении каждого нового аргумента (аргументы ничего не «доказывают» абсолютно, ибо в любом аргументе может быть незамеченная ошибка!). Так что правила правильных рассуждений — это правила байесовского вероятностного логического вывода. Логика оказывается не игрой между символьными дискретными значениями «истина» и «ложь». Логические выражения вычисляются наподобие физических вычислений с непрерывными значениями[3].
Это очень контринтуитивно: вероятностные ответы теперь принято считать не самими по себе существующими, а зависящими друг от друга. Если известно, что динозавры вымерли, то вероятность встретить динозавра в мире сегодняшнего дня практически 0% (но не точно ноль!). И действовать нужно, исходя из того, что динозавров мы не встретим. Если известно, что множество экспериментов показало отсутствие потусторонних влияний на наш мир, то одно чудо только чуть-чуть сдвигает вероятность обнаружения бога, и нужно действовать, как если бы бога не было. «Экстраординарное заявление требует экстраординарных доказательств» — это получило количественное выражение, это теперь можно вычислять. Современный машинный интеллект использует вот эти логические вероятностные вычисления 21 века, а не строгие логические символьные вычисления 20 века.
Так что всем изучавшим статистику и научное мышление в 20 веке можно с уверенностью сказать, чтобы они выкинули на помойку свои знания. Кризис воспроизводимости в науке вполне объясняется массовой неграмотностью среди учёных: они не заметили этой революции в логике и научном мышлении[4]. Это всё равно как если бы физики не заметили прихода термодинамики вместо теории флогистона, квантовой механики, теории относительности. Дело осложняется тем, что речь идёт отнюдь не только о физике, речь идёт практически о всей науке, инженерии, менеджменте, предпринимательстве, медицине и всём остальном — логичность мышления, его адекватность (соотнесение с физическим миром, не-фантазийность) как раз и обеспечиваются логикой. Эта логика вероятностна, байесова.
Но ведь и байесова логика тут не последний шаг! Квантовоподобная логика использует тот факт, что с вероятностями из двух разных распределений нельзя проводить операции, они из разных алгебр! Для устранения этой проблемы невозможности вести общий вывод на множестве онтологий приходится из аксиом исчисления вероятностей, предложенных Колмогоровым убирать одну из аксиом — и после этого оказывается, что расчёт этих вероятностей становится квантовоподобным. «Квантовоподобный» — это не «истинно квантовый» (на квантовых эффектах из физики), но математика квантовоподобности берётся из квантовой физики так же, как математика дифференциального и интегрального исчислений была взята из механики. Это подробно изучается в работах Андрея Хренникова[5] и его коллег из лаборатории International Center for Mathematical Modeling[6] в Linnaeus University. Логика не прекращает развиваться, хотя разные способы inference уже не всегда считают именно логикой — но выбор лучшего способа «логического вывода»/inference как раз и есть предмет логики!
Современный человек должен быть знаком с логикой, знаком с вероятностной и даже квантовоподобной природой логики, компьютерной поддержкой логики, должен уметь проводить логические рассуждения в естественном языке и учитывать неопределённость, уметь моделировать/записывать эти рассуждения в виде структуры из взаимоувязанных аргументов.
Увы, учат логичности мысли сегодня только косвенно, и уж тем более учат совсем уж косвенно логическим основаниям рационального мышления[7]. Логике полноценно в ходе обучения математике и физике не выучишь, если не обращать внимания на сам предмет логики! Логическим основаниям рационального мышления нужно учить:
- Н****епосредственно, то есть давая навыки логических рассуждений не по ходу рассуждений в других предметах, а прямо занимаясь постановкой логических оснований мышления, в том числе 1. изучением учебников, 2. решением задач, 3. работой в конкретных жизненных проектах.
- В****ыводить эти навыки на уровень осознания, моделировать «рассуждения по правилам», а не оставлять их выученными «исподволь». Это даёт возможность рассуждать по поводу логических оснований мышления — проводить рефлексию своей логичности, исправлять ошибки и развивать мышление[8].
- З****адействовать моделеры и программное обеспечение для логического вывода и формального булевского, и вероятностного байесовского, и дополненного байесовского (квантовоподобного).
Логическое мышление, следование правилам логики, формулирование аргументов и их проверка весьма энергозатратно, если задействовать медленное точное мышление S2. Учиться логике нужно именно для того, чтобы логическое мышление было в какой-то мере автоматично, проходило с минимальным числом искажений, вносимых «быстрым» интуитивным мышлением (S1 по Канеману), чтобы оно было тоже быстрым и лёгким. Это тренируемо, и современные исследования показывают, что в достаточной степени[9].
Основная проблема в обучении логике — это проблема «А чо такова?»[10]. Суть проблемы в том, что если указываешь на отсутствие логического мышления — то это не признаётся проблемой. Совершенно непонятно, как человеку объяснить, что он мыслит нелогично — он ведь нелогичен, поэтому аргументы для него просто пустой звук! «Два плюс два у тебя пять, это неправильно» — и в ответ: «А чо такова?!», при этом аргументы искренне не понимаются, кошка ведь тоже аргументы не понимает, она невменяема! Даже взрослые люди часто оказываются недоученными и не понимают рациональных объяснений — слабый интеллект включает только S1 по Канеману, «интуитивное мышление нейросетки» без подключения эмулируемого этой нейросеткой медленного логического вычислителя S2. Нейросетка — это универсальный алгоритм, универсальный аппроксиматор, она может бесконечно точно аппроксимировать при достаточных ресурсах (память и время) любой тип логики, хотя это может быть даже при достаточных ресурсах за пределами возможностей (например, «вот это вычисление можно сделать за 6 тысяч лет, будем начинать?»).
Если у человека в голове нет логики, нет понимания, как ему управляться с доступным ему (в отличие от кошки) режимом вычислений S2, нет понимания того, зачем логика нужна (и нет понимания онтологии, ибо логический вывод делается над какими-то мыслительными объектами, и нет семантики, ибо связь мыслительных/математических объектов, объектов физического мира и знаков, их обозначающих — это всё семантика, и понимания, что речь идёт не о знаках, а о понятиях — то есть нет в голове понимания теории понятий, и т.д.), то человек оказывается слабо вменяемым. Невменяемых агентов нельзя учить быстро! Поэтому невменяемых людей нужно:
- сначала дрессировать как кошку, но эту дрессировку посвящать освоению лучших практик умности, то есть дрессировать на мышление по практикам интеллект-стека
- когда получаем надрессированного хоть на какой-то уровень вменяемости человека (это медленно и трудоёмко!), то начинаем учить его рациональными объяснениями. Это быстро и просто.
- но не забываем, что по мере роста вменяемости надо возвращаться к «надрессированному» и давать рациональное объяснение этому «надрессированному»! Мало быть интуитивно логичным, надо быть осознанно логичным. Можно ввести понятие learning debt как раз для того, чтобы показать отсутствие понимания того, что ты умеешь делать после дрессировки (включая дрессировку «обезьянниченьем», через зеркальные нейроны)[11]. А не понимаешь — не можешь рационально изменить, улучшить, научить кого-то ещё[12].
E.T.Jaynes, «Probability theory: the logic of science», 2003, https://b-ok.cc/book/539703/d8b66c ↩︎
E.T.Jaynes, «… if degrees of plausibility are represented by real numbers, then there is a uniquely determined set of quantitative rules for conducting inference. That is, any other rules whose results conflict with them will necessarily violate an elementary and nearly inescapable desideratum of rationality or consistency. But the final result was just the standard rules of probability theory, given already by Bernoulli and Laplace; so why all the fuss? The important new feature was that these rules were now seen as uniquely valid principles of logic in general, making no reference to «chance» or «random variables"; so their range of application is vastly greater than had been supposed in the conventional probability theory that was developed in the early twentieth Century . As a result, the imaginary distinction between «probability theory» and «statistical inference» disappears, and the field achieves not only logical unity and simplicity, but far greater technical power and flexibility in applications». ↩︎
«Правдоподобия, P-значения и кризис воспроизводимости»: https://habr.com/ru/post/430190/ ↩︎
https://scholar.google.com/citations?hl=en&user=wdhkzPMAAAAJ&view_op=list_works&sortby=pubdate ↩︎
https://lnu.se/en/research/research-groups/international-center-for-mathematical-modeling/ ↩︎
«за пределами STEM-образования», http://ailev.livejournal.com/1283663.html ↩︎
«пониманию учить вдвое дольше, чем просто навыку», http://ailev.livejournal.com/1285014.html ↩︎
https://digest.bps.org.uk/2016/11/09/contra-kahneman-your-minds-fast-and-intuitive-system-one-is-capable-of-logic/ ↩︎
«Осознанность против зеркальных нейронов», https://ailev.livejournal.com/1284158.html ↩︎
«Пониманию учить вдвое дольше, чем навыку», https://ailev.livejournal.com/1285014.html ↩︎