Сознательный присмотр за вниманием
«Cобраться» обычно означает поставить своё внимание под присмотр/governance сознания, хотя надо признать, что внимание может управляться и мимо сознания: внимание беседующего по телефону водителя разделено между разговором и дорогой — но вполне может быть, что управление автомобилем идёт «на автомате», пока не возникает какой-то предаварийной ситуации, пока сознание удерживает внимание на разговоре и не обращает внимание на дорожную обстановку. Но легко представить себе какую-то ситуацию «разговора во сне», где разговор идёт, внимания агента хватает поддерживать его тему и не очень отвлекаться, отвечать на вопросы — но осознанности в разговоре нет никакой. Это обычная ситуация для присмотра/governance: когда всё хорошо, то и хорошо, а когда не очень хорошо — включается жёсткий механизм исправления ситуации: «Я» осознанно разбирается с вниманием.
Вопрос о том, что же такое «сознание» тут сложный, связанных с «сознанием» теорий множество. Мы говорим о «сознании» как характеристике «Я», это умение думать о том, как ощущается это существование «Я» изнутри тела, думать о том, как управлять своим телом, думать о том, как принимать решения — а не делать это всё автоматически, без размышлений. Конечно, тут довольно много степеней осознанности как характеристики «Я», это тоже «спектр», а не «вот эти агенты обладают сознанием, а вот эти нет, а вот эти спят — следовательно сейчас не обладают сознанием, но будут им обладать, когда проснутся».
Важнейшая характеристика сознания — это не просто моделирование каких-то вероятностей, связанных с прошлыми и текущими (могли ведь что-то неверно воспринять, «показалось», или просто не знать чего-то) и будущими (будущее не так-то просто предсказать) событиями, но оценка уверенности в этой вероятности: возможность иметь модели для работы с моделями мира и себя (работы с собственными убеждениями). И речь необязательно о рефлексии (рефлексия — это взгляд на происходящее «назад во времени», оценка того, что уже прошло, «разбор полётов»), речь об осознанности происходящего в том числе «здесь и сейчас» и осознанности о том, что и как мы думаем о возможности каких-то событий в будущем. Главное, что сознание работает не просто с суждениями о мире, но с убеждениями/beliefs: вместо суждения «земля плоская» делается суждение «я верю, что Земля плоская, и никакие объяснения со стороны науки меня не убедят, я буду им противиться, уж сколько смогу, игнорировать логику и аргументы, полагаться на ощущение правды, рассуждать сердцем» или «я верю, что Земля плоская, но готов поменять эту веру, если мне дать какие-то аргументы в пользу других объяснений того, какая Земля». При осознанности в рассуждениях/суждениях о мире начинает участвовать рассуждение/суждение и о себе, рассуждающем о мире: кроме вычислений по модели мира ещё есть и вычисления по модели моделей мира.
Одна из важнейших характеристик сознания — это вменяемость/persuadability, насколько просто поменять поведение какой-то системы. Если это часы, то надо физически изменить конструкцию. Если кошка, то можно задействовать её мозг: выработать условный рефлекс, перепрограммировать (и это будет «мимо сознания», автоматическая реакция, «рефлекс»). Если это существо с высоким уровнем сознания, например, человек, то можно просто сообщить какую-то мысль — и поведение будет поменяно, например, вместо одной теории будет принята в качестве основы действия другая теория: вместо теории «очевидно плоской Земли», базирующейся на личном опыте агента, будет взята на вооружение теория «очевидно шарообразной Земли» — и это будет сделано агентом осознанно. Вот такой подход позволяет не слишком разбираться, каково это — менять собственные убеждения.
Дальше можно разбираться в том, как агенты моделируют сознание других агентов, ибо для совместных действий агентов им нужно уметь отмоделировать друг друга, чтобы предсказать их действия. Это приводит нас к «теории ума»/theory of mind[1]: теории, которая обсуждает то, как агенты (прежде всего люди) понимают, что и как чувствуют другие агенты (прежде всего люди), включая те самые убеждения/beliefs по поводу используемых ими моделей/теорий мира и себя. Дети у людей рождаются, не демонстрируя никаких подобных свойств моделирования других людей, но по мере взросления всё больше и больше могут сопоставить то, что происходит с ними (их личный субъективный опыт) с субъективным опытом, переживаемым другими людьми, могут «влезть в шкуру» собеседника. Как раз сейчас очень интересный момент: большие языковые модели, которые начали использоваться с 2017 года (изобретение архитектуры Transformer в области нейронных сетей) до 2022 года показывали нулевые способности компьютеров отмоделировать субъективный опыт других людей (включая моделирование их убеждений/теорий о том, какие теории предпочтительны в использовании их как основы для действия), но в январе 2022 года эти языковые модели показали на примере GPT-3, что они проходят тесты теории ума на уровне семилетнего ребёнка, а в ноябре 2022 года GPT-3.5 — на уровне девятилетнего ребёнка[2].
В любом случае, необходимо уметь:
- Осознавать, на какие объекты направлено сейчас твоё внимание, куда и как дрейфует это внимание. Мало осознавать, надо ещё уметь и исправить ситуацию! И делать это в ситуациях, когда часть внимания обеспечивается работой кортекса (живого мозга), а часть внимания обеспечивается экзокортексом (это тоже надо осознавать, с этим как-то работать! В том числе обращать внимание живого мозга на экзокортекс, чтобы сработать как-то с объединённым вниманием).
- Осознавать, почему твоё внимание выбрало эти объекты (какими моделями мира оно руководствовалось, чтобы объявить эти объекты внимания важными). Это не так просто. Помним про вменяемость/persuadability[3]: эта характеристика агента у людей с их аппаратурой мозга самая высокая на сегодняшний день изо всех видов агентов (хотя prompt engineering для LLM вроде GPT-4 показывает, что тут возможно уже какое-то обсуждение и нечеловеческой вменяемости высокого уровня). После рождения человека с «чистым мозгом» каким-то образом происходит «запудривание мозгов» самыми разными знаниями (например, что в мире есть Деды Морозы в их самой разной форме — происхождение этой веры дети не могут отследить, боги из различных мировых религий прошлого и настоящего тоже относятся к этой категории, почему уверуют в бога не обсуждается, психотехники изменённых состояний сознания и как они связаны с распространённой вокруг уверовавшего агента верой других агентов не обсуждаются), но в какой-то момент убеждения в верности этих теорий исчезают (взрослые люди перестают верить в Дедов Морозов, а также в других персонажей легенд, например, богов), то есть происходит «промывка мозгов» — сам человек себе промыл мозги, или кто-то ему промыл мозги, не имеет тут значения. Главное тут: признавать, что в любой момент «мозги запудрены» (в момент рождения они чисты, а далее нейронная сетка как-то прихватывает убеждения, в том числе несознательно), признавать возможность и важность «промывки мозгов» (сознательного отказа от каких-то важных ранее убеждений, если они признаются неадекватными) и важность «запудривания мозгов» новыми теориями. Умение задавать себе вопросы «откуда я это знаю?», «почему я это делаю?», «что сейчас происходит, как я в этом оказался?», «почему я принял такое решение, какие были аргументы?» — важнейшее умение человека. И это должно быть не только в ходе «рефлексии» после мышления и действия, это должно быть в том числе во время мышления и действия, надо мыслить и действовать осознанно. Пример с богами тут выбран сознательно: по поводу многих теорий люди имеют довольно крепкие предубеждения и надо уметь рационально мыслить как раз в условиях таких сильных предубеждений, вызывающих сильный эмоциональный отклик: не терять осознанности, не допускать полной автоматичности ответов по таким поводам, уметь заметить свои убеждения, понимать их происхождение, понимать их преходящесть, понимать их связь с сильными эмоциями.
- Уметь себя нейролингвистически перепрограммировать, удерживая этот процесс в сознании, не терять осознанности: если я понял, что Деда Мороза не существует, следует пересмотреть и другие связанные с этим убеждения. Образно говоря, надо уметь не только понять, что «мозги всегда как-то запудрены» и отследить это, но и уметь как «промыть себе мозги», так и «запудрить себе мозги». Надо чётко понимать, как работает человеческая нейронная сетка, а также как работает в этом плане AI, как работает объединённая эко-система агентов (какое-то сообщество людей, поддерживающих убеждения друг друга, например, секта, или компания с её корпоративной культурой) уметь об этом думать, принимать по этому поводу решения, уметь это делать по своей воле — по итогам размышления.