Что такое внимание агента

Внимание является центральным понятием собранности. Внимание агента – это механизм, который позволяет агенту выделять как единичные объекты (или группы объектов) из фона, так и сам фон, приоритизировать информацию о выделенном и обрабатывать ее в приоритетном порядке. Например, в ходе разговора вы будете выделять из фона как вашего собеседника, так и его речь, будете концентрироваться на ней вместо того, чтобы прислушиваться к звукам стройки за окном. Глядя на то, как Вася стучит, вы в зависимости от того, что вам в данный момент нужно или что привлекло ваше внимание, будете видеть в нем баристу, готовящего кофе и применяющего метод простукивания молочной пены, либо Васю – сотрудника кафе, выполняющего работу за определенное время. В зависимости от того, как вы видите поведение Васи, вы будете далее принимать решение, о чем его спросить: например, у баристы вы можете спросить, что он будет делать после простукивания, а у Васи – когда будет готов кофе и как быстро он научился стучать нужным методом.

Обработанная информация используется для получения представлений о мире (реалистичных и не очень), а представления соединяются в модели, которые помогают принять решения о рациональных действиях. О чем имеет смысл разговаривать с Васей-агентом, а о чем лучше поговорить с Васей-баристой? Если нужно организовать встречу, что важнее – доделать текущие задачи и затем переключиться на работы по методам организации встреч – или встреча настолько важна и приоритетна, что надо бросить все и заниматься ею? На танцевальной вечеринке возникли проблемы: колонки отказали и музыки нет, а еще участники стали ссориться – какую из проблем надо решать первой? Внимание поможет выбрать нужные объекты, на которых надо сконцентрироваться в первую очередь – или, напротив, помешает увидеть нужное, если есть проблемы с собранностью.

Физически внимание реализовано нейронными сетями мозга/белкового вычислителя (если говорим о людях) и электронного вычислителя (если говорим об ИИ). Электронные и белковые вычислители немного отличаются по своему устройству. Так, в электронных вычислителях информация передается при помощи лишь одного типа сигналов – электрического, а сам сигнал может принимать лишь дискретные значения: 0 или 1 (верно для большинства вычислителей). Также электронные вычислители задействуют для обработки и хранения информации центральные процессоры и отдельные хранилища памяти, а их энергопотребление достигает 20-40 МВт для топовых суперкомпьютеров^[1].

Белковые вычислители сложнее, информация в них передается при помощи как электрических, так и химических сигналов, а значения сигнала меняются непрерывно на промежутке [0, 1]. Белковые вычислители не имеют «центрального процессора», вычисления в них распределены в сети нейронов. Хранение информации происходит в тех же нейронных сетях и нервных клетках, которые обрабатывали ее, а не в специальных хранилищах^[2]. Кроме того, белковые вычислители куда более энергоэффективны: считается, что они потребляют примерно 20 Ватт энергии^[3] – в миллион раз меньше суперкомпьютеров.

Но есть у электронных и белковых вычислителей и общее. Оба типа вычислителей обрабатывают информацию за счет нейронных сетей, передающих сигналы по цепочкам (хотя конкретная физическая реализация отличается). Оба типа вычислителей способны проводить параллельные вычисления (хотя есть и существенные различия в том, какие именно вычисления могут идти параллельно). Оба типа вычислителей способны к обучению (хотя скорость обучения и дообучения у них существенно различается). То есть, в работе обоих типов вычислителей много общего.

Нейронных сетей, при помощи которых физически реализовано внимание в белковых и электронных вычислителях, достаточно много, и детально изучать их устройство для того, чтобы работать рационально, не обязательно. Вы можете самостоятельно исследовать этот вопрос, если вам будет любопытно. Мы больше сосредоточимся на функциональном рассмотрении внимания.

Внимание агента выполняет следующие функции:

• Выбор объектов и фонов для принятия решений о действиях и приоритизация информации о выбранном/выделенном как важное;
• Отсекание/ослабление информации о прочих объектах и фонах (фильтрация информации об объектах на всех стадиях ее получения и обработки);
• Мобилизация и распределение ресурсов для выполнения нужных работ;
• Присмотр за работой / контроль выполнения работ в физическом мире (функция, ранее приписываемая сознанию);
• Интеграция представлений и моделей, объединение их в картины мира (функция, ранее приписываемая сознанию).

Внимание направляет наш выбор еще до того, как мы начали принимать решение и тем более выполнять работу. Это – центральная идея книги Роберта Чалдини «Психология согласия»^[4]. В качестве эксперимента агент выступал в роли хироманта и предлагал описать характер человека по руке. Начиная описывать, он давал последовательно противоречащие друг другу характеристики: «вы человек упрямый», а затем, через время – «вы человек гибкий». И участник гадания соглашался в обоих случаях! Все потому, что Чалдини как психолог направил внимание участника гадания определенным образом: сначала он сфокусировал его на одной характеристике – «упрямство» – и подождал, пока участник не найдет в памяти примеры того, как он проявлял упрямство под давлением. Затем он дал участнику немного времени забыть, о чем он размышлял, и перенаправил его внимание на другую характеристику – «гибкость». И забывший сказанное несколько минут назад участник начал искать в памяти подтверждение того, что он гибкий человек.

Причины, по которым Чалдини удалось убедить человека согласиться с противоречивыми характеристиками:

• Внимание участника вообще не удержалось на сборке/интеграции целостного описания собственного характера по рассказу лже-хироманта. Участник воспринимал сказанное отрывочно, не связывал воедино тезисы. Если бы его внимание удержалось на получении целостного непротиворечивого описания, то у участника возник бы как минимум дребезг или даже сомнение, что описание качественное (то есть, сигнал о том, что могут быть проблемы, надо остановиться и поискать их). Возможные причины:

• Объем внимания, работающего в моменте, оказался недостаточным;
• Объем внимания был достаточен, но участник даже не подумал о том, что нужно собирать описание воедино.

• Внимание участника не удержалось на контроле типов и поиске противоречий, а также их возможных причин. То есть, работа с создаваемым на ходу описанием лже-хироманта не велась рационально. Возможные причины:

• участник в принципе не владеет методами рациональной работы – ему не на чем удерживать внимание, он не знает, чего не знает;
• участник немного владеет методами рациональной работы, например, умеет хотя бы проводить онтологическую работу (контролирует типы в устной и письменной речи, своей и чужой), но внимание не удерживается: навыка/автоматизма в применении методов еще нет (значит, нужно прикладывать дополнительные усилия), а контекст, то есть ситуация, в которой происходила работа с описанием, не была достаточно важна (зачем прикладывать дополнительные усилия на вечеринке).

• В ситуации, когда остальное не сработало, на помощь пришло быстрое неточное мышление, которое, как вы уже знаете, склонно додумывать удобным для агента способом. Оно и сработало на «отлично»: обработало каждый тезис по отдельности (напомним, на сборку целого описания внимания не хватило) и каждому поискало подтверждение в памяти (психологи называют это «стратегией позитивного тестирования» – решая, верно ли некоторое утверждение, мы ищем не опровержения и промахи, как надо бы, а ее подтверждения). На выходе мы получили согласие с противоположными характеристиками. Внимание направило участника по ложному пути!

Неправильный выбор объектов для концентрации/фокусировки собьет с толку. Зато правильный даст эффективность в работе: вы мобилизуете и направите ресурсы туда, где они больше всего нужны. Ключевая идея теории ограничений версии Голдратта и современных, пост-голдраттовских версий, именно в этом: на предприятии всегда много объектов, требующих внимания управленцев/менеджеров, но чтобы ускорить выпуск продукции, вам не нужно улучшать методы работы с каждым из них. Достаточно найти ограничение (или даже разные типы ограничения на предприятии) и сфокусироваться на повышении эффективности их работы – и вы сможете совершить рывок, изменить текущую величину ускорения выпуска продукции (а значит, и скорости получения денег компанией, так как продукция меняется на деньги). Важного не бывает много, мы должны тщательно выбрать точку приложения усилий, отсечь все остальное (пометить информацию об остальных объектах как менее важную и реагировать соответственно). Тогда при помощи выделенных/мобилизованных на работу ресурсов вы сможете быстро решить проблемы, мешающие ускорить выпуск, проконтролировать, что работы выполнены верно, а также верно определены ограничения и связь скорости их работы со скоростью выпуска. По итогам улучшений в работе предприятия добавится/интегрируется новая информация в ваши модели принятия решений и наборы таких моделей (картины мира).

Польза от выполнения вниманием описанных выше функций в том, что агент способен улучшить результаты выполнения любой работы в любой предметной области за счет повышения скорости работы, то есть, дает неспецифическое/не завязанное на конкретную предметную область повышение результативности. Примерно так же работает, например, иммунитет: универсальный/врожденный/неспецифический иммунитет обеспечивает скорость реакции и быстро начинает подавлять проникший в организм вирус, а приобретенный/специфический обеспечивает точность реакции, распознает тип вируса и вырабатывает антитела, которые подходят для уничтожения вируса данного типа. Точно так же внимание дает скорость в работе, а моделирование и установление причинно-следственной цепочки – точность, рациональный выбор того, над чем работать.

Внимание существует не само по себе – оно принадлежит агенту, то есть, отдельно взятой личности, команде, коллективу, сообществу, и должно обеспечивать скорость работы именно этого агента. Поэтому внимание направляется субъективно, точка зрения/рассмотрение или способ описания/viewpoint, который будет выбран в конкретной ситуации, зависит от агента. Например, если вы смотрите на группу танцующих на вечеринке и вы преподаватель танцев, то вы увидите танцоров, чьи методы танца вы можете захотеть обсудить. Если вы работаете врачом, то вы можете автоматически направить внимание на поиск хромающих людей или тех, кто морщится после падения, и в этот момент вы будете смотреть на танцующих агентов не как на танцоров, а как на потенциальных пациентов, которым может потребоваться ваш осмотр. Если вы организатор вечеринки и беспокоитесь о том, чтобы все поместились на танцполе (пришло неожиданно много людей!), то вы захотите пересчитать людей на танцполе, чтобы принять решение: пускать ли опоздавших. Когда вы считаете, вы не будете смотреть на них ни как на танцоров, ни как на пациентов, а вас они будут интересовать как физические объекты, занимающие место в пространстве-времени. И если преподаватель танцев, врач и организатор попытаются поговорить друг с другом о том, что интересно каждому из них, то они буквально будут говорить на разных языках: врач будет общаться на языке медицины, преподаватель – на языке танцевальных школ, а организатор – на языке менеджмента. И если они этого не замечают, а заметив, не начинают договариваться, что сейчас важнее обсудить и с какой точки зрения, у них мало шансов договориться. В компаниях будет происходить то же самое. Как тут не вспомнить историю о Вавилонской башне!

У внимания есть определенные свойства. К ним относят:

• Устойчивость или бесперебойность,
• Концентрацию (и деконцентрацию),
• Распределение внимания,
• Переключаемость,
• Объем,
• Отвлекаемость,
• Рассеянность.

Устойчивость или бесперебойность внимания – это способность какое-то время сосредотачиваться на одном объекте, то есть, удерживать внимание на объекте на протяжении выбранного периода времени. Если ваше внимание «прилипает» к объекту и не переводятся куда-то еще до завершения дела, как происходит, например, в состоянии потока, то ваше внимание можно назвать устойчивым или бесперебойным. Внимание участника гадания к описанию «хироманта» не было устойчивым, поэтому он не смог распознать противоречия в данных ему характеристиках.

Бесперебойность – необходимое условие для рациональной работы: создание сложных рабочих продуктов, например, исследований рынка, требует продолжительного удержания внимания. В длительных проектах внимание должно удержаться на ключевых объектах (альфах) проекта вплоть до его завершения. Обеспечивать устойчивое удержание внимания нужно на разных временных масштабах, что не так-то просто. Как это сделать, обсудим в разделе «Удержание внимания».

Концентрация**/фокусировка** определяет интенсивность, степень сосредоточенности внимания на небольшом числе объектов, выделенных из фона. Как правило, когда говорят о концентрации, подразумевают, что человек глубоко сосредотачивается на объектах. Об этом еще иногда говорят как о «глубокой работе»/Deep Work. Концентрация используется обычно для решения проблем или задач, когда уже ясно, какие объекты важны, какие операции с ними проводить. Например, когда вы во время бега концентрируетесь на том, как правильно дышать или держать руки, или уделяете много внимания описанию ролей в проекте.

О деконцентрации/поиске говорят, когда есть необходимость концентрироваться не на отдельных объектах или даже группах объектов и операциях с ними, а на фоне целиком с целью найти противоречия. То есть это такая специальная концентрация на общей картинке вместо частностей. Деконцентрацию выделяют отдельно, поскольку она позволяет осуществлять поиск проблем (и важных объектов) в фоне для ее решения. Например, вы понимаете, что в проекте что-то идет не так, но пока не можете понять, в чем причина. Тогда вы смотрите на ключевые дашборды по проекту, проверяете состояния ключевых альф, чтобы заметить какую-то аномалию или несоответствие – и когда обнаруживаете проблему, можете концентрироваться на ее решении. Для запуска деконцентрации можно задавать себе вопросы: «на чем мне надо перестать фокусироваться? Чего я не вижу? Как можно отдалить/zoom out камеры внимания так, чтобы охватить ими картинку/фон целиком?».

Распределение внимания – это способность агента выполнять разные работы по разным методами одновременно, основанная на возможности вычислителя проводить параллельные вычисления. Хорошо распределять внимание на разные работы одновременно умеют электронные вычислители. Например, в основе архитектуры операционных систем лежит многозадачность: благодаря ей мы можем пользоваться разными программами одновременно без зависаний и тормозов. Нейросети могут обучать применять метод Multi-Task Learning^[5], чтобы одновременно выполнять несколько разных работ, задействуя общий слой для принятия решений. У людей с их белковыми вычислителями подобная многозадачность на одновременных работах по разным интеллектуальным методам не работает – мы фокусируемся на важном иначе. Распределяем мы внимание по-другому: мы можем параллельно вести телесную работу, выполняемую на автомате, например, мыть посуду, и обдумывать, что сказать на встрече (выполнять интеллектуальную работу). Особенности распределения внимания подробно рассказываются в разделах «Работа внимания» и «Фокусироваться на важном».

Распределение внимания тесно связано с переключаемостью, то есть способностью сознательно**/с активно работающим вниманием** перевести внимание с одних объектов на другие. Не отвлечься на внешний раздражитель, а именно сознательно перевести: например, вы заканчиваете работу по контролю работ сотрудников и переключаетесь на кофе-паузу. Благодаря переключаемости вы не залипаете на уже сделанном успешно, а можете пойти работать дальше, по другим методам (и над другими проектами). Если вы хотите работать рационально, переключаться тоже надо не случайным образом. Подробнее об этом в разделе «Фокусироваться на важном».

Количество объектов, которые мы можем удерживать во внимании одновременно без потери качества удержания, называется объемом. У людей как биологических организмов с белковым вычислителем (а не агентов с экзокортексом) объем внимания ограничен: у взрослого человека он составляет 6+/-2 объекта, если они простые, и примерно 3+/-1, если они сложные. Например, мы можем одновременно сравнивать 6 ноутбуков, обращая внимания на их характеристики. Если же речь о сложных многосоставных объектах, например, проектах, то качественно вести больше 3 одновременно получается редко: какой-то проект будет недополучать внимание управленцев и будет вестись «по остаточному принципу». Если же от человека требуется работать сложным непривычным способом/методом, например, проводить онтологическую работу и проверить присвоение типов в готовом рабочем продукте (онтологическая проверка перед сдачей), то его объем внимания может сжиматься настолько, что не удерживаются одновременно два объекта, как в случае участника гадания на вечеринке. Увеличить объем биологического внимания человеку помогает экзокортекс: он выполняет для человека функцию «хранения информации об объектах и состояниях», выступая внешней памятью. В работе это очень полезно: можно удержать внимание одновременно на куда большем числе объектов, биологическое ограничение снимается. Поэтому экзокортекс (а также экзотело) мы включаем в состав работающего агента.

Когда мы непроизвольно перемещаем камеры внимания на новые объекты, не планируя этого, это означает, что мы отвлеклись. Отвлечения есть у людей, говорить об отвлечениях у ИИ некорректно. Отвлекаемость может быть внешней и внутренней. Внешняя возникает из-за действия посторонних раздражителей вокруг. Например, когда сотрудник на работе дергает вас по каждому вопросу, вы не можете сосредоточиться на составлении отчета и постоянно отвлекаетесь. Или вокруг шумно, вы отвлекаетесь на шум и выполняете рабочую задачу несколько часов вместо получаса. Внутренняя отвлекаемость – результат сильных переживаний, эмоций, отсутствия интереса и/или ответственности за работу. Например, когда вы прокручиваете в голове разговор с начальником, что отвлекает вас от концентрации на текущем занятии: беге или выполнении рабочей задачи. Некоторые практики/методы по работе с отвлечениями будут приведены в следующих подразделах.

Еще одним свойством внимания считают рассеянность (тоже характерна для людей). Причем выделяют два вида рассеянности: мнимую и подлинную. Мнимая рассеянность проявляется как результат глубокой фокусировки на выполнении работы по методу – например, игре в баскетбол или организации встречи – когда человек ничего не замечает вокруг себя, буквально не выделяет объекты, не относящиеся к выполняемой работе. Когда личность выполняет работу в состоянии потока, у ее проявляется мнимая рассеянность.

Однако существует и подлинная рассеянность. Она проявляется в том, что человек не может надолго удержать камеры ни на одном объекте, внимание быстро и хаотично перескакивает от одного к другому. При подлинной рассеянности внимание неустойчиво и легко отвлекается. Причинами подлинной рассеянности часто являются утомление (физическое и умственное), серьезные переживания, расстройства нервной системы. В некоторых случаях подлинная рассеянность проявляется, когда у человека слишком большая нагрузка: много дел и проектов одновременно. В случае если есть проблемы с концентрацией на задаче в течение примерно 15-30 минут, стоит посетить невролога, чтобы исключить проблемы со здоровьем, и разбираться со своей нагрузкой.

Внимание агента иногда сравнивают с множеством камер с сенсоромоторными датчиками, которые наводятся на какие-то части мира и передают картинку, звуки, а еще запахи, вкусы, прикосновения, ощущения. Поэтому вы можете встретить в тексте упоминания «камер внимания». Это удобная метафора, которая дополняет понимание, что такое внимание.

До недавних пор разговор о внимании плавно перетекал в разговор о сознании как некой особой «штуки», которая якобы отличает людей от животных и благодаря которой люди способны на куда более сложное поведение, чем, например, кошки или собаки. Считалось, что благодаря наличию сознания люди способны строить причинно-следственные связи, понимать чужие поступки, критически оценивать свои поступки, сопереживать, использовать орудия/инструменты и так далее. Однако исследования нейробиологов и психологов-экспериментаторов опровегли эти представления/действительность: оказалось, что животные способны на все это. Например, самцам астатотиляпии (род рыб) давали посмотреть на четыре схватки подряд. В этих схватках самец a побеждал самца b, самец b побеждал самца c, самец c побеждал самца d, d одерживал верх над e. Самцы aи e, а также b и d друг с другом не сражались. Тем не менее, рыбы-наблюдатели безошибочно вычислили, что a сильнее e, а b сильнее d, и, будучи посаженными в центральный отсек аквариума, держались поближе к проигравшим: по мнению наблюдателей, в случае схватки у них больше шансов одолеть того из соперников, который оказался слабее. Об этом и других исследованиях можно прочитать в книге Александра Маркова «Обезьяны, нейроны и душа» из серии «Эволюция человека»^[6].

Кроме того, начал развиваться искусственный интеллект, построенный на схемах работы с вниманием, продемонстрировавший способность производить сложные вычисления без необходимости как-то создавать «сознание». Все это привело к тому, что разговор о сознании стал постепенно затухать. В учебниках психофизиологии^[7] и общей психологии^[8], выпущенных в последние годы (2023 и далее), вообще исчезло упоминание «сознания» как отдельного предмета изучения. Вместо этого говорят о разной степени активности внимания: если внимание агента очень активно, сконцентрировано на задаче, то качество результатов работы будет выше (в быту об этом скажут «работа выполнялась осознанно»), если внимание работало кое-как, то результат будет не очень (работа выполнялась не очень осознанно). Функции, которые ранее приписывались почти исключительно сознанию (контроль за работой и интеграция разных представлений и моделей воедино), как оказалось, может выполнять внимание. Увеличить скорость работы, получить прорыв в понимании мира разговор о сознании сейчас не дает. Кроме того, само понятие «сознания» обросло эзотерическими толкованиями. Поэтому мы в принципе не будем упоминать слово «сознание» и отсылать к соответствующему понятию. Если вы увидите или услышите фразы об «осознанной работе», то это следует толковать как «работа, выполняемая с высокой степенью активности внимания».

---

1. https://top500.org/lists/top500/2024/06/ ↩︎

2. Марков Александр, Чем мозг отличается от компьютера, гл 2 Душевная механика // Обезьяны, нейроны и душа ↩︎

3. https://nplus1.ru/news/2015/08/14/thoughtprice ↩︎

4. https://www.litres.ru/audiobook/robert-chaldini/psihologiya-soglasiya-57454925/ ↩︎

5. https://www.geeksforgeeks.org/introduction-to-multi-task-learningmtl-for-deep-learning/ ↩︎

6. https://www.litres.ru/book/aleksandr-markov/obezyany-neyrony-i-dusha-3744535/ ↩︎

7. Марютина Т.М., Психофизиология: общая, возрастная, дифференциальная, клиническая // 2023 ↩︎

8. Нуркова В.В., Березанская Н.Б., Общая психология // 2023 ↩︎