Творчество
Можно предположить, что в интеллект-стеке должна быть более общая трансдисциплина, чем познание/исследования: творчество**.** Познание/исследования — это просто творчество по созданию объяснений, подпрактика творчества, как инженерия роботов — это подпрактика инженерии, а алгоритмика квантовых алгоритмов — подпрактика алгоритмики.
Но предмет «творчества» (какие объекты меняет практика творчества) можно понимать очень по-разному. Вокруг «творчества» поэтому разворачиваются бесплодные споры о терминах: творцом могут назвать и шизофреника, бред которого каждый раз оказывается новым и неповторимым, и художника, картины маслом которого могут не иметь никакой связи с реальностью, и учёного-исследователя, ставшего «творцом новой теории», и инженера, сделавшего изобретение (нашедшего новый аффорданс для давно известной функции), и даже бога какой-то из религий, который «творец», потому как «сотворил мир». Слово «творчество» употреблять очень опасно: оно многозначно и лучше бы его разделить на какие-то отдельные слова, которые подчёркивают разные смыслы, кодируемые лексемой «творчество», а само слово табуировать. Похожее было сделано в наших курсах со словами «стейкхолдер», «предприниматель» — и это оказалось очень продуктивным. Возможно, со словом «творец» и его практикой «творчество» надо сделать что-то похожее.
Само понятие «креативности»/ «творческости» культурно обусловлено и может резко меняться. Например, в фильме про AlphaGo (программу, которая обыграла чемпиона мира в игре Го)[1]. В фильме Lee Sedol, проигравший чемпион мира, говорит[2], что переосмыслил для себя понятие креативности ходов в игре, и что на самом деле «креативные/творческие ходы» — это всё обычные ходы, которые просто хорошо просчитаны. И если человек думает иначе - он ошибается.
Так что «результаты творчества» оказываются просто «результатами», только «хорошими результатами». Это даёт и другой вариант трактовки «творчества»: признание, что творчество всеохватно и пронизывает самые разные практики, просто «творчество» — это создание хорошо продуманного/просчитанного нового, что бы это ни было.
Что такое «новизна» и как она получается (novelty search) в ходе эволюции, подробно обсуждается в исследованиях Kenneth Stanley[3] и Joel Lehman[4]. Именно в их работах появилось понятие smart mutations[5] — не любая мутация в мемоме, а только с наибольшей вероятностью ведущая к улучшению эволюционной приспособленности к среде (fit).
Если воспользоваться подходом active inference, то можно показать самые разные места приложения для творчества, как «что-то новое, дающее что-то полезное»:
- Изменения модели себя, смарт мутации знаний о себе. Получаются познанием/исследованием (тут интересный момент про осознанность и интроспекцию, различение границы между миром и собой, референтный индекс первого лица в описаниях per se).
- Изменения модели мира, получаются познанием/исследованием окружающего мира. Чаще всего познанием/исследованием называют этот пункт.
- Изменения себя как физической системы, это инженерия. Может быть в том числе и для того, чтобы «спастись» сейчас и/или в будущем, но и в целях исследований, получения данных для моделирования! Исследования активны, познание меняет агентов!
- Изменения физического мира вокруг себя, тоже инженерия. Тоже может быть в том числе и для того, чтобы «спастись» сейчас и/или в будущем, но и в целях исследований, получения данных для моделирования! Исследования активны, познание меняет мир!
Если мы делаем новые изменения моделей себя и мира или новые изменения себя и мира — это творчество (с точностью до термина «новые» и полезности полученных моделей и изменений). Можно открыть новый закон природы (высказать догадку, которую трудно опровергнуть, и которая окажется лучше других), а можно найти новый аффорданс, воплощающий какую-то идею о том, как изменить мир к лучшему (например, при создании компьютера догадаться, что логический ключ как функциональный объект надо делать на радиолампах как конструктивных объектах — и получить в итоге работающий ENIAC[6]).
Уверенность в том, что «спастись» можно путём активного познания, то есть что для надёжного «спасения» не хватает только знаний, ничего кроме знаний, которые можно добыть исследованиями, поддержанными инженерией, называется оптимизмом. Никакой веры в злой рок, злые умыслы богов или людей, фаталистичность, неминуемость катастрофы и исчезновения цивилизации — никакого пессимизма! Только оптимизм, как понимание, что если будут необходимые знания (знания — это теории/объяснения/модели себя и мира, включая знания о том, что вообще в мире возможно, а что запретно), то можно собрать ресурсы и изменить себя и мир так, чтобы решить все проблемы — биологическое бессмертие, экзистенциальные риски типа «прилёта астероида» или «появления смертоносного вируса», и даже такие риски, которые человечеству сейчас неизвестны.
Главный тут вопрос: откуда вообще берётся что-то новое?! Что лежит в основе творчества?
Нужно чётко понимать: творец объяснений/моделей (исследователь) и творец систем (инженер) берёт начальную догадку из хаоса/шума**/случайности****.** Да, речь идёт буквально о нейронном шуме, случайных ассоциациях, объектах, идеях, которые выдаёт его биологический мозг, возможно, простимулированный необычными режимами: сном или внешними событиями, такими, как по легенде падение на голову Ньютону яблока. Если это компьютерная система, например, система искусственного интеллекта, то хороший шум выдаст генератор случайных чисел, а для надёжности можно использовать и аппаратный датчик (например, на квантовых эффектах[7]).
Дальше с этим шумом идут многочисленные процедуры оформления в отчуждаемом виде идеи объяснения, а затем критики/фильтрации. Большинство сгенерированных догадок по поводу объяснений на этой стадии отбрасываются: они оказываются нелогичными, они оказываются не-объяснениями, они оказываются хуже в объяснениях, чем уже существующие альтернативные объяснения. По итогам критики может быть модификация, а затем использование — если эти догадки-из-шума, из интуиции, из хаоса вдруг пережили всю эту критику. Критика, конечно, сначала идёт в голове одного человека или в одном компьютере, а потом к ней подключаются и все остальные люди и AI. Поток случайных значений из шума бесконечен, поэтому после каждой откинутой в ходе фильтрации догадки объяснения просто генерируем новую. Если догадка выдержала критику, то принимаем эту догадку всерьёз: считаем это на текущий момент лучшим объяснением (SoTA, state-of-the-art[8]).
Обычная критика этого процесса — «если посадить миллиард обезьян печатать на машинке, то за миллиард лет они случайно напечатают в том числе и томик «Войны и мира» Льва Николаевича Толстого». Это миф, ибо эволюционные алгоритмы, использующие случайные мутации и селекцию по результатам этих мутаций (возможность модификации уже как-то успешных объяснений в нашем случае) работают неожиданно быстро по сравнению с просто случайной генерацией[9]. Это подробно разбирается в каждом учебнике по эволюции, особенно в учебниках по эволюционным алгоритмам. Это эмерджентность: если брать не просто множество изолированных друг от друга случайностей, а организовать их взаимодействие (операции по их комбинированию) в рамках какого-то алгоритма, то экстраординарного качества результаты будут получаться быстро. Важно то, что прямой генерацией каким-то универсальным алгоритмом такие результаты не могут быть получены, а эволюционным процессом с «умными мутациями» — могут[10]. Последовательное применение ума с запоминанием промежуточных лучших результатов даёт результаты лучше, чем просто «настойчивое непосредственное применение ума»!
Интересно также то, что теория вероятностей показывает, что не очень умные агенты могут добиваться в ходе буквально нескольких попыток творчества результатов лучше, чем более умные агенты. Так, GPT-4 летом 2023 года генерировала фрагмент кода, проходящий все тесты сразу в 76.2% случаев. Более глупые модельки типа GPT-3.5 тоже сгенерируют такой код, только запускать их нужно большее число раз, что не факт, что дороже по сравнению с очень дорогими одиночными запусками GPT-4. Глупые модельки нейросеток тоже думают, только думают дольше — больше шагов критики и улучшений, генерации гипотез и экспериментов. В итоге при генерировании одной модельки GPT-3.5 добивалась прохождения всех тестов в 63.4% случаев, но вот при 100 попытках это удавалось уже в 89.8% случаев, что уже ощутимо больше, чем 76.2% одиночного запуска дорогой более умной GPT-4[11].
Если есть шанс запомнить это улучшение, то получаем ускорение улучшений:
- Каждый частный результат при случайном поиске будет добыт в том числе потому, что случайность приводит к поиску в новом месте пространства решений, нет возможности «застрять в локальном минимуме».
- В случае генетического алгоритма улучшение идёт за счёт того, что используется память: каждый результат получается не бесчисленным числом повторений «с нуля», но модификацией уже достигнутых улучшений (опора на селекцию, эволюционный выбор лучших результатов). Каждое новое поколение результатов становится чуть лучше, «научается».
Это относится и к творчеству каждого отдельного человека, и к творчеству цивилизации (людей и компьютеров вместе) в целом: чтобы получить новое знание, нужно просто сделать больше попыток — но эти попытки должны быть эволюционными, работать со многими частными улучшениями. Ибо «в лоб» придумать «итоговое знание человечества» в ходе исследований или «итоговый набор рукотворных систем» в ходе инженерии не получится, творчество доступно только через эволюцию и оно всегда проходит в контексте творчества других творцов: эволюция одного вида (генома или мемома) самого по себе невозможна, она всегда идёт в контексте взаимодействия этого вида с другими эволюционирующими видами[12].
К догадкам в ходе научных (reverse-engineering природных систем) или инженерных (создание моделей систем и изменений в системах, а затем реализация этих моделей в реальности, «прямая инженерия», research and development, R&D) исследований как актов творчества, нужно относиться так:
- Если догадку оказывается нельзя опровергнуть логической критикой и затем проведением эксперимента по сравнению с другими догадками (объяснениями в случае науки и реализацией системы в случае инженерии, выход на рынок тут вполне эксперимент!), то это не результат научного или инженерного творчества. Это продукт искусства, религии или ещё чего-то подобного, где соответствие жизни не требуется. Лозунг/слоган исследователя — «сомневайся!» (ещё со времён Просвещения, которое не закончилось сегодня), и если сомневаться нельзя в принципе, то это не про исследования, а про фантазирование. Творчество тем самым мы делим на научное/познание, инженерное/спасение и фантазийное (зачем оно нужно, будем обсуждать в рамках трансдисциплины эстетики, но и там возможна критика — например, художественная критика, принятие зрителями и т.д.).
- Если результат научного и/или инженерного творчества (R&D, их трудно разделить) успешно прокритикован (или найдено логическое противоречие в объяснениях, или найдены объяснения (в том числе в инженерии — объяснения о том, как делать конкретную систему, design и технология производства), лучше предсказывающее события в реальном мире, включая «принятие рынком» или «выживание в ходе выращивания» для биосистем, и т.д.), или так же предсказывающее, но более универсальное, или более понятное людям и дающее такую же точность предсказаний, то нужно от него или отказаться, или модифицировать. С ним жить нельзя. Результаты творчества как осетрина: она или первой свежести, или не осетрина. Так и тут: или гипотеза (объяснение и/или созданная система) выдержала критику, и стала SoTA (в науке или инженерии) на какой-то период времени, или её считаем фальсифицированой и результат творчества должен быть или улучшен, или забыт. Про инженерные SoTA, равно как и про исследовательские, можно смотреть книгу Billy Koen, «Discussion of the Method» (2003)[13].
- Если объяснение SoTA, то как бы безумно оно не выглядело, нужно принять его всерьёз. Например, Эвереттовская интерпретация квантовой механики постулирует, что в мире бесконечное число вселенных. И как-то прокритиковать это утверждение не удаётся, а предсказания этой теории являются до сих пор лучшими (решают некоторые проблемы, которые альтернативные интерпретации, например, интерпретация Бора, решить не могут). Значит, надо некоторое время (пока не удаётся прокритиковать) эту интерпретацию, считать что в мире и в самом деле бесконечное число вселенных, исходить в своей деятельности (например, при строительстве квантовых компьютеров) из этого факта. А потом SoTA морально устареет: объяснение/теория/модель будет опровергнута, место SoTA будет какое-то новое объяснение/теория/модель. Но н****а то время, пока какая-то теория является SoTA**, нужно принять её всерьёз, то есть считать, что мир устроен так, как говорит эта теория.** Это очень подробно объясняется в книге Дэвида Дойча «Структура реальности. Наука параллельных вселенных»[14].
То есть мы берём догадку, которая когда-нибудь станет SoTA объяснением (в том числе научным объяснением, или объяснением того, как изготовить какую-то инженерную систему) из хаоса, шума, вечного и бесконечного источника самых разных догадок, уточняем её с помощью таких же вытаскиваемых из хаоса догадок по поводу улучшения начальной догадки — и если она выжила множество раундов самой разной критики, эта догадка имеет шанс стать SoTA догадкой, то есть текущим лучшим в мире объяснением имеющихся на сегодня проблем или объяснением того, как сделать инженерную систему. Выдвинуть догадку, которая потом станет SoTA объяснением очень, очень трудно! Для этого ведь каждая новая догадка должна объяснить всё то, что уже было объяснено, плюс объяснить что-то новое, что объяснено ещё не было! Но пока идёт проверка и улучшение старых догадок, кто-то наверняка уже породил новую догадку, и она потихоньку меняется, улучшается, проходит критику, чтобы заместить текущую SoTA догадку/guess/гипотезу/объяснение. А предыдущая догадка оказывается ошибкой, она будет фальсифицирована/опровергнута (и Дэвид Дойч в шутку говорит, что исследовательские гипотезы и теории вообще стоило бы сразу называть «ошибками/заблуждениями», ибо они неминуемо будут когда-нибудь заменены на более точные и универсальные, даже если некоторое время побудут SoTA. То же можно сказать в отношении инженерных систем, они тоже какое-то время могут быть SoTA, затем их заменяют в этом качестве системы получше).
Всё это похоже на «естественный отбор», эволюцию, которая тоже движется случайными мутациями, её идеи тоже берутся «из шума», «из хаоса». Поэтому такого сорта трансдисциплину познания называют иногда эволюционной эпистемологией (помним, что эпистемология — это практика научного/рационального/логичного познания), а поскольку это впервые в таком ясном виде описал Karl Popper, то это будет эволюционная эпистемология Поппера, и это же — критический рационализм Поппера, ибо догадки по поводу моделей тут противопоставляется эмпирицизму, в котором никаких догадок нет, а знание вычисляется из пассивно воспринимаемых данных измерений! В рационализме догадки первичны, а измерения могут быть использованы для критики/фальсификации/опровержения догадок о теориях/моделях (в том числе объяснений), но не для логического вывода этих моделей из каких-то данных.
Научное и инженерное творчество (исследования и разработки, R&D) даёт нам бесконечное развитие: знания человечества и доступные инженерные системы непрерывно улучшаются, уточняются, универсализируются. Эволюция бесконечна, как дарвиновская (биологическая, с реализацией центральной догмы молекулярной биологии, что геном в феном транслируется непосредственно, а вот в геном информация отбора попадает через случайные мутации, при этом неудачные мутации не передаются после неудач в размножении — ибо геном есть в каждом размножающемся организме, и опыт организма нельзя непосредственно передать в геном), так и техно-эволюция (в которой «опыт» эксплуатации системы как «техно-организма» инженер легко может закодировать в отдельно хранящемся мемоме системы, то есть объяснениях того, как создать эту инженерную систему).
В бесконечности мы находимся всегда в её начале. Мы в начале бесконечного развития знания и бесконечного развития технических систем, бесконечно идущих исследований и инженерии, бесконечного творчества, бесконечного R&D.
Помним: если кто-то умер из дорогих вам людей, то просто не было знаний, которые дали бы возможность этого не допустить — но творчество людей и компьютеров, то есть исследования и разработки, которые они ведут, рано или поздно дадут эти знания. И можно будет создать технические средства, которые смогут предотвратить подобные утраты в будущем. Но к этому времени появятся новые интересные проблемы, которые нужно будет решать — бесконечное развитие не закончится тем, что будет понятно, как обеспечить индивидуальное бессмертие. Да, есть проблема «программируемой смерти»[15], но это же только при биологической эволюции проблема, к техно-эволюции это не относится!