Мозг и искусственные нейросети
Людей давно интересовало – а как же это всё устроено у нас в голове? Там что, в мозгу – слова записаны? Или картинки нарисованы?
Изучением этих вопросов занималась нейробиология, но её методы были ограничены, исследования мозга с точностью до отдельных клеток-нейронов крайне сложны, практически невозможны. Прорыв в этой области произошёл только в последнее десятилетие, с развитием искусственных нейросетей, заслуживших уже название «искусственный интеллект». Хотя компьютерные нейросети построены на совсем другой вычислительной аппаратуре, не похожей на человеческий мозг, на фундаментальном уровне они делают вычисления на тех же принципах, так что исследования компьютерных моделей подтвердили выводы нейронауки и продвинули её сильно дальше.
В нейросети (искусственной или естественной) нет никаких аналогов файлов с текстами или архивов фотографий (это как раз нейробиологи выяснили довольно давно).
Данные о мире в виде текстов (слова написанные или услышанные), образы (видео), ощущения и т.д. попадают в мозг от органов чувств (или в искусственную нейросеть с диска, от камер, датчиков, устройств ввода) и проходят там ещё одно преобразование (кодируются) в распределённом виде.
Информация в нейросети сохраняется в виде огромного количества изменяющихся соединений между нейронами и их весов (силы соединений). Информация об одном образе, знаке, регистрируемом ощущении оказывается распределена по большой области мозга, информация о следующем – по другой, перекрывающейся с первой, информация о картине или целой ситуации охватывает ещё большие области. В результате каждая новая секунда обучения (нашей жизни) приводит к изменениям во всем объеме нейросети, что-то в ней сохраняется в таком вот преобразованном виде, что-то пропадает, что-то искажается. Такие модели называются распределёнными представлениями, они принципиально отличаются от символьных (знаковых) моделей*,* обсуждавшихся нами выше. Ещё одно название для таких моделей – коннекционистские, оно отражает тот факт, что модель состоит именно из информации о связях (connections) между искусственными или естественными нейронами в сети.
Представление идей при таком понимании принципов работы нейросети тоже принципиально понятно. Мы уже даже обсудили это при обсуждении подхода компьютерной лингвистики к концептуальному пространству и его плотности. Упомянутые там точки в многомерном пространстве - и есть результат работы нейросети. По итогам обработки какой-то информации нейроны мозга (или только одного его участка) приходят в определённое состояние, и одна группа таких похожих состояний (облако точек) воспринимается как «справедливость», а другая группа состояний, в которые мозг может прийти после получения другой информации – как «печаль».
Хотя нейробиология давно двигалась к пониманию этих процессов, представить их реальные возможности было очень трудно, и сила нашего мозга как вычислителя – оставалась загадкой. Неужели такой, казалось бы, хаотический процесс способен в итоге порождать наше мышление, нашу способность помнить, действовать, работать со знаками и идеями, творить? Эксперименты с искусственными нейросетями подтвердили – да, всё так и есть. Даже в десятки тысяч раз меньшая чем мозг по вычислительным возможностям (по числу нейронов) компьютерная нейросеть – способна демонстрировать чрезвычайно сложное мышление. Оно будет не творческое, может и вообще не интеллектуальное, но это будет полноценное оперирование со знаками и образами без возможности их хранить и обрабатывать так, как это делает обычный компьютер или как это делают люди в экзокортексе (на бумаге или на экране).
Распределённые представлениявыходят за пределы нашего руководства, мы не будем обсуждать то, что происходит внутри агентов (людей, животных, компьютеров). Мы будем просто говорить «мы видим», «мы представляем», «мы интерпретируем», «мы мыслим»**, понимая, что за этим скрываются в нейросети огромные вычисления, проводимые по специальным правилам, которые для нейросетей (для мозгов или для компьютерных нейросетей) очень непохожи на происходящее в других типах вычислителей ( в так называемых тьюринговских компьютерах, или вы ещё можете встретить термин «компьютеры с фон-Неймановской архитектурой»).
Нейросетевые вычисления в нервных системах и в биологических мозгах работают миллиарды лет, у всех видов живых существ. Однако именно способность наладить общение между отдельными нейросетями через символы и знаки (жесты, речь, картинки, письменность) – обеспечила человеку то место, которое он занял по сравнению с другими видами. Работать совместно люди (а теперь и LLM) могут только через знаковые представления и онтологические модели. Значительный прогресс при этом был обеспечен развитием экзокортекса (книги, аудиозапись, видеозапись, компьютеры).
А вот прямого способа работать со своей или чужой коннекционистской моделью у нас пока нет. Вовне головы все представления и коммуникации между агентами остаются знаковыми, поэтому мы продолжим обсуждение знаковых систем, чтобы научить ваши по природе коннекционистские вычислители рационально взаимодействовать с другими коннекционистскими вычислителями (другими людьми или уже и не людьми) посредством коммуникации моделей (и желательно - в экзокортексе). Однако передний край научных исследований и современных технологий сегодня проходит именно там, в области нейросетей, понимание их соотношения со знаковыми системами ещё далеко не полное. Возможно, когда-нибудь прямые связи нейросетей сделают все наши теории о знаках и смыслах при текстовой или речевой коммуникации просто ненужными. Посмотрим.