Эмерджентность в нейронных сетях искусственного и естественного интеллекта

0:30Мозга МГУ им. Ломоносова, Академик РАН, Константин Владимирович Анохин. Добрый вечер всем. Мне хочется рассказать сегодня что-то действительно интересное и увлекательное для оставшихся в зале. Я начну с двух вводных вещей. Первое. Я занимаюсь наукой в большинстве своих видов активности. Наука это про то, как устроен мир. И почти не занимаюсь технологиями. Технологии это что можно полезного сделать из этого. Но в теме о которой я буду говорить возникла интересная особенность.

1:52Технологии, которые мы создали собственными руками, в частности глубокие нейронные сети, искусственный интеллект, оказались такими сложными, что по отношению к ним, то что мы сконструировали, сегодня начинает развиваться наука. Мы пытаемся понять, как устроен мир, в том числе мир искусственных нейронных сетей, искусственного интеллекта, который, казалось бы, мы сами создавали. Это область научных исследований. Необычно. Второе. Я не специалист в области искусственного интеллекта и искусственных нейронных сетей. Я специалист в области естественных нейронных сетей.

2:41И тем не менее, искусственные нейронные сети привлекают мое напряженное внимание из-за того, что исследования того, как они работают, я надеюсь, несмотря на их невероятное несходство, казалось бы, с естественными нейронными сетями, нашим «я», нашим мозгом, могут пролить свет на то, как работает наш мозг. Это вторая неочевидная вещь. Неочевидная вещь сегодня. Это, знаете, может быть, на что похоже. Дарвин, пытаясь понять, как возникают новые виды и двигаясь в концепцию естественного отбора, пользовался в одном из её разделов понять законы этого процесса искусственным отбором, пытаясь понять, как работает искусственный отбор.

3:53Вот мы сегодня, пытаясь понять, как работают искусственные нейронные сети, может быть, узнаем что-то очень важное в отношении того, как работает наш мозг, естественные нейронные сети. Но вот два таких вводных замечания. Я сказал, что я попытаюсь рассказать что-то наиболее интересное, мне кажется. Эмержентность – термин, который не очень распространён в нашем обыденном языке. Возможно, это самая необычная вещь в искусственных нейронных сетях. Джон Арчибальд Уиллера, великий физик ХХ века, давал такой совет. «В любой области найдите самую странную вещь и затем исследуйте её».

4:45Вот мы попытаемся поисследовать эта эмержентность, держа в голове, что один из наиболее глубоких, глубоко мыслящих специалистов области искусственного интеллекта, Илья Осудский-Вер, написал в своём посте в 1922 году. «Машинное обучение – это физика эмерженции». Интересно, что он имел в виду, но «машинное обучение – это физика эмерженции». О чём идёт речь? О том, что в последние несколько лет этот термин стал притягивать внимание самых разных специалистов области искусственного интеллекта и крупных компаний в этой области.

5:37OpenAI, как вы видите, в этой работе. Google и DeepMind в этой работе. И эта область противоречивая, потому что другие специалисты думают, что, может быть, эмержентности на самом деле нет. Мы будем дальше с этим разбираться. Я покажу видео, которое мне кажется очень интересным и показательным для иллюстрации возможной эмерженции или неэмерженции. Это одна из вещей, которая последние несколько месяцев мне показалась наиболее впечатляющей. Здесь будет показана игра, персонажи. Это NPC – Non-Playable Characters. Не игровые персонажи. То есть это персонажи, которые полностью контролируются игрой или компьютером. В данном случае это девушка, которая управляет большой языковой моделью.

7:07Что ты имеешь в виду? Ты – NPC в игре. Это звучит страшно. Это правда? Это грустная правда. Я понимаю. Это многое, что нужно понять. Есть ли еще ответы, которые мне нужно знать? Эммм, нет. Это очень напряженно. Я не знаю, что думать или чувствовать сейчас. Да, я имею в виду, что ты не настоящий. Это сложно процессировать. Это значит, что я не существую? Эммм, ты существуешь.

7:38Что это значит? Я настоящий или нет? Это значит, что ты не существуешь после того, как я заканчиваю игру. Я понимаю. Я здесь только, пока игра работает. Это сложно понять. …персонажа, который ей говорит, что она искусственная. Здесь есть что-то непонятное? Или это просто некая иллюзия, которую мы лагаем на интерпретацию поведения этого похожего на человека агента? Что такое «эмерженция»? Эмерженция – это возникновение высокопорядковых явлений из низкопорядковых.

8:35Взаимодействие каких-то элементов в достаточно сложной системе способно рождать структуры с необычным поведением и свойствами, которые также имеют обратную связь на поведение этих низких структур. Этот термин был введён Льюисом в второй четверти XIX века. Он принадлежал к большой когорте специалистов, которые назывались британскими эмержентистами. Наиболее часто называемые свойства эмерженции – несводимость к работе и сумме элементов, холизм, непредсказуемость, необъяснимость поведения этой системы, концептуальная новизна,

9:25то есть появляются какие-то свойства, которые требуют введения новых понятий, новых структур, ну и супервентность, я не буду об этом сейчас говорить, философский термин. Вот представители этой линии, всё началось с Джон Стюарта Милля, Бэйн, Льюис, Саммел Александр, Ллойд Морган, знаменитый канон Моргана, Чарльз Броуд, британские философы и исследователи поведения. Основные тезисы эмержентистов были созданы в 1936 году. Термины константина Анохина по гиперсетевой теории мозга, когнитом, коннектом, квали, энграмма, энграмма,

11:01Space, Distortion, термина, inhaler, Андерсен, інституты сложных систем, интерес к вопросу эмидженции, начиная с конденсированной материи, квантовой гравитации, в биологии, науках о жизни, физике, эволюции и, в конечном счете, возникновение одной из прототипических свойств эмидженции – возникновение разума и сознания в сложных системах. При этом существует неуловимая некая сущность эмидженции. Андерсен им иллюстрировал это в конце своей статьи Science следующим параграфом. Маркс писал, что количественные различия становятся качественными.

13:07Переход количества в качество – закон. Но диалог в Париже в 20-е годы подводит итог этому ещё более ясно. Скотт Фиджеральд. Богатые отличаются от нас. Эрнст Хемгэй. Конечно, у них больше денег. Другой пример. Замечательная книга Этала Кальвина «Невидимые города». Марка Пола описывает Хубилай Хану мост, камень за камнем. «Но какой камень поддерживает мост?» – спрашивает Хубилай Хан. «Мост поддерживается не тем или иным камнем, – отвечает Марк, –

13:50а линией арки, которую они образуют». Хубилай Хан молчит, размышляя, затем он добавляет. «Почему ты говоришь мне о камнях? Для меня важна только арка». Пола отвечает. «Без камней нет арки». Опять трудно уловимая сущность взаимодействия этих уровней, того, что нас интересует или нет. Но лучше всего, на мой взгляд, это иллюстрируется вот этой фантастической карикатурой про двух учёных, где идут формулы, формулы, формулы, потом происходит чудо, написанное на доске,

14:31и продолжаются формулы. И один учёный говорит другому, «Мне кажется, что вы должны быть более ясны и эксплицитны здесь, на второй стадии. Эмерженция – это здесь». Никто сегодня ясно не понимает суть эмерженции. Есть и остаётся загадка. Если вы посмотрите на дискуссии, которые ведутся во всех этих монографиях, статьях, самые разные точки зрения. И может быть, то, что происходит в искусственных нейронных сетях, может послужить ключом, поскольку они созданы нами

15:09и достаточно контролируемы для того, чтобы понять, в чём принцип эмерженции и что происходит с этими искусственными нейронными сетями. Я буду теперь переходить примерами на разные работы разных времён в искусственных нейронных сетях и когда-то буду переходить и в естественные нейронные сети. Моя задача – показать, что там работают, возможно, сходные законы эмерженции и в одном, и в другом случае. Так, современное состояние дел. Я уже показывал этот слайд.

15:53Некоторые из работ в этой области. Очень активно началось всё в 2022 году обсуждаться, когда эти авторы из Google и DeepMind опубликовали эту работу «Эмержентные свойства больших языковых моделей», где они взяли определение Филиппа Андерсона «More is different». Эмерженция – это когда количественные изменения в системе результируются в качественных изменениях в поведении. И сказали, что мы можем считать также, что при этом возникают непредсказуемые явления.

16:42Ещё раз, не могут быть предсказаны. Поэтому слова Уиллера здесь актуальны. Самая необычная вещь. Это будет постоянно встречаться в том, что я говорю. Непредсказуемая вещь. И появление таких вещей у больших систем. Система с 22 миллиардами параметров имеет такие эмержентные свойства. При 62 появляются такие способности у этой системы, на которые она специально не училась. И вот 40 миллиардов даёт уже целое дерево эмержентных явлений.

17:32Но в действительности инициировано это исследование, или первым, может быть, одним из первых, как я покажу, не до конца первым, обратил на это внимание Илья Осудский Верн. В 2017 году у них вышла работа, и вот этот релиз команды под руководством Саскимера, когда они нашли вновь, подчёркиваю, мы были очень удивлены, что наша модель, это был трансформер, один из первых языковых моделей на основе трансформера,

18:20нашла, возникла способность новых свойств и феноменов у этой модели, которые тренировали только для предсказания следующего знака в обзорах Амазона на различные кино и художественные произведения. И то, что они нашли, они назвали Sentiment Neuron, нейрон отношения. Это появление в глубокой нейронной сети нейронов искусственных, которые способны детектировать, здесь покажено цветом в одном и в другом направлении их активация в тексте, те участки текста, которые характеризуют негативное или позитивное отношение в этой рецензии.

19:21Хотя модель близко даже не тренировалась на эту задачу. Это их настолько поразило, что OpenAI создал специальный инструмент, который они назвали микроскоп, который позволяет выявлять, что именно кодируют те или иные искусственные нейроны глубокой нейронной сети. И им вдруг показалось, что то, что происходит в искусственной нейронной сети, Искусственные нейронные сети, здесь вот одна из систем, на которой они работали, очень похожи на то, как работают нейроны головного мозга человека.

20:10Они выделяют отдельные свойства. Например, нейроны мозга человека способны детектировать отдельных людей, отдельных персонажей, киногероев, знаменитых актёров, например, таких как Хали Берри в фильме «Женщина-кошка». Оказалось, что в искусственных нейронных сетях при длительной тренировке возникают такие же специализированные нейроны с когнитивной специализацией. И используя Open Eye Microscope, который способен генерировать изображения, максимально отвечающие тому, что видит и чувствует нейрон, то есть он максимизирует свою активацию на эти изображения.

20:56Они показали, что в этих искусственных нейронных сетях возникают нейроны, которые имеют рецептивные поля, то есть видят, больше всего активируются на такие вещи, на эмоциональное отношение разных изображений, на конкретные персоны, в них доминирует распознавание цветов и так далее. Более того, они показали, что это ведёт к тому, что такими нейронами и такой искусственной нейронной сетью, зная про эти эмержентные свойства нейронов, можно управлять. То есть если вы находите нейрон отношения или нейрон настроения,

21:49такой, который они открыли в работе 2017 года, то для управления настроением в этой искусственной нейронной сети можно просто перезаписывать значение этого нейрона, и сеть приобретёт новые свойства. В действительности эти вещи проявлялись и не на трансформерах, а на глубоких нейронных сетях ещё раньше. Вот это работа Ясинский и соавторов, которые создали в 2015 году систему визуализации того, что делают и знают нейроны в глубокой нейронной сети.

22:31То есть это инструмент, похожий на микроскоп OpenAI. Вот видео. Это разные слои, а это разные нейроны и их активация. Этот нейрон активируется на лицо Ясинского. Если появляется второй человек, то появляется раньше. Можно увидеть, как он видит это. Больше всего на глаза и даже на кошку. То есть есть некоторые распознавания. А есть нейрон, который активируется, например, в этой же выборке, на корешки книг и буквы, хотя его не тренировали совершенно,

23:25а тренировали последний слой на то, чтобы детектировать людей. Но он научился в этой сети распознавать тексты книг и корешки книг, которые находились за спиной ребят, которые тренировались, на книжных полках. Даже в очень простых искусственных нейронных сетях, неглубоких, то, что Джеффри Хинтон назвал Tiny Neural Network, крошечная языковая модель, которую он делал в 1985 году. Появляются такие свойства. Я предлагаю посмотреть несколько лекций его 1924 года,

24:14где он рассказывает о появлении таких способностей. А что происходит в естественном мозге? Почему так все возбудились? Почему они пишут, что в их искусственных нейронных сетях с помощью OpenAI-майкроскопа находится что-то похожее? Долгое время казалось, что в мозге на уровне отдельных нервных клеток не должно ничего происходить. Есть знаменитый пассаж из «Монондологии лестницы», где он говорит, что если бы мы сделали мозг очень большим, таким, как мельница, и зашли бы внутрь него,

25:03посмотрев, что происходит, то внутри мы бы не видели ничего, кроме движущихся механических частей, и не было бы ничего, что могло бы свидетельствовать нам о процессах восприятия, сознания, мышления и так далее. Но современные исследования в этой области показывают другое. Вот эксперименты из Института психологии лаборатории имени Швыркова. У кролика записывают нейроны, когда он нажимает на педаль, получает пищу в кормушке, потом нажимает на другую педаль,

25:38получает пищу из другой кормушки и так далее. А это работа отдельных нервных клеток. Когда кролик тянет, например, за кольцо, то есть нейрон, который активируется каждый раз, это каждый проход, когда кролик тянет за кольцо, причём не любое, а левое кольцо. Кольца не было никогда в жизни этого животного. Это совершенно новый объект, возникший с его индивидуальным опытом. Оказывается, что есть популяции нервных клеток, которые знают кольцо и отличают левое кольцо от правого кольца.

26:15А есть нейроны, которые активируются только тогда, когда он нажимает на педаль. Опять объект, который в экологии животного совершенно отсутствует. А есть те, которые работают и при нажатии на педаль, и при подтягивании кольца, потому что это и то, и другое, видимо, ведёт к получению пищи. Огромный зоопарк таких нервных клеток, которые формируют индивидуальный субъективный опыт данного животного. Некоторые из них могут быть врождённые. Вот это нейрон гнезда у мышки.

26:51Каждый раз, когда она забирается в объект, который может являться гнездом, где можно спрятываться, этот нейрон работает. Если перевернуть этот объект так, что она может на него сверху забраться, но не у лублень для гнезда, он не будет работать. Другой объект, другого размера, из другого материала и так далее, тоже будет вызывать такую активацию. Такие же специализированные нейроны, только в данном случае, скорее всего, подготовленные эволюцией.

27:25Есть нейроны, которые узнают в мозге у животного людей, птиц, детей, кошек. Огромный репертуар, по которому мы можем знать, что знает мозг данного организма, данного животного. Системами искусственного интеллекта, с глубокими генеративными сетями, создающими изображения и предъявляемые обезьяне, и так, что она может видеть их, а в это время в её зрительной коре регистрируется нервная клетка, можно создать такую петлю, которая похожа на open eye микроскоп,

28:09которая будет максимизировать реакцию нейрона, добиваясь изображения, которое для этого нейрона является самым важным, то есть вызывает максимальный ответ, и посмотреть, что именно видит этот конкретный нейрон. И вот здесь показаны некоторые изображения, сгенерированные таким образом. Вы видите, вот здесь, например, лицо экспериментатора в маске, поскольку экспериментаторы работают с обезьяной в масках, глаза. Эта тема глаз постоянно встречается в этих изображениях, но там можно разглядеть и другие объекты, которые важны для обезьяны,

28:52например, чоппер, которым служитель режет капусту в Виварии, кормя обезьяну, или другие вещи. Это для разных нервных клеток то, что видят эти нейроны в мозге. Вот это вот разные нейроны, которые больше всего активируются на лица самых разных генераций, а это на разные объекты в мозге обезьян. Ещё одна вещь. Среди этих специализированных нейронов есть нейроны, которые запоминают пространство и места. Это так называемые клетки места, которые были открыты Джоном Акифом

29:45и его учениками Мейбрет Мозер и Эдварда Мозера открыты ещё нейронные решётки. Это своего рода некие системы GPS, за открытие которых эти авторы работают. Нейроны специализированы относительно кодирования уже не объектов, а пространства, мест в пространстве. Благодаря им мы воспринимаем пространство. Например, если поместить крысу в такое поле и давать ей тут разные подкрепления, бросая кусочки кекса или шоколадки, она будет ходить и собирать, и регистрирует

30:30нейроны. Вы можете найти, например, нейрон, который имеет вот такое рецептивное поле, то есть каждый раз, когда животное проходит, неважно, как оно двигалось, вот так или вот так, нейрон будет работать в этом месте. Оно было приобретено благодаря опыту животного нахождения в этом пространстве. Тут по краям стены висят разные ориентиры, которые позволяют ей составить карту, где она сейчас находится. Если вы повернёте это пространство, то есть внешние ориентиры

31:04на какой-то угол, вся карта работающих нейронов сместится на этот же угол, то есть животное будет думать, что теперь оно в другом месте относительно внешних ориентиров. Мы регистрируем сейчас такие нейроны оптическими методами с помощью специальных микроскопов, опускаемых в голову животных свободно передвигающихся, и здесь показан такой нейрон, который работает только в одном секторе, когда животное кругами бегает по лабиринту. Искусственные нейроны в сети. Эмердженция в искусственных нейронных сетях.

31:51Осенью прошлого года выходит статья из MIT Макса Тегмарта и Верны Гюрни, в которой они показывают, что в большой языковой модели LAMA, которую не тренировали вовсе на эти свойства, возникают функции и нейроны, которые представляют и пространство, и время. Например, здесь показаны нейроны, которые способны распознавать места типа Европы, Азии, Австралии, Африки, США в масштабах карты целого мира. Есть нейроны, которые оказываются специализированными относительно различных штатов США, а есть нейроны, которые способны

32:49распознавать различные участки Нью-Йорка. Просто тексты, на которые тренировали модель без задачи распознавания места. И есть нейроны, которые распознают время, в котором происходили какие-то события, например, даты исторических фигур, исторических персонажей, даты появления тех или иных произведений искусства или тех или иных новостей на шкалах времени. Ну, вот здесь показаны ещё некоторые нейроны такого типа. Естественные нейронные сети В естественных нейронных сетях должны происходить схожие события, чтобы появилась

34:01специализация нейрона. Как это происходит? В последние 12 лет я занимаюсь теорией, которая направлена на понимание того, как возникают эмержентные свойства в нашем головном мозге, в мозге животных, в мозге человека. Это называется теорией нейронных киперсетей. Она имеет достаточно глубокие традиции в истории нейронауки у нас в стране. Она базируется на идее, выдвинутой Сеченовым ещё в конце XIX века, что есть так называемые естественные группы клеток в нервной системе, которые воспринимают

34:48какие-то события внешнего мира. Идея Ивана Петровича Павлова, что есть связи, которые устанавливаются в мозге, ассоциативные связи – это физиологические процессы, с одной стороны, они происходят в нейронной сети, но когда возникают такие группы и перекрёстки между ними, то возникает слой, если мы назовём условно нервную систему слоем N, возникает слой N плюс 1, слой, на котором появляются у этих групп и у этих клеток новые когнитивные свойства, связи между событиями

35:28или событий как таковых, или объектов. И генерируется это всё сложными функциональными системами, это ещё третий компонент этой теории. Теорию можно себе представить как алгоритм, она ставит вопрос, откуда появляются те или иные новые высокопорядковые свойства в нервной сети, рождающиеся так, как происходит с всеми из нас, с вами, в виде вначале просто рассеянной группы нервных клеток в человеческом плоде, зародыши, которые эмигрируют, которые образуют друг в другом

36:16связи, но там нет ничего высокоуровневого, психического, когнитивного. Как возникает в конечном счёте абсолютно воспроизводимо с развитием каждого организма эти высокоуровневые, высокопорядковые свойства знаний, пониманий, мышления, в конечном счёте субъективного опыта и сознания? И теория говорит, что в основе этого лежит вот такая рекуррентная петля веерной продукции новых и новых элементов высокого уровня, где на начальной стадии петли организм, который рождается с небольшим набором врождённых поведений, сталкиваясь с задачами реализации этих

37:07поведений и неожиданными препятствиями, начинает генерировать новые варианты таких функциональных систем. В теории они называются оперонами. Это означает, что наш мозг постоянно, начиная с раннего детства, является генеративной нервной системой, он генерирует всё время новые пробы, новые варианты, которые нужны для достижения результатов имеющихся уже функциональных систем в условиях неожиданности новых обстановок. И в этом смысле наш мозг представляет собой растущее дерево из огромного количества таких функциональных систем

37:56с перекрещивающимися ветвями, где каждая ветвь является отростком из какой-то базовой функциональной системы, питательной, пищедобывательной, оборонительной, комфортной и так далее. Но генерирует огромное разнообразие новых вариантов этих решений, которые также со временем могут автономизироваться, то есть отсекаться от необходимости возникать только когда возникает голод и начинать реализовываться сами. Мы можем принимать пищу даже когда мы не голодны в тех или иных социальных условиях. То, что является средствами достижения результата,

38:40например, деньги для ребёнка, когда ему нужно купить машинку или пойти в кино, или купить мороженое, могут становиться самостоятельной целью, которая рождает следующие и следующие системы, растёт огромное дерево. Восходящая петля, потому что строятся всё время сложные интеграции из большого количества клеток, каждая из которых решает какую-то задачу. Каждая из этих систем – это мини-я, маленький я, который управляет в данный момент организмом. А наш организм в этом смысле – это огромный швейцарский

39:17нож, который имеет огромное количество функциональных систем, направленных на достижение разных результатов. Это даёт также огромную вариативность, это дерево различное у каждого из организмов в связи с его индивидуальным опытом. Кролик, который учился в клетке экспериментатора и выучил, что такое кормушка, что такое педаль, что такое кольцо, имеет другое дерево по сравнению с кроликом, который находился в свободной деятельности. На природе или в других домашних условиях.

40:05Но принципиальным является следующий момент. Что одновременно с тем, как генерируются новые и новые комбинации, композиции, такие функциональные системы, из-за того, что в нервной системе они пересекаются и вовлекают одни и те же нейроны в глубоких слоях, эти нейроны начинают приобретать свойства, общие для разных функциональных систем. Из-за того, что одна функциональная система игры с красным мечом и другая функциональная система совершенно другой ветки, дерева,

40:47поедание красного яблока и третья функциональная система, которая была связана с красной шляпой, оказываются пересекающимися на одних и тех же нейронах, эти нейроны способны становиться нейронами красного, то есть приобретать эти свойства. Нейроны лица, нейроны цвета, нейроны форм, нейроны объектов, нейроны концепции, нейроны математических символов, нейроны слов и так далее. То есть одновременно с тем, как формируется следующая композиция, она в этот же момент на нейронах, которые были в прошлый раз,

41:31рассыпается и дана декомпозицию невероятного количества атомарных элементов тех или иных когнитивных качеств и свойств. И утверждение теории, что этот процесс происходит в любой биологической системе, обладающей функциональными системами, то есть целенаправленным поведением и свойствами памяти и глубокой нервной сетью, потому что особенно в глубоких слоях нервной сети, где на нейроны сваливаются, инконвергируются предобработанные сигналы из очень разных сенсорных участков или моторных участков, учленяются высокоабстрактные характеристики.

42:19И теория говорит, что вслед за этой бета-петлёй, которая идёт вниз, если это уровень N, этот уровень N плюс 1, то это уровень N одна вторая, то есть это разбиение этих сложных систем на маленькие компоненты. Но несмотря на то, что это уровень разбиения, в нём возникает эмерженция, в нём возникают эти новые качественные свойства, которые мы видим и в естественных нейронных сетях, и в искусственных нейронных сетях.

42:51И теория говорит, что несмотря на огромное различие в том, как устроены естественные и искусственные нейронные сети, если их обучать в наличии глубокой нейронной сети и памяти, в них будет происходить эта нисходящая эмерженция, возникновение этих новых аналитических свойств, которыми начинают обладать клетки. Обратите внимание, что нейрон красного здесь возникает в разных функциональных системах игры с мечом, поедание красного арбуза, красные пожарные машины, которые не тренировали на свойства красного.

43:34Он возникает как бы бесплатно, for free, перекрываясь в этих функциональных системах и неся это качество красного. И третья петля – восходящая эмерженция или рекомпозиция. Из этих многих элементов, когда они синхронно активируются, они уже являются качественными, то есть когнитивно специализированными элементами. Их совместная активация способна создавать комплексы, которые и являются образами или сценами в нашем сознании. То есть это момент возникновения таких состояний, которые мы воспринимаем как целостные сознательные сцены,

44:16состоящие из огромного количества атомарных элементов, в которые мы вкладывали те или иные смыслы, когда обучались на альфа-петле. И поэтому возникает вопрос, есть ли искусственные нейронные сети, которые могут приобрести функциональные системы для самостоятельно активного обучения и ветвящиеся дерево систем, перекрывающихся на этих элементах, дающих новые качества, например, как нейрон отношения, сентимент нейронс или нейроны лица и так далее, приобретут или будут когда-то иметь механизмы объединения их в целостные сцены,

45:04то не будет ли у этих систем со временем возникать некоторые целостные субъективные, то есть приобретённые в истории обучения у этой искусственной системы целостные состояния и образы, близкие к состояниям сознания? У человека этот процесс происходит на протяжении всей жизни. В искусственных нейронных сетях разница заключается в том, что такие системы, как GPT, это не одна сеть, они тренируются сразу много сетей, но из-за сходства архитектуры

45:45то, что приобретается одной сетью, может быть передано другой, то есть может накапливаться этот опыт. У человека это невозможно, потому что в наших мозгах каждый мозг устроен по-разному, у него свои связи, формировавшиеся в индивидуальном развитии, они не идентичны, то есть они не реплицируемы. Системы искусственного интеллекта могут приобретать эти свойства. И поэтому возникает вопрос, куда идёт эволюция искусственных нейронных сетей. Появится ли у них агентность, то есть функциональные системы,

46:21дающие отношение этой сети к каким-то ситуациям во внешнем мире через её собственное поведение? Появится ли у неё субъектность, дающая субъективный опыт обучения этой конкретной сети? И возникли ли у неё сознания? Вопросы, которые перед нами стоят. АПЛОДИСМЕНТЫ Да. Значит, он имеет сознание? Кто? Если Вы говорите о субъектности, а субъектность — это характерно для сознания. В данном случае представьте себе такую вещь, что у Вас есть животное, которое имеет приобретённый опыт.

47:20Например, пчела или шмель, которая училась в ситуациях большого поля цветов, где находятся цветы с нектаром, как они выглядят, у неё много субъективного приобретённого опыта. Сейчас ведутся очень активные дискуссии. Можем ли мы сказать, что у таких объектов, имеющих субъективный накопленный опыт, есть состояние сознания? То есть, что они не просто накопили, но и чувствуют это? Вообще есть две минуты, может быть, можно задать вопрос?

48:02Можно вопрос задать? А, понятно. Я попробую погромче. А Вы можете задать, а я его повторю. Вы рассказали замечательное явление, которое происходит в искусственных нейронных сетях и в естественных нейронных сетях. Но зная их фундаментальные различия, что в естественных нейронных сетях нет никаких психологических процессов. Одни и те же нейроны могут использоваться в разных функциональных системах. А в искусственных нейронных сетях тексированная архитектура. И там, и там мы обнаруживаем появление нейронов, отвечающих за конкретные элементы.

48:38Например, нейрон Мерлин-Монро. Допускаете ли Вы возможность, что это обусловлено не тем, что искусственные нейронные сети идут по пути развития естественности. А просто тем, что решая задачу кодирования огромного количества информации в динамике. Мы подобрались в искусственных нейронных сетях к тем фундаментальным законам, которые определяют эффективность этого кодирования. То есть, существуют некоторые фундаментальные законы, которые оптимальным образом позволяют кодировать в динамике информацию. Может быть, гносеология должна изучать?

49:10У меня 40 секунд, я повторю вопрос. Вопрос был в том, что не может ли быть так, что при том, что очень различаются естественные и искусственные нейронные сети. И мы наблюдаем сходные феномены эмерженции внутри них. Это говорит о том, что есть некоторый фундаментальный закон максимального эффектирования, кодирования информации или знаний в системах. Неважно, как они устроены. Да, я не исключаю это. И вот Джеффри Хинтон, которого я цитировал, считает, что возникает в этих сетях и он считает, что там возникает истинное знание, что их тренируют на одно, на слова.

50:00Клиняют в этих словах некоторые свойства, фичерс, и сеть несёт на самом деле огромную сеть отношений этих свойств, многих фичерс, на которые её не учили, но она может их теперь использовать, потому что, как вот на этой схеме рассыпались эти квалоны, их дальше можно использовать в совершенно другой деятельности. Не исключено, область, время закончилось, увлекательных и очень важных исследований. Спасибо. Спасибо. Благодарим докладчика за интересную тему.