Искусственный интеллект и сознание

0:00¶И я счастлив, что мы можем закончить эту конференцию совершенно фантастическими людьми, которые у нас будут на сцене. И я рад пригласить на сцену Татьяну Владимировну Черниговскую и Константину Владимировича Анохина. Сцена Ваша. Татьяна Владимировна, Вам слово. А уж нам-то как интересно, чем это кончится, потому что мы друзья, как, наверное, многие знают, но мы занимаем практически противоположные позиции на этой шкале. Ну, может быть, не противоположные, но во всяком случае не сходимся.

0:44¶Поэтому никогда не знаешь, куда дело пойдёт. А я, знаете, хотела с чего начать. Вот я слушала предыдущую секцию, сидела и вспомнила. В 1934 году Хаксли, кстати, о птичках, да, он написал следующую вещь, что вот собираются конгрессы экономические, а также все говорят о том, что надо разоружаться, 1934 год. Надо, нам говорит, собрать совершенно другой конгресс. Это конгресс психологический, всемирный психологический конгресс, потому что от того, как мы с этим разберёмся, зависит

1:23¶остальное. Ну, посмотрим. Куда я должна щёлкать, чтобы… А, ну вот, поскольку просили слайды по-английски, то я и делаю слайды по-английски. Называется это, как вы видите, мозг и mind, которым никогда не понятно, как его переводить. Я бы склонна была его переводить либо как сознание, либо лучше как психическое или психика. В эту игру стали играть давно. Я думаю, что в основном потому, что лень

1:57¶– двигатель прогресса. Вот видите, такая была штука придумана, на которой разные книжки расположены, вот её крутили, и, соответственно, следующая книжка на следующей странице появлялась. То есть лень дошла до такой высоты, что человеку перевернуть страничку как бы самому не хочется или другую книгу в руки взять. Мы имеем дело с мозгом, и это ткань. Вот как бы не надо заблуждаться. Вот то, что здесь нарисовано – это

2:29¶не рисунок, естественно, а это электронно-микроскопическая фотография. И вот такую… Это маленький кусочек, и вот такую мы имеем сеть, и эта сеть вытворяет всё. Но вот как она это вытворяет, и каким образом связана эта ткань с тем, что изображено здесь, и что является свойством человеческого? То есть условно говоря, искусство и условно говоря, науки или даже математики. Ведь это другой мир такой. Вот меня поражает уже многие годы такая мысль, на первый

3:03¶взгляд она простая, а когда про неё, не дай Бог, подольше подумай, что оказывается, что она совсем не простая. Ведь люди – это такие существа, которые живут одновременно в двух мирах. То есть в миллионе миров, но в двух типах миров. Это мир стульев, бутылок, микрофонов, компьютеров, и мир, который они сами выдумали, то есть мир знаков. Этот мир физически нигде не присутствует, но он присутствует

3:33¶в гигантских объёмах и глубинах. Вот как раз в том, что называется «майнд». А как с этим «майнд» у существ другого вида? Ну, я здесь на всякий случай Дюрера, понятно, поместила, но я при этом имею в виду кого угодно. Если хотите, это может быть инопланетный разум, что, кстати говоря, очень серьёзная история. Или это может быть что-то, что присуще искусственному интеллекту, мы к этому вернёмся. Мы знаем, что там происходит,

4:04¶и, конечно, мы можем препарировать это всё и посмотреть, что там в мозгах у этого жука. Но ответит ли это нам на те вопросы, которые мы ставим? Мой ответ – нет, не ответит. Кроме того, мы заблуждаемся, когда мы считаем, что все остальные, кроме нас, они, ну, это вообще, они где-то совсем далеко находятся. Вот эти карикатуры, они, конечно, карикатуры, но, тем не менее, они показывают,

4:31¶что мы просто можем этого не знать. У меня ещё есть замечательная одна карикатура, просто я уж сюда решила не помещать её. Это английский дом, камин горит, сидит хозяин дома, курит трубку, читает газету, жена вяжет что-то, и на коврике лежит пёсик, перед носом у него лежит мячик теннисный, и он задумчиво смотрит. И хозяин хозяйке говорит, а бедный пёсик... Он только может думать, что об этом глупом мячике.

5:03¶А как это бывает в карикатурах, вот такое облако над головой этого песика, и там тангенсы, катангенсы, с какой скоростью куда чего летит, и у нас нет оснований считать, что это не так. Я, конечно, хулиганю и специально это обостряю, но если без провокации, то мы не знаем, что там происходит. Ну, мы, поскольку разговор наш про искусственный интеллект, мы будем обслуживать этот искусственный интеллект тем,

5:32¶что мы знаем про человеческий мозг. Скажем, какая физика в мозгу, какая математика в мозгу, а теперь я задаю вопрос, а какая физика в мозгу, какая? Это физика Ньютона, это физика Эйнштейна, это физика Нильса Бора и так далее. Я не физик, но я вынуждена была бы ответить, что все сразу, потому что мы же не в какой-то отдельной вселенной живем, мы живем прямо тут.

6:00¶В таком случае, когда, а ведь это, ну, мы не можем это обсуждать, естественно, но ведь это совершенно разные парадигмы. Вот как с этим мозгом мы будем иметь дело, учитывая, что там сразу несколько совсем отличных друг от друга, хотела сказать, алгоритмов, но не скажу. А математика какая? Пифагора, Римана, Лапласа, Лобачевская. Математика в мозгу. Вот когда мы смотрим на картинки, которые получаем из томографа

6:32¶и начинаем думать, что там такое происходит, то говорим, да, вот это и это нет, это так быть не может в мозгу, потому что это нелогично. Мой вопрос такой, нелогично кому? Мозгу логично или нелогично? Что у него-то? Это нам нелогично? Так это наши проблемы. Мы говорим алгоритмы из мозга, мы перенесем в искусственные системы, а что там только алгоритмы? Первый портрет, это, кстати говоря, незаслуженно

7:00¶неупоминаемый Корсаков, вообще-то родоначальник этих всех интеллектуальных игр. Первые интеллектуальные машины, так сказать, ему принадлежат. Потом, понятно, тьюринг, а потом вот эти железные. Юрий Лотман, я надеюсь, по крайней мере, часть людей здесь сидящих знает, кто это такой, это крупнейший гуманитарий наш. И он говорил, что человеческие существа это единственные, у которых есть способность к рефлексии, то есть к думании о собственном думании и о себе.

7:32¶И это существа, которые создают семиосферу особого характера. Семиосфера – это знаковый мир. То есть мы сами этот мир придумываем, вот придумываем в нём и живём. И, между прочим, он представляет для нас вероятно, как минимум, с чем физический мир, а думаю, что большую. Вообще, то, что сейчас на планете происходит, это на эту тему. Какие алгоритмы могут быть у Боттичелли, у Дюрера, у Рафаэля,

8:06¶у Леонардо Да Винчи? Я знаю, потому что я с этим сталкивалась. Уже там ряд сколковских вещей говорили, Боже, сейчас мы такую программу сделаем, она вам любого Леонардо изготовит. Хорошо, изготовит, но в этом не будет того, что делает Леонардо Леонардом. Это будет очень хорошая точная копия физическим образом. Мы не сможем отличить, но это я просто бросаю в зал для думания, потому что у меня аргументы есть, но некогда говорить.

8:36¶А музыка? Что такое музыка? Я специально ушла в эту сторону для того, чтобы показать наши, собственно, человеческие умения, которые не похожи, чтобы машина смогла сделать. Конечно, машину можно научить писать как бах. Ну, разумеется, можно. Ее можно научить писать анекдоты, выдумывать шутки, писать поэзию. А чего там? Если поэзия это розы, мимозы, морозы, то тогда все в порядке. А если это Бродский, то тогда

9:07¶черт из два. А вот что это черт из два? Вот то, что эти люди создавали, ну, сами видите кто, это вот что это? Это же наша человеческая, чего в других нету. Вот это или вот это, это я две наших Венеции как бы демонстрирую. Это не алгоритмы, это какая-то другая вещь. Причем она другая, когда ты на нее смотришь. Я понимаю, что вы мне можете ответить,

9:35¶я тоже не дурочка, понимаю это, что конечно, когда архитектор создавал это, и тем более строил, это жестко было, и все понятно с этим. Но когда ты плывешь на гондоле мимо этого, и у тебя останавливается сердце, то алгоритмы здесь ни при чем. Смотрите, Эйнштейн говорил, что что мы исходим из того, что внешний мир Он внешний мир, и мы его исследуем как независимые наблюдатели,

10:06¶как бы мы не участники этого дела. Ну, во-первых, с тех пор некоторое время прошло, и квантовые все идеи этому противоречат, но, тем не менее, классическая наука подразумевается как наука третьего лица, то есть учёные сидят в зале, мир на сцене, и они наблюдают за этим. Как бы дело, вроде бы они не вмешиваются, это не так. Есть такая страшная вещь, как квалия или впечатление от первого лица.

10:36¶Что с этим квалия делать? Квалия — это то, что я именно чувствую. Вот смотрю на Венецию, и дух у меня захватывает, это моё. Или я вкус, вкус вина, это мой вкус вина, он не измеряется ни граммами, ни спектрами, ничем. Тогда встаёт несколько вопросов, которые здесь и написаны. А это, вот это передаётся, квалия — это то, что не измеряется ничем. Оно может быть передано другому человеку,

11:08¶оно может быть искусственного интеллекта, оно связано с телом, это очень важная тема, вряд ли у нас будет на неё время. Вот как мы с телом обойдёмся в искусственном интеллекте? Я прекрасно знаю, какой ответ я могу получить. Да мы этот искусственный интеллект весь обвешиваем сенсорами, он будет получать слуховую, зрительную, вонятельную, осязательную, все виды информации. Я не про то и говорю, потому что это уши, глаза, кожа и нос.

11:38¶А я говорю про то, что у него в голове складывается после того, как он эту информацию получил. Поэтому для того, чтобы мы вообще могли о чём-нибудь договариваться, с жуком ли, с инопланетянином ли, или с соплеменником, или с врагом по планете, мы должны иметь общий контекст. И этот общий контекст, он важен и для живых, и для искусственных. Вот, к примеру, вот моя любимая вина здесь стоит,

12:09¶не единственная, есть ещё, но всё-таки вот эти. Вот они, а другой скажет, нет, а мне это кисловато там или сладковато. Это индивидуальная вещь. Я повторяю, для того, чтобы эта вещь была оценена, никакой искусственный интеллект не подойдёт, а подойдут люди, у которых есть знания и опыт, которые говорят, вот он попробовал один миллиграмм, и всё ему понятно. Людвиг Витгенштейн, великий, он написал одну вещь,

12:40¶я недавно на неё, может быть, год назад наткнулась. Он говорит, любой текст, текст — это не то, что буквами написано, а любое, не хочу слово информация говорить, но любое что-то, оно представляет собой ковёр, из которого каждый, кто смотрит, вытаскивает свои нити и, соответственно, считывает его индивидуальным образом. Вы не думаете, что я вас от искусственного интеллекта увожу? Квантовая физика говорила, наблюдатель — часть научной парадигмы,

13:11¶он решает, что он видит. Понимаете, это не то, что есть отдельно объективные вещи, а здесь сидит кассирша, которая там чего-то там выщёлкивает. Абсолютно не так. Поэтому данные, которые мы получаем, они зависят от нашего мозга, они не независимы, они зависят от того, что я знаю. Вот такие замечательные люди, Константин Владимирович знает их, конечно, они задавали вопросы, которые я уж не буду тратить время на то, чтобы прочитывать,

13:42¶но основная идея заключается в том, что мы находимся в определенных границах, которые ставит нам культура и наше сознание, и в зависимости от этого мы анализируем мир, то есть мир таков, каковы наши знания. Знания, понимаемые широко, не в учебном смысле, не то, что я там в школе или в университете прослушала, а знания о мире. А кроме того, высшие мозги, скажем так, они могут ещё анализировать то, что они анализируют,

14:15¶то есть вот это вот саморефлексия, о чём Лотман и говорил. Когда мы отправляемся в институты, которые изучают мозг как ткань, мы хотим там много всякого найти. Вот я задаю вопрос, а есть там место в мозгу для self, то, что называется, для моего я, это я? Вот где оно там? Мы просто совсем дурачки, если мы это место будем искать. Мы вообще дурачки, если мы будем там искать эти места, потому что места этих нету.

14:48¶Понимаете, когда вам напишут, что бутылки расположены в этом месте, а пирожные буше в этом, а солёные огурчики в этом, а маринованные огурчики в этом, вот не верьте, потому что, разумеется, мы такие данные найдём, но мы найдём и любые другие. А главное, что эта информация нам не нужна. Вот это то, что меня в последнее время очень волнует. Зачем нам эти адреса? Вот если мы возьмём нейрожурналы, будем их читать, смотреть, они все вокруг одного и того же.

15:17¶Когда он поёт, то вот такая часть мозга у него действует, а когда есть бифштекс, то вот такая. Вот она нам на какой вопрос отвечает эта информация? Ни на какой, ни на какой. Ухтомский Великий говорил, нет субъекта без объекта, как нет объекта без субъекта. Это про то же. И вот это про что. Если перед вами лежит том Шекспира или лежит папирус, на котором греческие, то есть греческие египетские тексты написаны,

15:49¶и вы не умеете это читать по разным причинам, не знаете букв или не знаете этой культуры, буквы знаете, прочесть не можете всё равно, это не более чем физические объекты. Бесполезно сканировать эти объекты, если у вас нет ключа к тому, как они декодируются. Ну и что? Они наступают, эти железяки, они наступают на нашу территорию по полной программе. Ну шахматы давно проиграли, альфа-гоу, ну не в этой аудитории говорит,

16:24¶всё понятно, что происходит. И она научилась играть в эти сомнительные как бы ещё недавно для искусственного интеллекта игры как гэ, го, сё, ги, без начальных знаний, за 24 часа она без всякого, так сказать, разгона играет лучше любого человека. Более того, у меня последняя надежда была ещё недавно, месяца два тому назад. Говорю, покер они не возьмут, потому что я наивно думала, во-первых, пэукофейс, где они возьмут это пэукофейс,

16:57¶во-вторых, блеф, правильно, я же вру всё время там. Как они разберутся? Честно говоря, я не знаю, как они разобрались, но в покер они нас проиграли, обыграли. Они играли с четырьмя лучшими игроками, кажется, 20 дней подряд, и эта железяка выиграла миллион семьсот что ли евро, но, разумеется, ей не досталось, отдали игрокам. Но это дело не меняет, они вошли на территорию, которую мы никак не думали, что мы сдадим.

17:28¶Вещь, которой искусственный интеллект в реакции сможет, это интуиция. Вы, конечно, скажете, всё зависит от того, как мы разберёмся с этой интуицией, ещё бы. Что такое интуиция? Пусть мне кто-нибудь скажет. А также пусть мне кто-нибудь скажет, что такое мудрость, например, что такое предвидение, например, и много разных. Вот чувствую я что-то не то, не знаю этого человека, но чувствую, что это не то, нельзя с ним дело иметь.

17:55¶Вот какой тут такой алгоритм будет? Эйнштейн, заметим, не художник, не поэт, не музыкант, а Эйнштейн пишет, воображение важнее знаний, потому что знания – это знания в ограниченной области, воображение охватывает большие пространства. В другом месте Эйнштейн пишет, интуиция – священный дар, разум – покорный слуга, то есть первой идёт интуиция. Как вы собираетесь её в эту штуку засунуть? Игры с внешней памятью начались очень давно,

18:31¶и это обеспечило нашу цивилизацию, потому что когда какому-то гению, а основных гениев мы не знаем, меня давно волнует, кто придумал иголку, например. Ну вот такие вещи самые серьёзные. Придумал кто-то, что стоит вынести знания на внешний носитель, потому что ты помираешь, хочется деткам оставить хоть что-нибудь из того, что ты знал. Вот стали писать, лепить, делать скульптуры, рисовать и так далее. Но мы же двигаемся, значит, другая память появилась.

19:03¶И вот начинается теперь, я заканчиваю, скоро вы не думайте, что я вас буду долго мучить, Смерть и боль, они в этих искусственных мозгах есть? Этот искусственный субъект, он же объект, он страдать может? Следующий вопрос, а мы можем игнорировать это? Мы можем сказать, что это как бы это не важно? Мы серьёзные люди, что вы нам рассказываете какие-то романтические игрушки? Там Тургеневские барышни падают в обморок, да?

19:38¶Но это как бы не просерьёзное, это просерьёзное, потому что если мы всё ещё хотим сохранить хоть какое-то место на нашей планете для себя, если мы решили сдаться, то я не возражаю. Но если мы решили не сдаться, то мы не можем сделать вид, что это не важно. Это мой последний слайд, потом я ещё несколько слов скажу. Вот это я сфотографировала над Финским заливом недавно.

20:03¶Вот такая вот красота совершенно небесная была. Вот что искусственный интеллект с этим будет делать? Я понимаю, что он её сканирует, всё поймёт, вероятно, он даже поймёт, что тут льдины и вода, и какое-то отражение, а он какое-то мнение, поэтому у него дух захватит или не захватит. Вот когда этот искусственный интеллект плывёт по Неве, скажем, в Белую ночь, потому что я в прошлую Белую ночь на катере там ездила,

20:30¶при том, что у меня несколько поколений в Петербурге живут, и я знаю всё это наизусть, у меня останавливалось сердце от того, как это красиво. Ему это красиво? И самый главный вопрос, ну, один из очень главных вопросов, это он понимает или он не понимает? Вот когда мы говорим, будет ли у него сознание, Константин Владимирович тут много чего расскажет, мы же договоримся, и мы не можем договориться,

21:03¶а что мы с сознанием будем считать? Понимаете, это уже тема настолько изъезженная, что даже скучно говорить про неё, потому что очень большой диапазон от понимания сознания, как любой реакции, и тогда сознанием обладает нейрон, тогда сознанием обладает инфузория, и это, кстати, близко к тому, что говорят буддисты. Вот мы ездили с Константином Владимировичем ещё с небольшим количеством наших коллег и друзей в Далай-Ламе, и там как раз это обсуждали.

21:35¶Они говорят, сознание было всегда, но оно часть вселенной. То есть тогда, если так, то тогда мозг для этого нужен? Вот дальше идут мои вопросы. Мозг вообще нужен? Всё равно какой мозг. Мозг, рядом с которым есть тело или тело неважно? Имитация тела, имитация сенсорных систем, имитация рефлексии. Вы хотите сказать, что мы так сделаем, что и не узнаем? Да, это известная философия проблемы зомби.

22:10¶Если перед вами стоит человек, который, ну всем как человек, себя ведёт безукоризненно, только мы знаем, что это не так, что он идеальная программа. Это жуткие вопросы, потому что, возможно, они должны быть сняты ответом. Если мы не можем узнать, значит, он не зомби. Но я не согласна с таким ответом. Но предположим так. Или тогда мы можем сказать, хорошо, а мы не зомби, часом?

22:37¶Вот я поленилась сумку взять в Сапсан сегодня утром. Вот такая книжка у меня. Are we hardwired? То есть вообще всё там заложено? Если да, то что? Нам место есть ещё? Я просто, чтобы больше вас не изводить, хочу сказать только такую вещь. Несомненно, это будущее перед нами. Оно, разумеется, будет. Мы сможем справиться, кончая тем же, чем начала. Нам нужен психологический съезд. Он, правда, не поможет, но как метафора.

23:12¶Мы должны понять наше собственное место в мире. Мы здесь что делаем, понимаете? Если речь идёт о том, чтобы коромыслом воду с речки не носить, тогда это одна история, и на неё я согласна. Я уж сто раз говорила, любимый предмет во Вселенной у меня – это стиральная машина. Если исчезнут стиральные машины, я отказываюсь продолжать это дело. Потому что если они вместо меня делают,

23:37¶если это барышня ходит, щи варит, грибной суп варит, тыквенный, всё замечательно, и поёт, но так, чтобы я могла отключить, то всё в порядке. А если они взяли всю территорию, если не секрет, чем мы будем заниматься? На это полагается отвечать, и это очень плохой ответ. А вот тут-то мы творчеству предадимся. Всё человечество сядет играть на лютни, некоторые на кефари, остальные будут писать как бы течели

24:05¶и сладкозвучно петь. Но, я думаю, никто не верит в это. Будет совершенно другая история. Будет одичание кошмарное. Значит, надо что-то придумать. Мы должны, вот дальше это, ну, я как бы шутливо говорю, но на самом деле я очень всерьёз отношусь к этому. Мы должны себе оставить какое-то место. Что мы будем делать? Я заканчиваю на том, что я не хочу говорить банальностей на тему восстания машин,

24:34¶потому что про это столько сказано уже, как бы скучно говорить. Потемряем ли мы контроль? Да, потеряем. По всей видимости, потеряем. Тем более, продолжая то, что вы здесь говорили, появился термин некоторое время назад, который мне страшно жалко, что не я придумала, но не я. Он называется, то есть не называется, а звучит как «Мир стал нечеловеком». Значит, что пошли величины, в которых люди не живут.

25:06¶В них не только люди, в них вообще никто не живёт. Наносекунды в них никто не живёт, нанометры в них никто не живёт. Меж тем, искусственный интеллект, который будет принимать решение о том, ударить по кимчаныну или не ударить, или наоборот, он это сделает с такой скоростью, что мы не сможем это прожить. То есть в этом смысле мы можем потерять интерес. Поэтому мой ответ такой,

25:31¶на заданный вопрос, возможно ли сознание искусственного интеллекта, мой ответ такой, мы про это не узнаем. Потому что это так же относится к естественному интеллекту, как к искусственному. У меня нет оснований считать, что все мы, не хочется матрицу опять вспоминать, все всё видели и читали, что это неизумительная машина, понимаете, неизумительная программа, которая так изощренно это делает, что она и нас убедила в том,

26:05¶что мы не программа. Как бы всех остальных, но даже мы сами уверены, что с нами это всё в порядке, что с нами в порядке. Спасибо, извините за шум. Сейчас мне Анохин брежет. Да, мне трудно. Я записал 26 пунктов, на которые я должен ответить. Простите, пожалуйста. Нет, пока слайды не надо, потому что мне надо на 26 вопросов ответить вначале. А мы работаем таким образом,

27:06¶что голос только у одного. Татьяна Владимировна отключили сейчас? Я буду молчать. Клянусь. Главное, чтобы мы могли обмениваться репликами, потому что я испугался, что у тебя отключили микрофон. 26 вопросов. Их больше было. Вот принципиальная вещь, которая, мне кажется, важна всей с этим. Я думаю, что мы должны всей с этим. Мое утверждение, что мозг без научной теории беспомощен перед всеми этими вопросами. Полностью беспомощен.

28:18¶Можно ходить тысячелетиями, кругами. Если нет теории, эти вопросы будут оставаться открытыми. Тезис номер один. Тезис номер два. Научная теория, я сказал. В принципе, этими вопросами задавались умнейшие личности, когда-либо жившие на Земле. Но они были философами. Это означает, что у них были философские теории, которые, как Эйнштейн отмечал, отличие науки от философии, не были связаны с эмпирическими фактами через предсказания. Значит, нужна научная теория,

28:59¶которая позволяет нам работать с неким материалом. Сложность заключается в том, что в этой ситуации мы должны работать с субъективным опытом, а не так, как мы привыкли с времен Галилея, с внешним миром, который интерсубъективен, по поводу которого разные наблюдатели могут договориться, и поэтому он объективен в этом смысле. Но вот этот главный тезис я бы очень хотел отстаивать на протяжении всей нашей дискуссии. Мы можем понять

29:43¶очень многие вещи, если у нас будет теория, раз, и она будет научной, то есть мы можем выдвигать гипотезы, связывать теми или иными способами с тем, что происходит в реальности, и в данном случае с субъективной реальностью тоже. Она должна быть проверяемой, так? Она должна быть рабочей теорией, проверяемой фактами. И вот первого лица обязательно. Идея разочаровавшихся психологов начала XX века, что нужно полностью отбросить субъективное

30:21¶и перейти на внешнее наблюдение поведения, она неверна. Так же как неверна идея, что нужно работать только субъективным опытом и не заглядывать в мозг. Как-то мы подозрительно согласны, я боюсь продолжения. У меня еще много пунктов согласия есть. А можно я вопрос один задам? Вот я прочла у одного серьезного философа, что если бихавиаризм прав, то, а дальше идет парадоксальное, то он не прав. Не прав он вот почему.

30:56¶Потому что если бихавиаристы, ну бихавиаристы, как известно, утверждают, что если это, то это, если это, то это, или это, то это. И все определено как бы тем, как ты научился. Но поскольку оно все определено, то это зачеркивает сам бихавиаризм. То есть он как бы сам себя вырубает. Я к тому говорю, что теории опасны. Вот как бы они не невинны. Это не все равно, за какую ты ручечку возьмешься.

31:26¶Ты в пропасть из нее слетаешь. Причем мы же говорим не о дурачках там или невеждах. Мы говорим о крупнейших людях. Уотсонс, Киннер, Павлов. Киннер был блестящим совершенно умом. Да, конечно, блестящим умом, фантастическим экспериментатором. Я была вот у него в лаборатории, но его-то уже не было в живых. Но просто, когда ты видишь... А я с ним встречался. А, да? Он приезжал в Англию.

31:50¶Я знаю, что он приезжал, но я не видела его. Я к тому, что это сильные люди. Мы не можем сказать, что они плохо думают, да? Или что они мало читали. Или что они умеют только на кнопочки нажимать. Ведь не в этом дело. Почему идет такой обвал с теориями? Я вот замолчу сейчас. Учитывая, что в эту игру играют очень сильные. Вот чего я не понимаю.

32:14¶Слабые бы играли, нечего обсуждать. И не только Скиннер. И епископ Беркли был неслабым человеком. Это к вопросам о том, в чем мы дальше можем быть не согласны. Они все были умнейшие люди. Мы с дьявольским сложным вопросом просто имеем дело. Но он решаемый, я думаю. Вот еще один такой вводный комментарий про психологический конгресс. То, что ты сказала о Хаксли. Я не очень давно для себя узнал удивительную вещь.

32:51¶Первый психологический конгресс состоялся в конце 19-го века. В 88-м году в Париже. И знаешь, кто был президентом психологического конгресса? Физиолог Иван Михайлович Сеченов. Хочешь устыдить меня. Нет, перестань. Я точно так же не знал это год назад, пока не начал какой-то биографический материал читать. Это, кстати, к вопросу о разделении наук. Я про это говорю. В каждой энциклопедии западной написано про Ивана Петровича Павлова, правильно?

33:27¶Психологист. Большой привет. Так, ну что, пошли по порядку. Про майнд. Майнд. Ты его переводишь на русский язык. Ясно, что огромное количество проблем. Мы, кстати... У меня был семинар у Кибрика на этой неделе. Да, я не могла быть на днях. Это наш выдающийся лингвист. И он был одним из прошлых президентов Ассоциации Когнитивных Исследований. А сейчас он директор Института языкознания. И директор Института языкознания.

34:06¶И он сказал, это к нашим дискуссиям, что он переводит майнд, он предпочитает переводить как ум. Это у нас дискуссия с буддистами. А, мы все переругались. Но вот я хочу сказать такую вещь. Мне абсолютно все равно. Любой перевод это вопрос договоренности. Если ты готов отказаться от бремени, смыслов, которые были навязаны тебе историей, я могу назвать это х и у. Для меня очень важно

34:32¶в проблеме обсуждения сознания сказать такую вещь, что для решения этой проблемы есть два ключевых понятия. Мы можем их назвать х и у. Но я называю одно из них майнд, а второе коншеснес. И за майнд я могу говорить ум или разум или психика. А сознание я оставлю как сознание. Что я имею ввиду? Что чтобы решить проблему сознания в мозге или в любом физическом носителе,

35:05¶который не является мозгом. Может быть это инопланетянин, который обладает сознанием и имеет некоторый физический субстрат. Может быть это искусственный интеллект. Но в любом случае для решения этой проблемы нужно иметь две вещи. Структуру, организованную определенным образом. И принципы этой организации мы можем познавать. И более того, мы можем сформировать универсальную теорию. А с нейроном как? С нейроном как? Никак. В том смысле, что это может быть

35:43¶сеть, которая реализована на других принципах. Важны некоторые организационные принципы. То каким образом будут устроены узлы, элементы в этой сети. Для этого наверное есть пространство возможностей. Но важно сказать, что первое, должна быть определенная структура. Про структуру я дальше скажу. Это не низкоуровневая структура. Это не кусок мяса или ведро макарон в виде мозга. Высокоорганизованная структура. А второе, что в этой структуре должны протекать процессы.

36:23¶И вот под термином mind или разум я понимаю структуру. Структура существует даже в тот момент, когда сознания нет. Когда она нас покидает в моменты глубокого сна или под наркозом. Мы просыпаемся и сознание возвращается к нам со всеми его индивидуальными характеристиками. Потому что все это время без сознания эта структура была и она его поддерживает. А сны? Сны это эпизоды сознания. То есть это эпизоды, когда эта структура

36:55¶работает в определенном режиме сознания. Значит первое mind это структура высокоуровневая. Я добавлю это слово. Второе в этой структуре, в любой структуре могут протекать или иные процессы если там есть факторы для активности. В этой структуре протекает много процессов. Скажем сразу, что масса этих процессов назовем их ментальными процессами протекает без участия сознания и вне сознания. Поскольку они настолько для нас привычны, что мы привыкли

37:27¶к ним в нашей ежедневной жизни, мы даже не понимаем как много их. И поэтому разные оценки говорят, что может быть 80, может 90% безсознательные. При этом ты не имеешь ввиду количество кальция, космоса. Речь идет о ментальных вещах. Ментальные процессы, которые могут быть мышление, которые могут быть творчество, которое вдруг выплескивается в тот момент, когда оно выходит на уровень сознания. Решение задач. Многие автоматизмы, которые

37:59¶мы делаем не обращая внимания, пока мы не столкнулись с каким-то затруднением, но эти автоматизмы требуют от нас очень когнитивных вещей. Мы должны ориентироваться в окружающем мире, когда мы там ведем автомобиль. Мы должны правильно воспринимать сложные объекты, которые являются ментальными категориями, чтобы повернуть туда-сюда, остановиться перед красным цветом и так далее. Это, безусловно, ментальные процессы. Не обязательно сознание. К ним можно относить мышление, разные вещи.

38:33¶Есть определенный тип процессов, которые мы называем сознанием. Я дошел до consciousness. Есть структура, в ней есть ряд процессов, трафик в этой структуре. Один из этих процессов мы называем сознанием, consciousness. Какое важное определение тогда сознания? Это процесс. Очень важно понять. Об этом говорили многие. Сейченов говорил, Уильям Джеймс говорил. Сознание — это не вещь, это процесс. Что-то должно протекать, должны быть состояния, они должны меняться.

39:09¶А тебя не смущает то, что получается здесь какие-то параллельные опять вещи? Много параллельных историй. Эти сложные процессы разного ментального, которые идут. И с другой стороны физические процессы, которые происходят в мозге. Ведь мы когда туда лезем в мозг, мы же хотим разгадку оттуда вынуть. Каузация — это одно, а корреляция — это другое. Все, что пишется в наших книжках и статьях, когда здесь это,

39:48¶то здесь это. Из этого не следует, что это порождает это. — Так вылезли, потому что там-то скаузация и накрылась всё медным тазом, и оно и у нас накрылось. Вот как с причинными-то этими делами быть? И то есть получается, что эта сеть ещё сложнее, Даша, твоих этих гиперсетей, гиперсетей, гиперсетей, потому что ещё и параллели эти дикие, нет? — Отвечаю. Нет, не случает, не смущает.

40:26¶Отвечаю, почему, хотя это неправда, потому что я хорошо учился в школе. — А, в отчисливчике. — Или в институте, и знал, что такое диалектический материализм. Иначе говоря, проблему, которую ты назвала, я собирался к ней всё равно вернуться на одном из пунктов. Я ищу, у меня есть про это слайды. — Ну я понимаю. — Заключается в том, что наивное, обыденное мышление, пытаясь проникнуть в эти сложности,

41:04¶идёт самым простым механистическим путём, редукционистским. И скачет как раз к этим корреляциям, между чем-то физическим и чем-то психическим. Я проиллюстрирую это. Но есть гораздо более совершенные методологические и философские решения этого вопроса. Есть вещи, на которые можно опираться. И то, что я делаю последние пять лет с теорией мозга, оно в значительной степени базируется на философский подход, который можно назвать диалектическим материализмом, можно назвать эмерджентным материализмом,

41:55¶можно назвать не физикалистским эмерджентизмом. — А если материализм оттуда никак не выкидывается? — Ты знаешь, выкидывается. — Я бы вот предпочла. — Можно... — Особенно Гегеля я ненавижу, я сразу хочу сказать. — Ты знаешь, с Гегелем у меня тоже были трудности. — Ну вот. — Но я перешёл сразу к Марксу... — Хорошо, что он не дожил, и у него нет с нами проблем.

42:16¶— Я перешёл сразу к Марксу и Энгельсу, поэтому было проще. — Можно назвать эмерджентным реализмом. Я пользуюсь таким термином, это очень важно. Это означает, что элементы более низкого уровня имеют возможность в ходе эволюции мира структурно организоваться таким образом, что появляется новый уровень, который является реальным. И он обладает своими каузальными свойствами, и максимальное проявление этого объекта выходит на этот уровень. Я, чтобы не быть абстрактным, приведу пример.

42:57¶Есть аминокислотная последовательность. Ты можешь её растянуть в линейку и посмотреть. Вот идут аминокислоты, они такие-то. И физически ты можешь описать белок на уровне цепочки аминокислот. Но мы знаем, что если его отпустить и поместить в среду, то он свернётся определённым образом. Из него получится либо рецептор, либо фермент, либо ионный канал, сложные трёхмерные структуры способности взаимодействовать. На уровне минималистичном, я его назову уровнем минимальной реальности,

43:32¶это аминокислотная последовательность. Но на самом деле белок, биологический объект, он имеет более высокий уровень реальности. Я его назвал эмержентным реализмом. На котором белок и есть белок. То есть все его каузальные свойства, способности взаимодействовать с лиганом, способности пропускать ионы, способность вызвать какой-то каскад реакции, если он является ферментом, они на его высоком уровне. И мы должны изучать его высокоуровневую организацию. А субстрат нам важен в таком случае, поскольку мы этот AI?

44:07¶Конечно, потому что эти объекты лежат на границе между разными слоями усложнений материи. И каждый из этих объектов является то, что я определяю как дуал. Дуал — это объект, который един, но он имеет часть, которая лежит на более низком уровне. ДНК и гены, пожалуйста, это тоже дуалы. Это набор нуклеотидных оснований, которые биохимикам и химикам были известны со времена Мишера и позже. Но только через какое-то время мы поняли, что кузальная их роль не в этом.

44:50¶Они кодируют единицы биологических объектов, которые осуществляют какие-то функции. У него тоже есть низший уровень и более высший уровень. И реальностью-то он является на более высоком уровне всегда. — А можно тогда сказать, что, я очень грубо скажу, безобразно грубо, что сознание — это функция сложности? — Да, но это будет недостаточным определением в том смысле, что оно будет не ложным, но не будет специфическим.

45:21¶— А знаешь, почему? — Жизнь тоже функция сложности. — Да, но если более конкретно, скажем, мозжечок страшно сложно устроен. Там чёрт знает, что в этом мозжечке творится. Но последнее, что с ним связывается, — это сознание. Это как же с этим быть? Это первый вопрос. А второй — вот эти железяки вы все их делаете. Вот они сложнее, сложнее, сложнее. Хлоп — порог, перешли.

45:46¶Значит, появление этого сознания, если мы согласны с таким ходом мышления, значит, неизбежно вот эта саморефлексия, этот селф, так сказать, я — это просто результат усложнения. — То есть какой-то такой общий закон, что ли, выходит? — Я ответил на этот вопрос, что первое — определение сознания, это функция сложности, нельзя отрицать. А второе — оно бесполезно, оно никуда не ведёт, потому что не объясняет, откуда по сравнению с мозжечком в коре берётся сложность.

46:24¶Значит, мы должны вести некоторые специфические характеристики этой сложности. Если мы будем серьёзно сейчас на этот вопрос... — То есть не всякая сложность? — Конечно, да. То есть это малоинформативная вещь, верная, но малоинформативная. Нам нужно другое, нам нужно определить, где появляются уникальные свойства этого субстрата разума, который даёт процессы, являющиеся процессами сознательными. И теория должна ответить на эти вопросы. Я думаю, что такая теория вполне возможна, она рабочая,

46:57¶она может иметь дело с эмпирическим миром, то есть мы можем двигаться. Но давай я пройду дальше по твоим вопросам некоторым. Ты говоришь, что эта сеть, нейронная сеть, вытворяет всяческие вещи, но там есть ещё и сознание, разум и мы. И как с ними быть? Как быть с ними у других существ? Это пункт, мой главный тезис, нужна теория. — Согласна полностью. Но как ты знаешь, не хуже меня, вся эта история не в замкнутом пространстве происходит.

47:48¶Есть внешний мир. — О, конечно. — Вот оно, поехало. Я ещё на заре искусственного интеллекта говорили, умные люди, они говорили, для того, чтобы эта штука вообще чего-нибудь могла, в неё надо вложить, восклицательный знак, картину мира. Заметим, не информацию о мире, а картину мира. То есть, вообще-то говоря, Вселенную, вот всё туда вложить. И это абсурд уже, с которым как-то делать нечего. — А это тоже не я, но я пересказываю.

48:22¶— Я думаю, что если мы обязаны сказать обязательно, что разум вписан во внешний мир и мог сложиться только в взаимодействии с этим внешним миром, то это не слова «О, теперь поехали, и весь мир», а это как раз конструктивная часть теории, которую мы должны никогда не забывать. Потому что я могу назвать выдающихся современных учёных, которые занимаются теориями сознания, нейробиологическими, математическими, которые, в принципе, строят всю теорию на внутренних коммуникациях мозга с мозгом

48:59¶или разума с разумом, игнорируя огромный, на самом деле, багаж философии и нашей философии теории отражения, что эти структуры могли... Первое. Они не могли возникнуть некоторой вспышкой творения. Им нужна была длительная аккумулятивная история. И эта аккумулятивная история должна была происходить во взаимодействии с внешним миром. — В этой истории был вектор. Я помню, я когда первый раз услышала... Одна из Гордоновских передач была, мы ещё знакомы не были.

49:38¶Вы, по-моему, с Павлом Балабаном там говорили. И там была вещь одна, которая меня тогда же поразила. А именно, что вся история, вся эволюция была направлена на то, чтобы... Я грубее говорю, естественно, чем. Там было сказано, что появился сложный мозг, который способен ко всему, что мы знаем. Это значит, что у эволюции есть вектор. Каждый момент гена, работающего в какой-то ткани по каким-то причинам,

50:37¶был выбран естественным отбором, то есть эволюция увидела, заметила эту мутацию и зафиксировала её как полезную. А для чего? Сейчас скажу. Для выживания. Только? То есть мы только для того, чтобы... Меня знаешь, чего не устраивает? Если мы согласны с тем, что мы, как, впрочем, с другого бока, Фройд этот жулик намекал, если мы просто существа, переваривающие пищу, ну, как бы, чтобы не помереть, тогда другой разговор.

51:11¶Но если мы не такие существа, а у нас есть более серьёзные занятия, чем пищу переваривать, то почему, для чего это делалось? Ведь, ну, есть же вопрос, для чего? Я не могу согласиться с тем, что только для того, чтобы выжить. Это какой-то очень простой механизм для эволюции такого высокого класса. Да, но ты относись к этому спокойно, в том смысле, что... А что делать-то? Будешь спокойно...

51:39¶Подожди. В том смысле, что мы можем рассмотреть вот этот вопрос, кажется, сложным, либо в онтогенезе, в индивидуальной жизни, либо в филогенезе. Он одинаковым образом решается. Он начинается с того, что есть некоторый стартовый импульс, очень примитивный. Ребёнок, который рождается на свет, ему не важны ни дворцы Дожи в Венеции, ни Леонардо да Винчи, ни Фоги Баха. У него очень примитивные потребности. Но по мере того, как он их удовлетворяет, дифференцируясь и дифференцируясь,

52:16¶эти начальные потребности делают две вещи. Первое, они ограничивают некоторую траекторию движения. Ему нужно то-то, то-то и то-то. Пускай это пять простых вещей — есть, пить и спать и так далее. Но по мере того, как он начинает развиваться и сталкиваться с этим миром, да, ему нужны 10 копеек для того, чтобы купить мороженое. Но потом, может быть, ему уже нужны эти деньги не для того, чтобы покупать мороженое.

52:42¶Он превращается в финансового магната, который всю жизнь посвящает тому, что было когда-то вообще несуществующим. Или становится великолепным музыкантом, хотя у него не было этого заложенного исходного. Это пошаговый процесс. И в эволюции то же самое, что организмы начались очень примитивных. И им нужны были какие-то потребности для творения гомеостаза. Но чтобы их решить, они должны были делать в среде то-то, то-то и то-то. И у них появлялись вторые потребности.

53:12¶У них появлялось потомство, за потомство нужно было ухаживать. У них появлялось половое размножение, которого раньше не было. Нужно было начинать ухаживать за половым партнёром и так далее. Ты задаёшь очень важный вопрос. Ответим ли мы на все эти вопросы и проблемы о том, как этот мир наш внутренний связан с мозгом, если будем просто смотреть на то, что есть в мозгах? И ты говоришь, мой ответ – нет, не ответим.

53:41¶Я с тобой солидарен на ровно 50%. Если мы будем смотреть на мозг, как на него смотрели до сих пор, как смотрел Декарт, который анатомировал и припарил его мозги, и у него лежали эти куски мозга, и он искал непарный орган, к которому может локализоваться душа, эпифиз. Как смотрели физиологи и анатомы практически до последнего времени? Как на ведро мозгов в этих структурах возникают высокоуровневые дуальные структуры,

54:18¶такие же, как… Понимаешь, твой вопрос, глядя на мозг, ответим ли мы на то, что такое разум и сознание, он может быть сформулирован и таким образом. Откатимся на 100 лет назад, на 1918 год, и посмотрим на ДНК. Ты знаешь, наверное, что если ДНК выделить, и это то, чем занимались уже биохимики, это будет такая сопля полупрозрачная, которая можно там, она свернется в спирте, ее можно садить и так далее.

54:52¶Вот ты после определенной процедуры изоляции, когда освободишься от белков, клетчатых мембран, ты можешь ее вытащить пинцетом, она будет такая висеть. И вполне можно было бы задать тогда вопрос, глядя на эту соплю полупрозрачную, ответим ли мы, что такое наследственность, жизнь и так далее. Нет, не ответим, если не будем понимать ее организацию и иметь высокоуровневые теории, которые объясняют, где там кодируется информация, каким образом.

55:20¶Я думаю, что мы с мозгом стоим таким же образом. Если мы возьмем мозг, положим его на тарелку, и будем на него смотреть, и разрежем его пополам, потом пополам, потом пополам, и смотреть, ответим ли мы, где там высшие процессы память, например, индивидуальность. Нет, не ответим. Но нам надо научиться, нам нужна новая нейронаука. И так происходило во всех периодах развития науки. Физика должна была изменить себя и некоторые свои вещи для того,

55:55¶чтобы объяснить свойства химии. Химия должна была возникнуть, новая химия для того, чтобы объяснить биологию. И сегодня биология, в том числе биология мозга, недостаточно просто смотреть на мозг, как на ведро макарон. Она должна искать эти высокоуровневые структуры и процессы в этих высокоуровневых структурах, которые объясняют психологию. Это значит математика, широко говоря. В значительной степени это должно завершиться формализованными математическими теориями, которые должны представить эти высокоуровневые слои

56:34¶как математические структуры. Если нам хватит имеющейся математики, что мы уже не раз говорили, возможно, нужен какой-то... Я-то думаю, что математика, вот этот кусок, когда ты задавала вопросы, какая физика, какая математика, это же не вердикты, что физика в мире бывает Ньютоновская, Эйнштейновская, это наши теории. И я думаю, что то, что ждет будущее, и, может быть, совсем недалекое будущее, это следующая вещь, что точно так же,

57:08¶как в эволюции физики в XVII, XVIII, XIX, XX веке математика выступала так же, как прикладная дисциплина, обеспечивающая понимание и формализацию физических принципов, и сама развивалась благодаря этому. Если математический аппарат развивался, то с исследованием структур мира, который мы еще не до конца понимаем, мира высокоуровневых структур мозга, разума и сознания, будут свои прорывы и свои новые шаги в математике. Мы не должны в таком случае смотреть с особым обожанием

57:51¶на программы типа Excel или MATLAB, которые, знай, гоняют, если здесь столько-то бутылок, то здесь столько-то ягнят родилось. — Да нет, конечно. — Это же не... Ведь как математика в наших науках используется? Как статистика, если всерьез-то? И что нам от этой статистики? Ну, понятно, что без нее в науке никуда деться нельзя, но на главные-то вещи она никак не идет туда. — Еще одна вещь, по которой я с тобой очень солидарен,

58:23¶целый блок большой, но наполовину солидарен. Это твои соображения по поводу того, какие сложности мы имеем в сегодняшней классической науке, где мир физический, внешний, и мир ментальный, внутренний разделены, и мы выступаем некоторыми наблюдателями, которые смотрят, что происходит в этом зоопарке, находящемся через нас за решетку. Я думаю, что очень большие преобразования, которые нас ждут в связи с развитием науки о мозге, как науки о высшем мозге, BrainMax,

59:16¶это будет новая теория познания, которая будет иметь очень большое количество компонентов того, что ты сказал. Она будет сильно завязана на то, что то, что мы познаем, существенным образом определяется содержание нашего разума, нашим субъективным опытом. То есть любая информация, которая приходит, она зависит от нашего когнитивного аппарата, от когнитона. Это с одной стороны. С другой стороны, я не вижу большой проблемы и необходимости использовать парадоксы и софизмы.

59:57¶Они нужны как инструмент. Внимание для взрыва. То же самое, что мы с тобой сейчас обсуждали, а именно, что наше восприятие мира существенным образом зависит от того, что мы уже имеем внутри себя. И мы видим те вещи в окружающем мире, на которые у нас есть когнитивные элементы, рецепторы, если хоть, рецептивные поля. Разделяемый контекст. Мы вообще не сможем разговаривать, как бы много не знали, там, ты и я, или любой другой.

1:01:05¶Разговора нет, если нет разделяемой какой-то части, что мы вообще принимаем, о чём мы говорим. Вот как с этим будет в искусственном-то этом мозге? Где он этот контекст-то собирается взять? Ещё один вопрос, а он умом не тронется? Между прочим, на психиатрию я не в шуточном смысле говорю, а на психиатрию стоит обратить внимание, серьёзно. Сейчас у нас просто времени нет об этом говорить. Вот давай я всё-таки про Ухтомского закончу.

1:01:37¶Фраза очень знаковая. Нет субъекта без объекта. Это вообще говоря материализм. То есть, иначе говоря, материя первична, дух вторичен. Это одно решение проблемы. Второе – нет объекта без субъекта. Это идеализм. Он взял и соединил эти две философские позиции в одном. Как я понимаю, вторая часть – это отражение дискуссий, которые велись вначале. Вот эту формулировку «нет объекта без субъекта» я видел у Плеханова, когда тот описывал идеализм Беркли,

1:02:23¶а потом Ленин критиковал Плеханова в каких-то местах и цитировал его критическое высказывание по поводу «нет объекта без субъекта». А может быть ещё и семейное, потому что его брат был архиепископ, который был расстрелян. Так что это знаменитая семья князья Ухтомского. Но парадокс-то решается, потому что нет субъекта без объекта. Мир развивается таким образом, что вначале психики и сознания не было. Это эволюционный процесс. Нет объекта без субъекта –

1:03:06¶это означает, что мы накопили какой-то опыт в результате этого эволюционного процесса. Он был связан с задачами нашего соотношения с окружающим миром. И поэтому мы видим те вещи и дробим мир, как мы на протяжении многих шагов в эволюции, а зато в нашем детстве и развитии формировали свой когнитон. И когда он у нас таким образом сформирован, мы эти вещи воспринимаем, а эти диапазоны длин волн, звуков и так далее –

1:03:41¶мы в них не живём. Но если смотреть на мир не диалектически, не исторически развивающий, скажешь, что это парадокс. А на самом деле это не парадокс, просто это этапы развития. Жизнь так вышла. Ты к тому, что с медузой не побеседуешь. С медузой не побеседуешь. Это был твой ещё один вопрос, можно ли передавать квали друг другу. Можно, если у нас есть зеркальные системы. Они, между прочим…

1:04:17¶Помнишь высказывание Пола Маклина, знаменитое, вокруг которого ходили кругами в 60-е годы? Когда психиатр или психоаналитик кладёт пациента на кушетку, он должен помнить, что он имеет одновременно человека-обезьяну и крокодила перед собой. Мы являемся накоплением большого количества эволюционных достижений интеллекта и разума, которые на каких-то стадиях роднят нас с другими животными, млекопитающими птицами, которые разошлись когда-то от нас. далеко, они на нас не похожи, но у нас были общие эти куски, и поэтому, когда

1:05:04¶собака смотрит на то, что ей показывает хозяин, много очень красивых исследований про зеркальную систему собак в том смысле, что они имеют зеркальные системы, позволяющие отражать и понимать, что имеет в виду человек, то есть они способны, мы способны сопереживать собакам в каких-то вещах, не всех, и они способны понимать намерения, желания, эмоции человека, потому что какой-то кусок общего пути мы прошли вместе, нам его достаточно, то есть ответ на то, можем ли мы передать

1:05:39¶то-то или другое другом, зависит от того, какие из функциональных систем у двух объектов являются общими, но вот у летучей мыши есть те функциональные системы, которые нам не доступны, мы не знаем ультразвукового мира, в котором она живет, да, мы никогда это не почувствуем, но с другой стороны, есть же мир, есть два режима модуса познания, один из них это пропустить это через собственные переживания, через собственный опыт и таким образом

1:06:10¶понять, а второй это тот, который изобрела науку, сделать это объективно, даже если ты не имеешь точно таких же систем сенсорных для восприятия, ты делаешь это логическим научным путем, в виде теории гипотез, хотя почувствовать ты этого не можешь, ты не можешь почувствовать ультразвуков. Ты помнишь, конечно, теоретик биологии, Яков фон Укскюль, который, да, он придумал, это даже не переводит этот термин, такое понятие умвельт, и он

1:06:47¶говорил, что каждая существо, точка, точка, здесь уже не точка запятая, просто жирная точка стоит, при этом у него, у него есть внук, который носит ту же фамилию, который психиатр, он семиотик само собой, но он еще и психиатр, и он распространил эту дедушкиную идею на людей с психическими девиациями, он говорит, что человек, у которого шизофрения, ну, к примеру, шизофрения, ну, в общем-то, с измененным

1:07:26¶сознанием, он тоже живет в своем этом умвельте, и ему там хорошо или плохо, но он там как-то разместился, и основная идея заключается в том, что это непроницаемые вещи, ты не можешь войти в этот умвельт, он там сидит в этой ловушке, и все, независимо от того, он медуза или он больной с галлюцинациями. Это сложности, конечно, но тут важно не делать, наверное, слишком крупных

1:07:56¶обобщений, обобщений, типа, что у каждого свой, да, и Экскель говорил, что, да, умвельт у коровы, которая продирается через кусты, и у клеща, который висит и реагирует на тепло, чтобы упасть на нее, совершенно разные, но все-таки у нас с тобой перекрывающиеся умвельты, и у собаки с человеком перекрывающиеся, и у собаки с коровой перекрывающиеся, то есть есть возможности понимания, и в этом назовем его зеркальным модусе 1, со переживания и общих квалерий, но есть все равно второй режим.

1:08:37¶Вероятно, я сейчас подумала, что вот эти зеркальные, эти системы, которые в эволюции образовались, это, наверное, вообще ключевой такой рывок к тому, вот о чем мы говорим, вот это, наверное, вообще важнейшая вещь, потому что она, возможно, я сейчас об этом думаю в данную секунду, она, возможно, прорывала. эти границы то есть как бы вот здесь ты здесь я а здесь эта стена бесконечная вот эти зеркальные системы мозговые они каким-то образом через это дело

1:09:12¶проникают и мы должны над ними работать потому что мы сами их у себя создаем если мы создали тогда мы можем понять да мы должны над ними работать но но потенция влог но так как с генами как бы с чем родился с тем родился а уж что включиться это папа с мамой пусть думают как бы как это дело включить у меня было ехидное замечание одно я заметил но ты можешь

1:09:39¶возразить и может быть я не прав я не точно уловил повод для ехидства я заметил как мне кажется некоторая внутренняя не согласованность двух участках твоих заявлений с одной стороны ты говорила о том что посмотрите на произведение искусство вот я плыву на лодке по каналам венеции вижу этот дворец и дух захватывает от этого и как это можно сделать согласен а потом ты говоришь

1:10:19¶теперь посмотрим чего достиг искусственный интеллект за последние годы и говоришь но альфа го ну думали что ну шахматы ладно сдали но го никогда дальше ты говоришь но но хорошо го но покер я думаю думаю они не возьмут это не наша территория то есть не их территория это наша территория и мы думали что мы ее не сдадим а сдали какие гарантии что двигаясь по этом пути который быстро достаточно я вижу я вижу этот трюк я

1:10:58¶полностью принимаю упрек я просто не знаю что с этим делать потому что ну мы же люди живущие вот в этом мире я имею ввиду мы думаем все время ну или время от времени на таким серьезными вещами я сама себя все время ловлю на на том что я сама себе заметим это не для публики не для сцены там не для чего что я сама себе говорю противоречивые вещи я не знаю

1:11:24¶что с этим делать поскольку я не дура извините то я понимаю как бы что ну я же могла бы прикрыть так сказать глаза и сказать я всех умней поэтому успокоимся нет ну я же вижу что не стыкуется это это это просто я не знаю как из этого вылезти то что мы сдаем позиции это очевидно но сдадим ли мы нет хуже я вопрос поставлю я хотел сказать задим ли мы последний рубеж но

1:11:53¶я иначе вопрос поставлю мы знаем этот рубеж вот так вопрос стоит не так что мы сдадим а мы вообще мы его это я с тобой согласен я можно я теперь покажу как раз несколько слайдов вот вопрос о которых я думал в связи с этой сессией во-первых я сразу скажу я не готов отвечать на вопрос создадим ли мы искусственный интеллект с сознанием я здесь похож на известного лектора

1:12:33¶который говорил есть ли жизнь на марсе мы любимый лектор нет ли жизнь на марсе науки этого неизвестно мы пока не можем это сказать но задуматься над некоторыми вещами и начать работать над ними я думаю мы должны первое если мы обсуждаем острую проблему сознания кстати должен сказать что Все, как и в искусственном интеллекте и в других местах, идет волнами. Сейчас стало очень заметным внимание к проблеме сознания у искусственного интеллекта.

1:13:21¶Это в значительной степени связано с тем, что в последние годы достигнут прогресс заметной в области нейробиологических и нейрофизологических основ сознания. Но если думать, что это новая вещь, то вовсе нет. Я помню, в конце 80-90-х годов я работал в Англии, и там была очень известная группа Игора Александрова в Imperial College, которая занималась созданием сознания у искусственного интеллекта. Потом это просто пошло на спад, сейчас оно заново идет вверх.

1:13:57¶Но чтобы работать с этими вещами, мы должны иметь какие-то опоры. Одна из них — это как мы могли бы определить сознание наиболее прагматично, не эмоционально, а операционально, универсально, так чтобы мы могли наложить эти признаки на любой незнакомый нам объект или объект, который не может нам рассказать, обладает он сознанием или нет. Например, есть ли сознание у новорожденного ребенка, а есть ли сознание у недоношенного ребенка,

1:14:33¶который сейчас медицином достигло потрясающих успехов и может выхаживать детей, которые рождаются там за многие недели, месяцы до нормального срока, они обладают сознанием? И оно постепенно появляется позже. А что в отношении осьминога, у которого восемь нервных систем, одна центральная нервная система, или инопланетянина? Как мы можем определить, обладает он сознанием или нет? Или когда появится это сознание у искусственного интеллекта? В какой момент? Это твой отчасти вопрос.

1:15:07¶Мы должны будем сказать, да, появилось. Для этого нам нужна теория сознания. И эта теория должна быть фундаментальной. Она должна быть не привязана к крыльятам сознания у осьминога или в нервной системе человека. Она должна быть принципиальной. Это философский прорыв вообще должен быть? Я думаю, что и философский, и научный. Научный ясно, но то, что здесь философ играет огромную роль, философ или философия там неважно.

1:15:40¶Это совершенно точно. Мы никуда не денемся. Сколько можно это собирать? Но ты понимаешь, что здесь важная вещь. Когда возник кризис в квантовой физике в середине прошлого века, Эйнштейн писал, что сейчас философия для физиков играет гораздо большую роль, чем несколько десятилетий назад. Мы сейчас находимся в такой ситуации, что и нейроученые, и нейробиологи сами не могут справиться с этой проблемой. Философы не могли справиться с помощью своих методов с ней веками,

1:16:19¶но теперь они есть и те, и другие, и им бы надо работать вместе, а не по отдельности. Следующий вопрос, который мне кажется прагматический, потому что он ведет к определенным задачам исследовательской программы. Что требуется, чтобы получить сознание у искусственного интеллекта? Не может ли искусственный интеллект обладать сознанием? Не есть ли жизнь на Марсе? А совершенно другой прагматический вопрос. Что мы должны сделать? Какие архитектуры должны возникнуть у искусственного интеллекта,

1:17:00¶чтобы в этих архитектурах появилось то, что мы должны по первому критерию первого вопроса правомерно определять как сознание? А нам нужно это? Следующий вопрос. Какая может быть от этого польза? Какая может быть польза вообще от сознания? Это один из ключевых вопросов для того, чтобы определить, что такое сознание, как оно возникло, каковы были движущие силы? Причина сознания играла какую-то утилитарную роль. Большинство специалистов в области естественных наук

1:17:41¶склоняются к тому, что да. Значит, тогда за счет каких механизмов, каким образом, почему это важно для искусственного интеллекта? Мы можем понять тогда, если мы добавим в архитектуры искусственного интеллекта сознания, то какой турбонаддув мы можем получить? Какой буст? Какой прирост даст эта система сознания? Два других вопроса. Они уже уходят из технических, инженерных вопросов в скорее этические вопросы. Первый ведет ко второму. Неизбежно ли эволюция искусственного интеллекта

1:18:30¶должна будет привести к возникновению у него сознания? Таким образом, что если дать ему течь некоторое количество лет, то у нас уже заложены предпосылки. Точно так же, как в эволюции. Прошло несколько сотен миллионов лет, но были заложены некоторые стартовые условия, а потом это работало, работало, работало. И в разных ветвях животного царства, порона, сминогов, у собак, у человека мы получили субъективный опыт. Такое же произойдет с искусственным интеллектом?

1:19:01¶Или нет, или не обязательно? И если не обязательно, если возможна эволюция искусственного интеллекта без сознания, то хотим ли мы его у искусственного интеллекта? И это уже и прагматический, и этический вопрос. Зачем нужно знать ответы на все эти вопросы? Мой ответ – чтобы точно знать, как сделать такой естественный искусственный интеллект, который не будет обладать сознанием. Боже, вот ведь подарок сделал! Я думаю, что двигаться надо в этом направлении.

1:19:51¶И из этого следует не тривиальный вывод и заключение, про которое я не слышал, чтобы говорили те, кто занимаются сознанием. Но оно, на мой взгляд, становится сегодня одним из доминирующих. Особая важность исследований и понимания нервных основ сознания сегодня нейробиологиям состоит в том, что надо это точно знать, чтобы избежать тот путь развития искусственного интеллекта, который приведет к появлению искусственного интеллекта сознания. За этим стоят многие соображения.

1:20:32¶Причем научные соображения из тех научных теорий, которые нам сегодня в науках о мозге говорят, что такое сознание, вытекает ряд его свойств. И мы не хотим, чтобы эти неизбежно связанные сознанием свойства появились у нашего искусственного интеллекта. Например... В 2012 году в Кембридже была конференция международная. Она проходит каждый год. Это называется Ассоциация научных исследований сознания. И она приняла кембриджскую декларацию о сознании у животных,

1:21:19¶в которой говорится о том, что накопившиеся научные данные заставляют нас считать, что сознание, так как оно воспринимается сегодня в науке, я скажу дальше пару слов об этом, как субъективный опыт, присутствует в очень широких таксонах животного мира, в том числе и у осьминогов. Что это означает? Это означает, что эти существа обладают субъективным опытом, а это значит, например, что они способны испытывать боль, они способны страдать.

1:21:58¶И в Англии ведутся очень серьезные юридические дискуссии по поводу того, каким образом дальше, например, вести рыболовство, потому что ученые, ведущие зоологи, наэробиологи Кембриджского Оксфордского университета, показали, что рыбы способны испытывать эмоциональные переживания и способны испытывать чувство боли. Поэтому мы не можем к ним относиться, как долгое время относились к рабам в средние века или к крепостным крестьянам, а потом к скоту и так далее,

1:22:36¶считая, что они не обладают этим субъективным опытом, таким же, как у высших слоев общества или как у человека по сравнению с животными. А раз так, и это неминуемое свойство сознания, эти эмоции, эти переживания, это чувство боли и так далее. Если мы создадим искусственную систему, которая будет обладать сознанием, мы получим все эти последствия, мы получим эти страдания, мы получим смерть этой системы и вопрос того,

1:23:10¶когда мы можем и имеем право прекратить существование этой системы, так же, как мы решаем этот вопрос своим любимым домашним питомцам. Мы готовы усыпить его, если он страдает от опухоли или попал под машину, травмировал себе какие-то внутренние органы и ему трудно жить дальше. И подумайте, с каким трудом вы расстаетесь в этих ситуациях с животным, который обладает сознанием. Сознание. Я сказал, что надо определить.

1:23:49¶Как определяется сегодня сознание? Первое — это состояние целого организма. Мы не знаем ситуации, когда сознание было бы у каких-то частей, у отдельного мозга, лежащего на тарелке и так далее. Это целостное состояние. Второе, что сознание характеризуется всегда содержанием. Это то, что Татьяна Владимировна сказала, как квалия. Оно имеет субъективный компонент, но оно имеет также и информативный содержательный компонент вместе с этим субъективным. Каждый кадр нашего сознания, каждое состояние того, что мы испытываем,

1:24:29¶характеризуется этой уникальностью. Это процесс мозги. До сих пор мы не знаем, наука не знает, документированная наука, не знает ни одного подтверждённого случая, чтобы сознание существовало без мозга. Мы можем довольно спокойно об этом говорить. Ну и вот, и многие философы, и многие нейроучёные сходятся на приблизительно таком случае. Сознание — это комплекс, состояние бодрствования, осмысленное восприятие, наличие ощущений, эмоций, воли, намерений, целей, мышления, — любой субъективный опыт.

1:25:15¶И вопрос, каким образом мы хотим связать это с мозгом. Давайте я, может, дальше не буду, я скажу одну вещь. Масса трудностей, мы про это говорили. Если сейчас посмотреть на зал и спросить мнение на соотношение сознания и мозга, то распределение будет приблизительно вот таким. Это данные по большой статистике опроса людей в отношении того, кем они являются в решении проблемы, в разных философских решениях проблемы.

1:25:54¶Очень много дуалистов, хотя здесь дуализм и не обязательно кортезианский, то есть дуализм не субстанциональный, а дуализм свойств. — Это взрослые образованные люди? — Взрослые образованные люди. Есть очень интересная, кстати, статья у меня, где такой же оценке были подвергнуты профессионалы, то есть учёные, работающие в области неврологии, нейрохирургии, нейронаук, и так далее. — Вот это очень интересно. — И там всё тоже непросто. — Мы знаем это по некоторым отдельным учёным, вспомни

1:26:29¶Коха. Я хочу сказать про одну сложность, мне кажется, она особенно важна специалистам, имеющим дело с железом, то есть физическими процессами. Сложность, мне кажется, заключается в следующем. У неё есть слово «физикализм», это некое спонтанное философское мировоззрение, которое существует, когда человек думает, что у него нет никакого философского мировоззрения и применяет его к окружающему. И я проиллюстрирую это, позвольте, шутливо, отчасти шутливо. У Бертрана Рассела есть, по-моему, такая история,

1:27:29¶притча, когда индус объясняет англичанину про устройство мира. Он говорит, что Земля покоится на трёх слонах, а слон стоит на черепахе. Англичанин слушает, спрашивает, ну хорошо, а черепаха на ком стоит? Индус говорит, ну она стоит на другой черепахе. Англичанин спрашивает, а та черепаха на ком стоит? И тут индус смотрит так проницательно на англичанину и говорит, эээ, Сагип, ты меня не проведёшь, а дальше

1:28:11¶черепахи до самого низу. Вот физикализм это спонтанная и иногда осознанная философия, которая говорит, что черепахи идут до самого вверху. Это раз, то есть весь мир состоит из некоторых объектов, назовём их черепахами. И дальше из этих черепах можно собрать всё что угодно, вплоть до самых сложных объектов. Внизу находятся маленькие черепахи, элементарные черепашки и взаимодействие, элементарное взаимодействие между ними. А дальше идут более и более крупные комбинации этих

1:29:02¶черепах. Например, попугаи состоят тоже из маленьких черепах, а удавы состоят из попугаев, состоящих из черепах и так далее. Но есть одно исключение, слоны. Слоны не состоят из черепах, особенно если речь идёт о летающих слонах. Это особенный феномен, полёт слона фундаментально отличается от всех ползаний у черепах, это особая категория. Рождённый ползать, летать не может. Абсолютно точно. И дальше мы можем взять вот эту простую бинарную

1:29:51¶логику и наложить её на огромное количество современных философов, которые работают, принимают решения. Исход на посылке фундаментальности физикализма. Я заменил знаменитые книги Чалмерса «Про сознание», его выражение «Про сознание» на «Полёт слона». Полёт слона — величайшая тайна. Это возможно наибольшие из громадных препятствий на пути к нашему научному пониманию мира. Вы понимаете, что на самом деле там идёт. Полёт слонов — самая обычная, но и самая таинственная вещь в мире.

1:30:36¶Полёт слонов остаётся, однако, столь же загадочным, как и раньше, несмотря на все достижения науки. Эта загадочность, впрочем, не повод для отчаяния. Скорее, она делает проблему полёта слонов одним из наиболее интеллектуальных вызовов нашего времени. Поскольку полёт слонов столь фундаментальный и так плохо понят, решение этой проблемы может оказать глубокое воздействие на наше представление о мире и о самих себе. И поэтому нам нужна теория.

1:31:07¶Краеугольным карнем теории слонов будет набор слоно-черепаховых законов коррелятивных, которые соотносят соотношение между летучестью слонов и ползучестью черепаховых систем. После этого мы, в конце концов, получим в своё распоряжение фундаментальные теории черепах и слонов. Мы можем обрести то, что с полным правом может быть названа теорией всего. Фундаментальные черепаховые законы будут объяснять характер черепаховых процессов. А слоно-черепаховые законы, коррелятивные, будут объяснять связанные с ними свойства летучести слонов.

1:31:48¶А всё остальное будет следствием этого. Я всего два слова менял во всех высказываниях. Это к чему ведёт? Что если мы принимаем мозг как ведро макарон и говорим, что мы материалисты и физикалисты, там ничего другого нет, кроме мешка, то слоны оказываются подвешенными в воздухе. То есть, иначе говоря, физикализм автоматически ведёт и к дуализму, и к панпсихизму, в зависимости от того, куда тебя занесёт после этого.

1:32:21¶Но есть нормальные пути, как с этим можно двигаться. Я не могу рассказывать сейчас, над чем мы работаем и что это за теория, но я убеждён, что отвечать на эти вопросы необходимо, так же, как мы отвечали сто лет назад на вопрос, что такое жизнь и в чём её таинство. И ответы на них являются одними из самых актуальных, в том числе, чтобы, не дай Бог,

1:32:50¶не сделать искусственный интеллект, который станет обладать этим. Я считаю, что тактически это неправильная вещь. Даже если мы получим турбонаддув всех интеллектуальных свойств, а мы должны его получить, я могу сказать за счёт каких операциональных процессов, исходя из наших представлений о механизмах сознания, я думаю, что мы лучше будем иметь мозги искусственного интеллекта всё-таки поближе к нашим домашним животным. Спасибо. Спасибо. Потрясающе. Я не могу удержаться, потому что...

1:33:32¶Ну, ты знаешь, чтобы я комплименты людям делала, так такого никто не слышал. Делаешь, делаешь. Да, но вот я сейчас делаю, потому что это... Я совершенно не ожидала. Во-первых, была уверена, что ты меня будешь убивать, но это дело привычное. У нас это реинкарнация происходит. Вот, но это... То есть это совершенно другой ход. Вообще, я не знаю. Вот здесь Давид Израилевич сидит, который в таких вещах разбирается.

1:34:01¶Такой был разве когда-нибудь поворот, что нам нужно сделать, чтобы этого не сделать? Как бы это невероятная вещь. Уже не говоря о том, что это история со слонами, это в чистом виде свифт. Не так ли? Да, это, безусловно, сатира, конечно, да. Очень изящная. Мои комплименты. Повороты такие, конечно, сейчас в исследованиях искусственного интеллекта и последствиях искусственного интеллекта проговариваются и прорабатываются. Другой вопрос, что... Там есть Ник Бойстром, который...

1:34:38¶Целый институт у него в Оксфорде последствий того, что может дать суперинтеллект и так далее. Другой вопрос, что они недостаточно информированные. Из других областей. Нет, знанием о том, что такое сознание из последних исследований мозга. То есть они больше занимаются этическим вопросом, чем понимают, в чём технические, например, неизбежные следствия сознания и как они связаны с процессами, которые протекают в сознании. Что мы должны будем ожидать от системы,

1:35:14¶которая обладает сознанием? Мне кажется, то, о чём мы сегодня говорим, по крайней мере, я думаю, мы оба так чувствуем, что это очень важная история. Потому что это разговор про наше антропологическое место. Это разговор про то, кто мы такие на этой планете, если у нас какие-то шансы, за исключением банальных. Ну, понятно, что там на кнопочку кто-нибудь нажмёт, и всё взлетит, но мы не про это говорим.

1:35:48¶А вот если без коллизий, без таких, то это такой вызов нашему биологическому виду. Но мы перед серьёзной гранью стоим. Вот как бы мы это сможем вообще? Это другой мир, мы уже в другом мире, точка. Вот как бы что нам в нём делать в этом мире? Нам место там есть ли? Как нам с этим справляться? Всё равно, понятно, науку ничто не остановит и никогда не останавливала.

1:36:18¶И запретить ничего нельзя, всё равно с другого боку это будет сделано. То есть все эти вопросы же есть. Но нужны систематические разработки, которые, учитывая, что науку не остановить, могут создавать разные подушки безопасности. Вот ты задаёшь вопрос, задумываются ли над этим? Задумываются. Например, вот посмотри, Илон Маск вместе с компанией, которая занимается искусственным интеллектом, создал почти год назад, в июне прошлого года, компанию, которая по его замыслу

1:37:05¶должна создать интерфейс между человеком и искусственным интеллектом. И он объяснял, почему. В связи с обеспокоенностью, неконтролируемым развитием искусственного интеллекта. Я, например, вот в наших нейробиологических исследованиях, им не хватает нейробиологов в этом отношении, вижу очень интересный набор проектов, которые соединяли бы эти исследования с проектами по искусственному интеллекту. Смотри, мы даже сейчас имеем естественную нейронную сеть, имеем искусственную нейронную сеть. Нейронная сеть искусственная может обучаться,

1:37:39¶она может эволюционировать другими своими формами, нейроморфными формами. То, что делает сейчас IBM, Хьюлитт Паккард, распределенная память и так далее. Но она все равно будет сетью. В этой сети происходит обучение и происходит локализация неких элементов, которые связаны с этим знанием. Нейробиологические эксперименты и подходы позволяют иметь некоторый инструментарий, который у нас сейчас развился, который очень интересен. Например, мы можем входить в нейронную сеть. Я отчасти рассказывал об этом на своем докладе.

1:38:20¶Мы можем находить нужные участки, которые отвечают за нужные элементы знания и управлять этой сетью. То есть влиять. Мы первое, можем считывать активность этой сети, как сигналы, а второе, мы можем влиять на нее. Для этого у нас есть новые методы, оптогенетики, термогенетики, магнетогенетики, адресованные к когнитивно специализированным сетям мозга. То есть мы можем влиять директивно на элементы этих знаний, поведения и так далее. Теперь следующий вопрос.

1:38:52¶Если мы возьмем две сети, естественную и искусственную, зададимся вопросом. Вопрос номер один. Не можем ли мы перенести некоторые из этих приемов дифференцированного понимания сети и ее деления на элементы, когнитивные модули, на искусственную нейронную сеть? Раз. И попробовать отводить активность от этой нейронной сети, чтобы понимать, что в ней происходит в искусственной, так как мы сейчас развиваем это в нейронауке, когда пытаемся понять, что происходит в естественной.

1:39:21¶Есть и другой ход, выйти в социум с этим. Это раз. Вот тут ты экран, ты нам всем. Нет, подожди. Это совсем другая история, выйти в социум. Это для следующей. Следующая вещь. Можем ли мы начать строить искусственный интеллект и сети искусственного интеллекта таким образом, чтобы они были управляемы? Так же, как мы знаем, мы теперь можем управлять естественной нейронной сетью. То есть, через определенные узлы

1:39:48¶мы можем либо вызывать какие-то элементы знания, либо вызывать целые комплексные образы или поведение этой сети. То есть, она станет для нас Прозрачный, сеть глубокого обучения, много словев. Я вёл с 2005 года проект, который я назвал «Прозрачный мозг». И смысл был не в том, чтобы физически сделать прозрачным, а что он для исследователя должен быть прозрачным, чтобы мы видели, что там происходит, и понимали.

1:40:19¶В этом смысле прозрачный, открытый для нас. Я говорю, что мы сейчас хотим иметь такие системы искусственного интеллекта, которые будут прозрачные и открыты для нас, чтобы они были понятны с точки зрения того, что происходит внутри. Может быть, используя какие-то из идей нейробиологических в сетях. Это электрическое воздействие? Нет, конечно. Потом, это же всё сейчас вообще программные вещи. Ну да, конечно, это глупый вопрос. Разумеется.

1:40:50¶Следующий вопрос. Можем ли мы использовать инструменты управления этой сетью искусственного интеллекта по этим узлам и так далее? Так же, как мы понимаем, можно делать в определенных хабах, которые являются критическими и ассоциируют разные вещи или отвечают за разные представления в естественной сети. А дальше возникает такой же проект, как у Маска, Neuralink. Если мы имеем некоторые изоморфные представления об одной сети и другой сети,

1:41:23¶и они достаточно прозрачны для нас, не можем ли мы их соединить путем каких-то интерфейсов? Так, чтобы одна сеть получала сигналы от второй сети и могла управлять ею, как домашним животным, условно говоря. Здесь много фантазии, то, что я говорил. И я знаю много висящих хвостов и того, где что сложно. Но это путь, это некоторая идеология, которая направлена на то, что это подушка безопасности.

1:41:55¶На тот случай, если мы что-то не досчитали, и просто экспоненциальное развитие искусственного интеллекта приведет к последствиям возникновения у него субъективного опыта и сознания и непонятных желаний, которые будут эволюционировать. Некоторые философы в 20-30-е годы XX века говорили так. Когда человечество изобрело, почему-то изобрело, хотя это неправильное слово, речь и письмо, но еще письмо ладно, а речь-то уж, конечно, нет, то оно получило неограниченные возможности для влияния, условно скажем, на сознание.

1:42:53¶Уж на поведение это всяко. А дальше стали, это уже примерно в наше время, немножко раньше, стали говорить, что главные пропагандисты это биохимики и физиологи. О, куда скакнуло! Чтобы продолжение, ну это та же линия, только с другого бока. То есть мы подберем коктейль вам подходящий, вы будете думать, что вы его с гамбургером пьете в качестве пепси-колы. Тогда я хочу поблагодарить Константина Владимировича за радость такой беседы.

1:43:30¶Ну я честно говорю, честно говорю, вот при народе. Я получил очень большое удовольствие. Спасибо. Я думаю, что мы все получили колоссальное удовольствие.