LAKHTA VIEW: Человек

Нейролингвист Татьяна Черниговская и философ Дмитрий Волков объяснят, как друг с другом взаимодействуют человек, искусственный интеллект и новая среда. Новая сессия международного образовательного проекта LAKHTA VIEW, посвященная человеку — двигателю всех изменений в современном мире.

Человек — двигатель развития любой системы и главный герой изменений, которые происходят в мире: даже с точки зрения геологических процессов Земля вступила в новую эпоху антропоцена, связанную с нашим активным воздействием на экосистему планеты. Однако что происходит с самим человеком, который стоит в центре всех трансформаций? Как с развитием технологий и ростом городов меняемся мы и процессы нашего мышления? Этим вопросам посвящена мартовская сессия LAKHTA VIEW — международного просветительского проекта, посвященного описанию городской среды будущего и ее синтетической природы.

Дмитрий Волков,  доктор философских наук, деятель актуального искусства и бизнесмен:

Спасибо большое, что вы пришли сегодня на очень интересный разговор об искусственном интеллекте. Меня эта тема интересует по двум разным причинам потому, что последние 15 лет я занимаюсь аналитической философией. Как раз тем направлением, которое исследует, в том числе, искусственный интеллект, проблемы свободы воли и сознания. Но есть и вторая причина, почему мне эта тема кажется интересной. Причина в том, что я инвестор, я занимаюсь венчурными инвестициями и как раз в последние годы очень много смотрел на компании, в которых применяются технологии искусственного интеллекта.

Сегодня я хочу с вами вместе поговорить о мыслящих машинах. Я хочу попытаться выяснить вместе с вами, могут ли существовать машины, которые могут мыслить. Может быть, они уже сейчас существуют. И также хочу попытаться подумать вместе с вами и порассуждать, что будет все-таки, если машины начнут мыслить и начнут мыслить быстрее и лучше нас.

Этот рассказ или разговор я хочу начать с одного исторического примера. Произошел, приблизительно, 300 лет назад. Вопрос о создании мыслящих машин, он старый, он только сейчас много внимания привлек, но 300 лет назад он интересовал очень многих. Были изобретатели, которые пытались создать машины, которые действовали, как человек, и даже, казалось бы, мыслили. Одну такую машину представил Вольфганг фон Кемпелен в 1769 году. Это венгерский изобретатель. Он предложил европейской публике куклу такого вот турка, который сидел перед большим столом. В одной руке у него была трубка, другая рука лежала на столе, а перед ним была шахматная доска. Кемпелен перед началом демонстрации заводил свою машину, а потом показывал, что в этом столе ничего нет, кроме разных механизмов. Он поочередно открывал ящики и показывал, что вот, в первых двух ящиках какие-то шестерёнки рычаги, во втором, в третьем, в четвертом. Всего, по-моему, было пять ящиков. Он демонстрировал, даже свечку подносил, показывал, что там ничего нет, кроме механизмов. Потом закрывал все эти ящики и приглашал сыграть в шахматы с этой машиной. Удивительно, но практически все игроки, которые играли с механическим турком, проигрывали. Среди тех, кто проиграл этой машине, были и очень известные люди. Например, Наполеон Бонапарт, Бенджамин Франклин и даже Павел I.

Говорят, что когда Наполеон стал проигрывать, он стал допускать нелегальные ходы. То есть делал неправильные ходы пешками, конем, ладьей и т.д. В ответ эта фигура вращала глазами, ставила фигуру обратно на исходные позиции. Когда Наполеон сделал это уже третий раз, чувствуя, что проигрывает, просто смахнула все фигуры со стола.

Это был исторический курьез. Многие зрители интересовались и не могли понять, как же эта фигура устроена. В действительности ли она мыслит? В действительности ли механический турок играет в шахматы или на самом деле это просто какой-то иллюзион, какой-то трюк? Сам Кемпелен никогда не скрывал, что это трюк. Удивительно, но даже когда он говорил, что это трюк, некоторые его последователи начали говорить, что это, на самом деле, его такое жеманство или скромность, а на самом деле машина маслит. Но некоторые люди, особо критически относящиеся к механическому турку, пытались разгадать, а как же, собственно, он работает. Существует масса версий. Даже Эдгар По написал рассказ, в котором он детально анализирует этого механического турка и предлагает свою гипотезу о том, как он работает. Ну мы знаем о существовании этого турка, прошло приблизительно 300 лет, и, поэтому, мы знаем, что на самом деле было в этом столе. Это действительно был иллюзион. Да, одна гипотеза была, что сам Фон Кемпелен играет. Думали, что он с помощью каких-то магнитов управляет фигурой. Ставили специальный магнит на стол - ничего не получалось. Потом думали, наверняка там какой-то человек, например карлик сидит. Только очень маленький карлик. Думали, что это возможно какой-то ветеран войны с отрубленными ногами. В общем разные были идеи.

На самом деле все было очень просто. Когда Кемпелен демонстрировал ящики, он попеременно их открывал. За самими ящиками было достаточно большое пространство, за которым сидел человек. У этого человека была там свечка, шахматная доска и у него был рычаг, с помощью которого он мог управлять этой фигурой. То есть это был настоящий шахматист. Более того, Кемпелен нанимал самых талантливых шахматистов своего времени. Вообще были один или два игрока, которые выиграли у этой фигуры и, на основании этого, Эдгар По написал: "Вот смотрите, если бы это была машина, она бы никогда не проиграла". Вот такая мысль была у Эдгара По. Любопытная кстати. Так вот это был иллюзион. Но почему я привожу этот пример вам. Мы сейчас будем говорить о тех дальнейших других машинах, которые потом изобретали разные инженеры. Мы видим какие достижения они сделали. Как прогресс прошел с создания вот этого механического турка до современности.

Но существуют некоторые философы и некоторые ученые, которые говорят: "знаете что, по большому счету, все машины – это примерно та же самая история". То есть мы далеко не ушли. Все равно есть программист, который все это продумал, но он все равно управляет, так или иначе. Дистанционно или с каким-то лагом во времени, но, в общем, далеко мы не ушли. Правда это или нет, я попытаюсь выразить свое мнение в конце.

А сейчас про следующую машину. Она была создана неким Чарльзом Бэббиджем, по моему, в 1822 году. Чарльз Бэббидж пришел в Лондонскую астрономическую академию с проектом, как сейчас грант ищут, вот так же он пришел и попросил денег на создание машины.

Два слова о самом Бэббидже, что за человек он такой был. Бэббидж был сыном банкира, математиком, англичанином, но обладал очень дотошным мышлением. Вот однажды он написал поэту такую вот обратную связь на его стих. Написал письмо: " Уважаемый автор такого-то стихотворения. В вашем стихотворении вы пишете – "каждый раз кто-то рождается и кто-то умирает". Это не правильно! Если бы каждое мгновение кто-то рождался, и каждое мгновение кто-то умирал, население бы оставалось тем же самым, а оно растет. Пожалуйста, в следующем издании своего стихотворения напишите "каждое мгновение кто-то умирает, и каждое мгновение 1.17 рождается". Вот такого рода был Чарльз Бэббидж. Он был очень точный человек и посчитал, что 1.17 должно быть.

Вот он пришел в эту академию с целью получить финансирование. Он показал машину, которая, в действительности, производила вычисления. Вычисления на самом деле очень важные. Она считала алгебраические уравнения, формы икс квадрат плюс икс плюс сорок один равно и она считала чему могут быть равны значения икса. Почему это было важно? Потому что на основании этой машины он считал, что можно посчитать логарифмические таблицы. Эти таблицы были очень нужны для навигации, для астрономии и они существовали, но только их вычисляли руками математики и совершали огромное количество ошибок. Он считал, что машина решит эту проблему. Он продемонстрировал свой маленький прототип и попросил 3 тыс. фунтов. Ему дали эту сумму и сказали, что пожалуйста, занимайтесь. Этим проектом он занимался лет десять. 3 тыс. фунтов превратились в 17 тысяч, а он все продолжал ее делать. Через некоторое время он потратил большую часть своего состояния на это, он потратил государственные деньги и когда он, в очередной раз, пришел с просьбой финансирования, ему отказали. Спросили ну где же результаты? Все хотят результаты, вы нам не показываете результаты. Нужно представить почему у него не получалось. У него не получалось потому, что вообще изготовление машин – это было огромным мероприятием потому, что ничего не было стандартизировано. Даже резьба не была стандартизирована. Каждую гайку нужно было сделать уникальной. Чтобы эта машине заработала, необходимо было решить не только интеллектуальную задачу, но и чисто практическую. Он не смог эту проблему решить, но когда ему отказали в деньгах, он решил сделать другой проект. Он решил сделать другую машину, которую назвал универсальной машиной. Первая называлась машина разностная. То есть вы представляете, нормальные люди, когда вам отказывают в деньгах, вы должны сократить размер проекта. А он решил сделать проект в два раза больше. Он решил сделать машину, которая по размеру бы была с несколько локомотивов. Естественно покрутили у виска, деньги ему не дали. Что любопытно. В 1991 году эту машину построили. Ее построил лондонский музей по его чертежам. Они воспроизвели эту машину и она действительно заработала. Она действительно вычисляет математические вычисления, на ней можно делать те логарифмические таблицы. Более того, она не только считает, она еще и печатает. То есть это фактически прототип современного компьютера. У него был пресс, который был подсоединен к этой машине с регистрами цифровыми, и этот пресс выдавливал вот эти значения, и можно было печатать с тексты с этими логарифмическими таблицами. Гениальный человек, который на 200 лет опередил свое время.

Вот эта, наверное, его идея она все равно продолжала жить. И следующая веха, которая пожалуй сейчас является исходной точкой всей волны искусственного интеллекта – это универсальная машина Тьюринга. Он известный английский математик, расшифровавший код "Энигмы" во время Второй Мировой волны. Он придумал машину, но в отличии от Бэьббиджа он эту машину решил не делать. Точнее ее даже сделать было нельзя, это была некая математическая модель, которая сейчас лежит в устройстве всех современных компьютеров. Эта машина состоит из бесконечной ленты, на которой могут быть нанесены нули и единицы и пустота, головка, которая по этой ленте скользит и может считывать цифры со значениями ячейки с ленты и либо оставлять их такими, какими есть, либо изменять на другую цифру, на 0 или 1, и перемещаться влево и вправо. Лента, головка и плюс правила, по которым движется головка. В этом и есть суть современного компьютера, а он является платформой для современных разработках в области искусственного интеллекта.

На фастфорварде мы проходим 50 лет, больше даже, и видим, как сегодня работает машина Тьюринга, и как сегодня воплощены идеи Чарльза Бэббиджа.  В 94 году компьютерный симулятор выиграл у чемпиона мира по шашкам, в 97 году компьютер, который создала компания ABM, название которого переводилось дословно, как "Глубокий синий", обыграл чемпиона мира по шахматам Гарри Каспарова. В 2002 году состоялось соревнование между лучшими игроками викторины и искусственным интеллектом. Искусственный интеллект выиграл. Компьютеры водят машины, сейчас, почти лучше людей. Компьютеры определяют лица лучше людей. Компьютеры способны звук переводить в текст. Компьютеры способны в тысячи, миллионы раз быстрее и точнее проводить математические операции. Вот сейчас существует самый мощный компьютер, он, кажется, находится в Китае. Он разработан китайскими производителями процессов. Этот компьютер стоит 270 млн долларов. Он осуществляет 39 квадриллионов операций в секунду. Это совершенно невообразимая машина, которую ни Бэббидж, ни Тьюринг не могли представить, но мы вот такими ресурсами сегодня обладаем.  

Теперь мой главный вопрос. А значит ли это что-то с точки зрения искусственного интеллекта? Значит ли это, что мы продвинулись вперед? И есть люди, которые говорят: нет – это все тот де турок. Все та же иллюзия и аттракцион. Среди таких людей философ Джон Сёрл. Он пытается доказать, что все машины, замечательные свойства которых и я описал, на самом деле такие же глупые, такие же неспособные к мышлению, как тот самый турок шахматист.

Для того, чтобы это доказать, он приводит мысленный эксперимент. Воображаем такую фантастическую ситуацию, чтобы сделать вывод о вещах достаточно простых. И вот Сёрл предлагает представить такую ситуацию. Существует комната, у комнаты есть два окошка. Внутрь этой комнаты Сёрл сам заходит. Сёрл американец, он не знает китайского языка. Он вообще других языков не знает. И вот он находится в этой комнате, а помимо него в этой комнате находится огромное количество инструкций о том, как формировать тексты с помощью иероглифов, как их перебирать. На английском языке написано, что если увидел такой иероглиф, добавь к нему такой иероглиф и оправь в окошко. Такие инструкции с манипуляции с символами – иероглифами. И вот, с наружи, с двух сторон китайцы. Они передают тексты на китайском языке Сёрлу внутрь комнаты. Он берет этот текст, ничего не понимает, берет инструкции и на выходе он выдает другой текст. Значит Сёрл утверждает, что модно сформировать инструкции так, что каждое сообщение на входе и на выходе будет осмысленно. Например, китайцы спрашивают, Джон Сёрл, сколько тебе лет, и он на китайском выполняет инструкции и отвечает, что ему 90 с лишним лет. Сёрл, а где ты живешь? Он отвечает, что живет в Калифорнии и т.д. При этом Сёрл говорит, я же ничего не понимаю, что происходит. Я просто манипулирую символами, коорые находятся в моей комнате. Дело в том, что то, что происходит в этой комнате, это то же самое, что происходит в компьютере.

Вы, например, спрашиваете Siri, как проехать до центра Лахти. Siri отвечает, что ехать 15 минут. Вы думаете, что Siri что-то поняла об этом? Дело в том, что Siri работает с той смой длинной лентой, на которой нули и единицы. Процессор, на котором построена вся эта система, якобы, умная, и этот шахматный симулятор, который выиграл у Гарри Каспарова, и компьютер, который управляет машинами, который будет ездить завтра по нашим улицам. Все эти компьютеры – это просто настройки на универсальной машине Тьюринга. А что она умеет делать? Да ничего, она манипулирует нулями и единицами – это не настоящая деятельность. Это симуляция деятельности. Разница между мышлением машины такая же, как разница между грозой на улице и грозой, которую вы смотрите по телевизору. Машина в принципе не способна мыслить.

 Но я вам скажу, что я не сторонник идей Джона Сёрла.  Большинство людей, которые занимаются этой проблемой, не считают его аргумент верным. Сёрл предлагает нам представить такую ситуацию, которую мы, на самом деле представить не можем. Еще он представил вопрос – как должна быть организована комната, чтобы она действительно смогла подстроить ответ, чтобы он был осмысленный. Какое количество инструкций там должно быть. Китайцы же могут задать любой вопрос к этой комнате. Либо этих инструкций должно быть бесконечное множество, а Сёрл должен двигаться со скоростью света. Самое важное, может быть мы считаем, что Сёрл то действительно не понимает что происходит, даже если он манипулирует гигантском количеством инструкций, но дело в том, что, если Сёрл не понимает, то, возможно, комната понимает. Комната состоит из ввода, вывода и процессора в виде самого Сёрла и кучи инструкций, по которым Сёрл работает. Если все это объединить, то система будет понимать. Такой ответ стал носить название – системный ответ на китайскую комнату Сёрла. Сам мысленный эксперимент то не простой. Чтобы его выполнить, нужно очень сложные вещи представить. Есть второй ответ на этот аргумент – это ответ роботов. Дело в том, что Сёрл действительно манипулирует только символами, но для того чтобы проверить, что компьютер действительно работает, скажем искусственный интеллект внутри управляемой машины, он же не по текстам ориентируется. Он ориентируется по реальному миру, чтобы показать работу машины, она должна быть связана с реальным миром. Китайская комната Сёрла не опровергает то, что машины могут мыслить. Китайская комната это не правильный аргумент. Из этого следует, что мышление машин вполне возможно. А к чему это ведет? Это ведет к тому, что машины сегодня, которые обладают некоторыми знаниями в некоторых отраслях, со временем научатся мыслить и об общих вещах и о том, что эти машины, действительно, через некоторое время буду более интеллектуальны, чем люди.

Вот об этой возможности все больше и больше стали говорить и философы, и даже те, кто занимаются технологическими проектами как Илон Маск. Они говорят, что сверхразум возможен, искуственный интеллект – это путь к сверхразуму. Я отмечу три возможных пути, как мы можем прийти к сверхразуму. Первый – это эмуляция головного мозга. Мы знаем, что мозг это колоссально сложная конструкция, создающая из ста миллиардов модулей. Приблизительно сто миллиардов нейронов у каждого человека. При этом нейроны соединены между собой гигантским количеством связей, которые параллельно переговариваются между собой. Это сложнейшая структура, которую очень сложно эмулировать. Но сложно –не значит невозможно.

Первый способ, как мы модем это сделать, это на таких машинах как я говорил. Это вот на таких машинах, как я говорил, как в Китае машина с 39 квадриллионами операция в секунду. На таких машинах мы можем эмулировать работу мозга. Это один из способов. Второй способ – это создание простой машины, которая сможет обучаться. Уже сейчас машин могут обучаться, и, если мы продолжим эту тенденцию, мы сможем прийти к машинам, которые будут жить вместе с нами и продолжать развивать свой интеллект. Это второй способ, то есть мы не от зародыша пойдем, не от готового сразу решения, а от простого чего-то. Сначала нужно попробовать сделать машину с интеллектом, скажем, кузнечика, потом мышки, потом человека с низким IQ. Если этот тренд продолжать, то он будет развиваться не последовательно, а как хоккейная клюшка, то есть он будет ускоряться все время. Точка, к которой мы можем прийти – это так называемая точка интеллектуальной сингулярности. Точка сингулярности – это когда в конечное количество времени развитие интеллекта будет бесконечно. Все об этом говорят.

Теперь вопрос? Если это действительно возможно, если действительно такое будущее вероятно, что это означает для нас? И философы начинают думать, вот связан ли интеллект с конечными целями? Вот кого мы считаем интеллектуальными людьми. Мы считаем, что это люди, например, преуспевшие в бизнесе. Наверное, более ли менее интеллектуальны. Наверное, люди, преуспевшие в науке. Математики очень интеллектуальны. Люди, которые не падают под машины, не бросаются из окон или, которые делают какие-то значимые вещи. Помогают человечеству бороться с раком. Это интеллектуальные люди. Но наши критерии интеллектуальности вряд ли применимы к искусственному интеллекту. Он не будет проходить наш эволюционный путь. Возможно, не существует связи между интеллектуальностью и конечными целями. То есть, возможно, машина способная мыслить будет иметь совершенно абсурдные для нас цели. Она, конечно, может заняться созданием абсолютно идеального произведения искусства. Или она может попробовать рассчитывать число P до бесконечности. Или эта машина может попытаться спасти человечество от катастроф. Или эта машина может решить, что необходимо превратить всю вселенную в скрепки. Сделать бесконечное количество скрепок. То есть цель и интеллект - независимы между собой. Это утверждение называется тезисом об ортогональности, то есть тезисом о том, что две вот эти вот переменные никак между собой не связаны. Искусственный интеллект может быть очень интеллектуальным, при этом у него могут быть совершенно абсурдные цели по типу произведения вот этих вот скрепок. И это нас успокаивает.

Мы попытаемся повлиять на эти цели. Может быть мы спроектируем интеллект таким образом, чтобы у него были цели похожие на наши. Но вот есть другой тезис, который заставляет нас волноваться. Это тезис об инструментальной конвергенции. Конвергенция – это схождение, а инструментальной – это значит,  у меня есть, например, цель выступить здесь перед вами. Инструментальной целью был мой приезд в Петербург. То есть для того, чтобы здесь выступить, мне нужно было приехать в Петербург. Это как бы проходной этап. Я не могу выступить, не приехав в Петербург. И вот некоторые философы, в частности Ник Бостром, считает, что у интеллекта обязательно могут быть разные конечные цели, но обязательно будут одинаковые инструментальные цели.

Какие инструментальные цели обязательно у него будут. Одна из целей это увеличение или сохранение своего интеллекта. То есть для реализации ему нужно будет сохранить свою интеллектуальность потому, что как только он потеряет интеллектуальность, он не сможет реализовать цель. Поэтому любой искусственный интеллект, даже если его целью является производство неограниченного количества скрепок, прежде всего решит, как ему сохранить свою интеллектуальность.

Вторая вещь – это то, что этому искусственному интеллекту потребуется технологическое совершенствование. То есть если это будет робот, он будет стремиться получить больше степени свободы, получить больше возможности передвигаться и управлять чем-то. Эта вторая будет инструментальная цель. И теперь наконец-то самая страшная, наверное, третья цель, которая у него будет это цель – контроль ресурсов. И эта цель инструментальная может оказаться для нас губительной. Даже если интеллект будет обладать конечной целью "расчет числа пи", то для реализации своей цели, чтобы ему не помешали, он будет контролировать все ресурсы, так как для него это угроза. Угроза, что ему не дадут дальше рассчитывать это число. Поэтому некоторые считают, что пытаясь контролировать ресурсы, это искусственный интеллект начнет  контролировать нас, если не уничтожит нас совсем, потому что мы также являемся конкурентом за те же самые ресурсы. Вот эта мысль заставляет нас ужаснуться и подумать всерьез о том – является ли это хорошей идеей, создавать думающие машины или нет. По крайне мере мы понимаем, что нужно привлечь и этиков, и философов, и футуролога для того, чтобы об этом подумать.

Но это все про будущее, и возможно вас это будущее не так волнует, хотя вас точно волнует. Но возможно оно волнует не так, как настоящее. То, что сегодня происходит оно обычно более важно, чем то, что в каком-то 2040-м году или в 2090-м году произойдет. И вот из идеи о том, что машины могут мыслить, следует один очень любопытный вывод. Вот давайте представим, мы развиваемся так же, как мы развивались раньше. То есть технологический прогресс наращивается, мы все больше и больше узнаем о том, как устроен человек, мы все больше начинаем создавать производительные машины. Эти машины все большую роль начинают играть в нашей жизни. Они нам помогают создавать новые машины. Мы сможем научиться симулировать различные явления. Мы сможем, например, симулировать всю погоду на земле. Мы сможем рассчитать, каким образом, будут формироваться снежные бури и торнадо и т.д. Через некоторое время судя по всему появится возможность симулировать и человеческий мозг. Или создать искусственного интеллектуального агента. Но поскольку создавать такие машину будет становиться все дешевле и дешевле, скорее всего искусственных агентов все будет больше, больше и больше. Если представить перспективу на миллион лет вперед или на сто тысяч вперед, то мы увидим, что эти искусственных интеллектов станет гораздо больше, чем биологических.

Вы скажете, почему я обещал про настоящее говорить, а что я рассказываю про будущее. Так вот удивительно если этот путь возможен, то в будущем соотношение биологического интеллекта к искусственному, будет один к бесконечности. То есть из будет принципиально больше. Но это значит, что если это возможно в будущем, то это было возможно и в прошлом. И есть такая вероятность, что все, кто находятся в этой аудитории, на самом деле являются искусственными агентами. Просто из математики, просто потому, что вероятность соотношения биологических к искусственному - это один к бесконечности. Вероятнее всего вы сейчас являетесь, и я так же, искусственным агентом. И нас кто-то симулировал на этих электронных системах.  Таким образом, парадоксальный вывод, который следует и может следовать из вывода о том, что машины смогут мыслить – это вывод о том, что, на самом деле, мы и есть эти машины, и мы живем в симуляции. В общем все.

Виталий Наумович Дымарский, российский журналист, публицист:

Скажите, пожалуйста, конечно я хочу воспользоваться служебным положением, и задать свои вопросы и к вам, и вообще к людям, которые занимаются этой проблематикой. Я начну с самого простого. Я понимаю человека по фамилии Сёрл. Я понимаю его аргументы. Если сводить их к постой формуле, аргументы заключаются в том, что машина не может быть умнее того, кто ее сделал. Правильно?

Я не услышал у вас аргументы в пользу того, что машина может быть умнее. У меня такое впечатление, что вы нам уже заявили, как свершившийся факт, а через некоторое время машина будет такая, а она сможет сделать то. Какие аргументы, кроме того, что вы верите. Мне кажется тут больше веры, чем знания. Сёрла разбивать легко, вы докажите себя.

Дмитрий Волков, доктор философских наук, деятель искусства и бизнесмен:

 Дело в том, что мне кажется, машины уже показали, что в некоторых областях они уже умнее человека. Это уже очевидность. Когда я смотрел тэт с Гарри Каспаровым, было интересно наблюдать за ним. Он, действительно, историческая личность. В частности, потому что он последний человек, который боролся с машиной в шахматах. Это последний интеллектуал, который пытался выиграть. После него не будет ни одного человека, который попытается это сделать всерьез. Deep Blue действительно выиграл у него и теперь, в принципе, ни один чемпион не сможет выиграть у него в шахматы. Вы скажете, что такое шахматы, мы вообще не играем в шахматы, ну это же игра такая. Но это не совсем так. Дело в том, что легальных позиций игры в шахматы примерно 10 в 43-й степени. Цифра кажется маленькой, но, если мы ее разложим, мы увидим, что это колоссальная цифра. Удивительно то, что простым перебором, просто перебором всех вариантов в шахматы невозможно  определить более выигрышный ход. Машина, которая выиграла в 97 году, еще на заре искусственного интеллекта у Гарри Коспарова, это была не машина, которая просто тупо пересчитала все варианты. Это была машина, которая научилась играть на основании миллионов партий, которые она сыграла. Она обладала эвристическими механизмами. Один из философов заметил, знаете, мы считаем некоторые вещи абсолютно интеллектуальными, но, как только их начинает делать машина, мы тут же говорим да что ж такое, это такая ерунда. Десятки сотни лет считалось, что шахматы это интеллектуальная игра и что для того, чтобы в нее выиграть нужно обладать стратегическим мышлением, нужно контекстуально понимать вес каждой фигуры. Игра показывала именно умственные способности, а не просто способность передвигать фигуры. Как только машина выиграла, сказали, что это ж ерунда. Это шахматы. Следующий компьютер победил у чемпиона мира по го. Там игра намного более сложная. Теперь мы говорим: "а, машины водит компьютер, но это же ерунда". Но на самом деле у миллионов людей специальность такая, водить машины. Это интеллектуальная задача. Нужно предвидеть очень много вещей. Нужно отличить собачку от человека. Человека от столба. Столб от движущегося робота и т.д. Интересно, что создатели Deep Blue были не способны выиграть у Гарри Каспарова. Создатели не обладали таким интеллектом.

Я не могу пройти мимо шахмат. Я разговаривал с Каспаровым на эту тему. Мне кажется, что вы немножко здесь неправильно представляете эту ситуацию. Потому, что преимущество перед человеком в шахматах – это скорость счета. Гарри Якимыч рассказывал, и мы, кстати после  Deep Blue в 97-ом году много раз выигрывал у машин. И не только он. Чего нет у машины и что есть у человека и за счет чего человек сбивает машину и выигрывает у нее – это за счет тех качеств, которые не просчитываются. Например интуиция и т.д. Умение сбить машину с того пути, который казался самым рациональным. Так что мне кажется, что здесь дело сложнее.

Не знаю кто автор, но читаю. Что касается проблемы сознания и свободы воли. Как вы думаете, насколько возможно появление сознания у машин.

Дмитрий Волков, доктор философских наук, деятель искусства и бизнесмен:

 Это больная тема. Можно утверждать, что машины не могут летать. Самолеты вот летают, истребители летают, но они же крыльями то не машут. Он подпрыгивают, не клюют зерно.  У них нет таких способностей, которые нужны, чтобы летать. Для того, чтобы летать, нужно каркать. Вот этот аргумент много раз звучит, но у него нет основания, моет оно и есть, но люди, которые высказывают его, мне кажется, не называют аргумента "а почему?". Вот названо слово интуиция. У меня есть интуиция, а у машины нет. Так кто вам сказал, что у машины ее нет.

Виталий Наумович Дымарский, российский журналист, публицист: А кто сказал, что она есть?

Дмитрий Волков, доктор философских наук, деятель искусства и бизнесмен: А кто сказал, что она у нас есть? В моем представлении это некая эвристика.  Что такое интуиция. Если это вопрос определений, мне кажется, что интуиция – это способность  предвидеть некоторые события, не осуществляя дедукцию этих событий. Вопрос такой, больше ли расстояние от Москвы до Петербурга или от Москвы до Петушков. Предположим, я не знаю Петушков. Вот у меня интуиция, что до Петербурга дальше. Я не знаю, как я это знание получил. Как-то у меня есть какие-то намеки. Это моя интуиция. Сейчас она сработала. Скажете сейчас правильно или нет. Так сработала моя интуиция, почему вы считаете, что компьютер не может так сработать? Почему он не может вероятности дать определенным событиям, исходя из не дедуктивных рассуждений. Не из того, что "так, посчитаем, метр, метр, метр, метр, метр до Петербурга доехали. Теперь метр, метр, метр, метр до Петуков. О! Короче. ". То есть таким образом может мыслить и компьютер. И это голословное утверждение, о том, что так компьютер не может мыслить. Очевидно, что они так делают. Не простым перебором есть методы, которые позволяют не дедуктивно делать выводы.

Теперь вопрос от зрителей о сознании. Могут ли сознания быть у компьютеров. Люди обычно спорят о том, что такое сознание. "Мы не знаем, что такое сознание!". Сознание – это что-то такое мистическое, связанное только с человеком. Сознание оно бывает разным. Бывает коллективное сознание, бывает такое-то сознание. В философии, слава Богу, есть определение. С него начинается учебник для первых курсов. Потом все эти определения, конечно, дорабатываются. Но мы не модем о чем-то беседовать не определив тему. Не указав на это. И философы для того, чтобы все это определить более ли менее ясно, чтобы говорить об одном и том же назвали это квалиа.  Чтобы отделить дискурс вообще о сознании, можем вообще считать о сознании что угодно. Квалиа – это субъективные переживания, которые свойственны человеку во время бодрствования.  Вот эти субъективные переживания называются квалиа. Можно назвать что-то другое сознанием и дискутировать бесконечно. Я предлагаю сфокусироваться вот на этом.

Некоторые считают, что квалиа не могут существовать у машин. Они основываются на том, что субъективный мир человека принципиально невозможно раскрыть. И дальше говорят, что сознание влияет на физику. Смотрите, квантовая физика. Мы теперь видим, как сознание влияет на явления. Тут мы можем к чему угодно прийти. Квантовая физика, возможно, здесь вообще не причём. У квантовой физики 11 интерпретаций. Не все из них одинаковы. Физики еще не определились. Это одна из гипотез. Причем их там много и сторонники у каждой гипотезы разные.  Некоторые квантовые физики детерминистические. Некоторые индетерминистические. Есть несколько людей, которые являются, так сказать черными лебедями в толпе, которые говорят вот сознание связано с квантом. Но большинство людей, работающих с этой проблемой, занимают функцианалистскую позицию. Они считают, что сознание – это свойство сложных систем. Они говорят, что есть некие функциональные состояния, которые мы называем состояниями сознания. То есть это просто определенным образом организованная вещь. Ну например, мы возьмем молекулу воды. Эта молекула воды не способна к тому, чтобы быть текучей. Она не текучая. Это просто молекула. Но если мы возьмем скопление молекул, то мы увидим, что они обладают свойством текучести. Таким образом, иногда простые вещи в очень большом количестве и сложной конфигурации начинают обладать полуэмерджентными свойствами. То есть они способны демонстрировать качества, которых не было до этого.

Да, машины сейчас находятся в относительно примитивном состоянии, но это не значит, что они не будут в более сложном состоянии и не будут демонстрировать эти качества.

Виталий Дымарский:

Искусственный интеллект – это новая форма жизни? Способен ли искусственный интеллект к творчеству? Я может быть сюда добавил, а может быть, мы действительно преувеличиваем значение искусственного интеллекта. Может это очередной этап развития технологий или вы считаете, что это все-таки новое состояние человечества?

Дмитрий Волков:

 Относительно формы жизни, я не очень знаю определение жизни. Я думаю форма жизни – это что-то связанное с клеткой. Базовой структурой жизни, наверное, является клетка. Я считаю, что это не релевантно к дискуссии об искусственном интеллекте. Нет необходимости быть живым в этом смысле, чтобы быть интеллектуальным. Модно быть не живым и не мертвым, но при этом быть интеллектуальным.

Виталий Дымарский:

 Подождите. Вы же сами в конце вашей лекции сказали, что мы тоже, возможно, искусственный интеллект.

Волков: Да, я говорил, что, возможно, что мы считаем себя живущими одним образом, а на самом деле мы являемся симуляцией жизни. Помните "Матрицу" знаменитую. Там эти люди страшные в капсулах. Эта любимая тем, эксплуатируемая всеми. И куча мысленных экспериментов о том, что эту реальность невозможно отличить от настоящей реальности. Я лишь сказал о том, что наша реальность и жизнь является той самой симуляцией.

Татьяна Черниговская, нейро- и психолингвист, доктор биологических и филологических наук, профессор СПбГУ

Чувство юмора, я надеюсь, нас не покинет после всего вышесказанного. Дорогие коллеги и господа и дамы, как полагается говорить. Это все были мои шуточки, у меня совершенно нет идей уничтожать предыдущего докладчика и с ним вступать в споры. Просто это у нас такие манеры беседовать. Я очень много участвую в разный таких научных битвах. Одна из них была несколько дней назад в университете у меня, я веду такой городской семинар по когнитивным исследованиям, туда приезжают разные чудесные люди. Туда в том числе приезжал Константин Владимирович Анохин, с которым мы равно, как и с директором Института мозга Медведевым. Мы там на троих вцепились как следует, но кровища не лилась, в общем, все живы остались. Я почему про это говорю, потому что приезжал к нам и Пенроуз, упомянутый до перерыва. Кстати говоря, сегодня вышла в "Гардиан" его статья на тему ушедшего несколько дней назад Стивена Хоккинга, но они и приятели были и т.д. Но это само по себе интересно потому, что большая статья, семь страниц все-таки. То есть это не про то, что очень жаль, а что вообще все это зщначит.

Необязательно цепляться за название, которое там. Но, конечно, кое-что у нас будет пересекаться, все-таки не все. Вот на этой картинке справа этот монстр из шестерёночек, а вот эта вот картинка называется "отключили интернет". Там люди, которые все еще живут человеческой жизнью, то есть санки, лыжи, падают в сугроб там и т.д.

Тут есть о чем подумать, тут жизнь все еще есть и тем более будет ли? Когда говорят о том, что на ждет, существует много прогнозов разных, есть три сценария бедующего, кстати, к этому имеет отношение DARPA, военное агентство соединенных штатов, и даже ЦРУ, это не секретные данные, они опубликованы. Есть еще такое место – Римский клуб. Я не знаю, знаете ли вы его или нет, это такое интеллектуальное собрание. Туда ходил Сергей Петрович Капица, с которым я имела счастье быть хорошо знакомой и много раз у него в передачах была, и так с ним много раз беседовали. И он решил в России сделать что-то подобное, и такой клуб есть, он называется Никитский клуб. Назван так по расположению. В декабре римский клуб выпустил отчётный свой доклад с оценкой ситуации на планете и того, что нас может ожидать. Это довольно большой доклад такой. Было заседание в Никитском клубе, в который я вхожу, обсуждающее вот этот вот римский анализ. Очень это все произвело на всех печальное пессимистическое впечатление потому, что гора мышь родила. Они в основном говорят, как все стало плохо и разные абсурдные вещи в духе "Лапутянской академии" Свивта, если давно не читали, то советую.

Там сюжеты идет типа того, как производить солнечный свет их хлорофилла обратно, из огурцов. В общем, много веселого. Я к тому говорю, что прогнозов много и эти прогнозы все малоутешительны, но, я думаю, в такой же степени и малоценные потому, что мир меняется с такой скоростью, что никакого смысла прогнозы делать нет. То, что было вчера, мы не знаем что. Откроешь телефон, а там какой-нибудь идиотизм произошел. Это происходит все время, и я волнуюсь, чтобы никто на кнопочку не нажал.

В продолжение того, что говорил мой предшественник, я считаю, что будущего у нас вообще нет, если мы не разберемся как-нибудь со своим внутренним миром. Не в десертном таком смысле, не то, что барышня из хорошей семьи должна знать кто такой Вивальди, я не про это. Я про то, что должна быть какая-то внутренняя такая опора, которая не даст нам внутренне разрушится. Бессмысленное дело устраивать любые научные прорывы и делать чудесные механизмы, если при этом мы все тронемся умом там скоро. Это пустое дело. Если действительно дело пойдет так, как оно идет, обсуждается в некоторых странах отмена пандемии психических болезней, я не шучу. Я не метафорически это говорю, потому что количество людей с психическими болезнями растет. Самая такая простая статистика по Соединенным Штатам – каждый шестой. Это я про США говорю не потому, что их полагается ругать сейчас, а потому что просто статистика такова.

То есть это вообще что такое? Как бы перешагнем, Эйнштейн говорит, что четвертая мировая война будет с помощью палок и камней потому, что ну доигрались ребята. А что нас, собственно, может остановить? Я сильно забегаю вперед, могу сказать, что запретить науку никогда не удавалось. Какие бы не были благие намерения, какие бы не были советы безопасности или Всемирной организации здравоохранения, они могут собираться, на здоровье, и издавать какие  хотят указы, только их никто не будет выполнять потому, что всегда найдется ситуация, скажем, будет богатый спонсор, который такие условия сделает, такую аппаратуру купит, такие будут химические агенты, что они вам клонируют, кого хочешь. Клонируют, я в данном случае метафорически говорю, то есть не только клонируют, но и поиграют с геномом и много чего еще другого сделают. А что же делать? То есть можно запретить только себе, то есть я не буду потому, что я не хочу этого делать. Вот не буду и все. Но это романтизм, как всякому понятно, то есть тяжелая история.

В данный момент я на это как биолог посмотрю. Я несколько дней назад задала вопрос Анохину – "ты мне скажи, у эволюции, что, вектор есть?" Вектор – это значит цель. Какая у эволюции может быть цель? Это вообще абсурдная идея. Эволюция – это не существо. Как это может быть? Он говорит, что я тоже не думаю, что все-таки вектор есть. А все-таки? Куда не погляди, а все усилия миллиардов лет шли к том… хотя может так вышло. Меня не очень это успокаивает. Все шло к тому, чтобы была сначала нервная система, потом сложная нервная система, потому сверхсложная нервная система, и это все мозги, чтобы в итоге получился мозг такой у каждого из нас в голове. А мы неостроумно и неосторожно называем его "мой мозг". Чей? Это еще вопрос.

Дело в том, что люди такие странные существа, это я говорю как бы я не человек, которые живут не только в мире вещей ( стаканов, чашек, пультов, апельсинов), а они живут еще в мире идей, и лучше сказать в мире знаков. Эти знаки играют такую невероятную роль, что посильнее апельсинов будут. Например, религиозные войны. Вокруг чего? Вокруг идей же. То есть мы ускорялись, ускорялись. Сначала миллионами лет это шло, потом тысячами, потом сотнями, потом десятками, а теперь это чуть ли не минуты. То есть мы разогнались очень быстро. То, что я говорю – это, разумеется, мое мнение, но поскольку мы в таких разговорах учувствуем, то со мной многие согласны. Я вижу основную опасность в скорости. В скорости изменения. Мы не можем приспособиться к тому, как этот маховик пошел крутить. То есть ты только привык какой-то ситуации, а она уже другая. Наш организм это выдержит? Наша психика способна это выдержать?

Тем не менее благодаря развитию этого другого мира, как бы второй такой реальности, мы научились оперированию знаковыми системами и это не только человеческий язык, а я бы сказала человеческие языки. При этом я имею ввиду не английский, немецкий, якутский,  а язык математики, вербальный, язык музыки, язык пластики и т.д. Вот эти языки вообще-то составляют нашу цивилизацию, то есть мы разогнались так довольно сильно. Меня это удивляет, а зачем эти повторы, ни как не могу никакого ответа найти. Вот стоит стакан и стоит, мне зачем его рисовать, если не секрет. Только если я примитивный человек, только на заре истории. Чего ради я его стала дублировать. Ответы, чтобы не забыть, смешные ответы. Это явно не то, это что-то другое. Зачем мне эти копии все время. Уж я не говорю об искусстве. Нелюбимая мной с детства, по непонятным причинам, Наташа Ростова, просто ее ненавижу, ведь ее не было никогда. И судьба, которой под поезд бросилась, а ее именем назвали корабль, я сама на нем плавала, могли бы назвать паровоз вообще. Это что за страданье такое? Вот Юрий Михайлович Лотман, с которым я имела счастье быть знакомой очень хорошо, его то идея какая была, что искусство не только не копирует жизнь, не только оно не отражает жизнь, а оно порождает жизнь. Комментирую – не было никаких Рахметовых, пока не был написан "Рахметов", который зачем-то лег на гвозди себя испытывать. С тех пор масса народу улеглась на гвозди для того, чтобы себя испытать. Что случилось? Ии тургеневские барышни тоже мой любимый предмет. Ничего такого не было, пока Тургенев про них не написал. А что должна делать тургеневская барышня? Она должна все время падать в обморок. С тех пор все стали падать в обморок. Это Лотман все говорил. Как только были написаны "Лишние люди" все бездельники встали с диванов и заявили "батюшки, так вот кто мы такие. Мы-то думали, что просто кальян здесь курим, а мы оказывается лишние люди, мы целое поколение". Поэтому искусство не невинно. Я имею ввиду оно не безопасно.

Это ведь все порождает мозг наш. Это мозг дает нам возможности не только анализировать возможности, которые уже есть, но и их создавать, прогнозировать и организовывать свое и чужое поведение. Каждый из нас думает, что он имеет свободную волю. Это очень длинный разговор. Есть много аргументов и таких и сяких. Это сложный разговор поэтому я предлагаю в него не влезать, а только задуматься, что мы понимаем, что у нас есть ум, мы надеемся, что у нас есть сознание, мы надеемся, что у нас есть воля, а также мы очень сильно надеемся, что мы являемся действующими лицами. То есть я автор своих поступков.

Вот этот Вегнер, на которого я ссылаюсь, чьи публикации у меня дома лежат. Одна его статья называется "Моя лучшая уловка мозга". Шутка эта заключается в следующем, если только он не дай Бог прав, так вообще тогда беда. А именно, что мозг сам все делает, все сам решает, но он настолько коварен, что посылает нам сигнал, такой психотерапевтический "не волнуйся, все в порядке, левая рука горячая, правая рука холодная, ты сам все решил, ты молодец. Все в порядке". Я бы не стала в эту сторону сильно двигаться потому, что это вообще тогда чудовищно. Тогда матрица и все вокруг этого, так сказать, детские шутки. Еще вопросы, которые в это связи обсуждаются, особенно сейчас, когда генетика такая мощная. Вообще, если бы я начинала свою научную жизнь, я б в генетики пошел, пусть меня научат. Я бы хотела этим заниматься потому, что потрясающие вещи они умеют делать. Так в этой связи неутихающий спор по отношению "гены, наследственность" или "воспитание и среда" и тогда отсюда вытекают и те вопросы, которые здесь висят. Опять же были судебные процессы, когда обвиняемый говорил, что "это не я – это мой мозг". Ничего себе приехали, то есть это вообще зачеркивает нашу цивилизацию. То есть переносятся поступки не на подсознание,  а на ткань мозговую. А если вдуматься, я могу сказать, а чем я виновата, что такая дура родилась. Плохие гены у меня или я преступница. Это плохие гены у меня, я не виноват, что мне не повезло с предками. Это серьезный очень вопрос и он отнюдь не художественный.

Вот что у нас в голове то делается. Вот на эти цифры только посмотрите. Если вытащить все нейроны и их отростки дендриты и аксоны и их метафорически в одну линию, то получится такая вот величина. В голове каждого, заметим, вне зависимости от низкого или высокого интеллекта.

2,8 млн километров – достаточно, чтобы 68 раз облететь Землю или 7 раз слетать на Луну.

То есть это страшное дело. Еще хочу сказать, что у каждой клетки, у каждого нейрона может быть дикое количество связей с другими частями мозга, если вы умножите все это, то вы плучите запредельные числа. На числа эти смотреть смысла нет. Я занималась этим, эти числа разные. Последний раз я привязалась к московским коллегам и попросила узнать реальное количество связей в мозгу. Они спрашивают: "Где ты находишься?". Я говорю, что у Юсуповского сада, ну вот до Невы как раз будет ряд нолей у этого числа, то есть нет даже слова такого даже. Короче говоря – это ужас. Более того эти нейроны, которые являются главным действующим лицом, они утеплены в других клетках, которые называются глиальные. Если раньше давным-давно считали, что ну где то они должны лежать эти нейроны, ну вот они лежат в такой ткани. Сейчас ситуация другая. Во-первых этих нейронов еще в десять раз больше, с этим я просто не знаю что делать, кроме того у этой глии есть своя и она вообще много чего умеет. То есть, если ребенок рождается и у него проблемы не с нейронами, а с этими глиальными клетками, то у него когнитивные нарушения, он будет умственно неадекватным и т.д. То есть мера бедствия растет.

Вот как это выглядит кстати? Это электронно-микроскопическая фотография. Вот как по такой сети хоть что-нибудь, куда-нибудь может прийти. Кроме того я хотела бы заметить, что это вот не стабильная сеть. Это живое, оно все время меняется. Пока я говорю, оно уже сто раз у всех поменялось. Если говорить о том, что нейронная сеть – это текст, а я говорю, что нейронная сеть это текст, то этот текст постоянно переписывается. Сам. Если посмотреть еще сильнее, то вот так вот это выглядит. Вот скажите, вот что с этим делать? Потому, что нейрон обладает когнитивными свойствами. Вообразите себе. Он не просто какая-то единичка, которая, сложившись с миллиардами единичек, что-то даст, а он сам по себе довольно много всего умеет. Например он может опознавать лицо вашей бабушки. Только один. Не верю и все, хотя не верить невозможно. Мы знаем как это сделано, это опубликовано, я сама беседовала с человеком, который это показал. Короче говоря - это факт. Но этого не может быть. Если один нейрон опознает человека в шляпке, без шляпки, это описано, например, актрису Холли Бери один нейрон очень любил. Он ее всегда признавал, но только когда она без мужа. Как муж появлялся на фотографии, он отрубался.

Шутки то шутками, а просто если это так, а фаты таковы, то тогда я хочу знать, что делают сто миллиардов других бездельников в мозгу, если этот один нейрон делает работу целого мозга. Я от части шучу, но я ни разу не соврала. Все, что я сказала – это не выдумка.

Всем этим занимается когнитивная наука, и она являет собой конвергентное знание, то есть науки, которые проникли друг в друга. Вот список наук, которые в эту науку влезают и которые все это изучают. Это маленькая часть их. При это философия перестала быть таким приличным украшением. Хотя Лотман когда собирал семинары в Тарту, говорил, только чтобы философы в аудиторию не входили. Потому что пустая болтовня. Понимаете, какие тогда были философы. Но сейчас эта ситуация совершенно другая потому, что некий идеальный философ – это человек, который умеет думать хорошо, у которого тренированное мышление. Он нам нужен не как украшение, а как человек, который скажет, что вы неправильно поставили вопрос, поэтому вы получите неправильный ответ. Или, например, когда мы уже получили все возможные данные, мы же экспериментально работаем, я например, и неправильно трактуем. Философ скажет, что мы думаем неправильно. Вы неправильные выводы сделали, так что искусственный интеллект один из участников. Почему? Потому что это способ моделирования того, что делается в естественной жизни, в биологической жизни. А зачем, вы можете сказать, зачем нам моделировать? А моделировать для того, чтобы проверить правильное ли у нас представление о том, что мы изучаем. Если оно моделируется и ведет себя так, как мы задумали, значит – мы молодцы. А если не получается, значит – мы дурачки. Но это, я повторяю, простоя прикладная вещь.

Эммануэль Кант, на мой вкус, самый лучший философ Земли такую страшную вещь  говорил: рассудок не черпает свои законы из природы, а предписывает их ей. Вы понимаете, что это значит? Это значит, что мы законы не из природы берем, какие ей свойственные, а у нас такая голова. Он, собственно везде это и пишет. Все это справедливо для разума человеческого типа. То есть будь у нас другой мозг, значит, у природы были бы другие законы?
Это я хулиганю, но не очень хулиганю.

Еще один вопрос, который я задаю и который меня мучает. Почему все выводы и логическая математика применимы к реальной природе. Почему я должна им верить. Природа обладает той математикой, которая у меня и всех здесь есть. У нее такие законы. Это у нас такие законы.

Давайте подумает. Конечно, мозг находится в физическом мире, им управляет физика, им управляет математика. Теперь подлые вопросы. А какая физика, если не секрет? Ньютоновская обеспечивает это или Эйнштейн, или Нильс Бор или дальше по списку. Какая физика? Конечно, приличный ответ был бы – вся. Все три, то есть не три, тридцать три, но как быть то с этим? Как эту науку продолжать, если главные вещи под вопросом. А математика какая? Вот какая конкретно. Какая математика управляет мозгом? Поскольку я маньячу про это уже месяца три, как мне мысль эта страшная пришла, так я всех и спрашиваю. Разумеется никакого ответа я не получаю, кроме того, что получила несколько дней назад. Медведев Святослав Всеволодович сказал, что да, ты права, математики, которая описывает процессы в мозгу, нет. Это не то, что нам пока не получилось, и не то, что нам нужно больше данных собрать. Вы понимаете в какую ситуацию мы сейчас попали. Мы попали в такую ситуацию, когда у нас этих данных Гималаи. Пока мы разговариваем, их еще три тонны появилось. Дальше что с ними делать? Как их понять? Это серьезная история.

Весь искусственный интеллект стоит на алгоритмах. Пока, по крайней мере. Все говорят, что мозг – это компьютер такой. Да, мозг компьютер потому, что у нас нет другой метафоры. Но а такой компьютер? Уж как минимум он не только такой. У меня докторская диссертация была про правое и левое полушарие, с тем пор я их и ненавижу. Так там, как минимум, одна половина мозга не работает с алгоритмами. Это вот эта, правая. Она не работает с алгоритмами, как мы ее моделировать собираемся, какие правила мы должны писать. Это вопрос об интуиции и о всяких таких вещах. Как формализовывать то будешь? Поговорить-то мы можем, но когда речь идет о том, чтобы это сделать, то для этого у нас нет ничего. Может быть, когда появятся квантовые компьютеры, об этом все время говорят, но пока нет их, тогда и видно будет.

Вот здесь ведь кто изображен? Вот человек в очках, который начал все эти истории с искусственным интеллектом и фамилия его Корсаков. Жил он в России. Так что он был раньше Тьюринга. Второй естественно Тьюринг, а вот следующий это как раз предмет нашего веселья. Про интуицию, я, естественно не знала, что о ней будут говорить. Я привожу здесь пример именно Эйнштейна, а не Феллини, не художников, не музыкантов, физик говорит. "Интуиция сильнее знания". Интуиция сильнее знания, говорит физик. Потому что, ну как здесь ясно написано, знание лимитировано, в то время, как воображение и интуиция огибают весь мир. В другом месте он пишет, что "интуиция – это священный дар. Разум покорный слуга". Прошу вдуматься.  Это сказал человек, который не картины маслом пишет, а который пишет формулы. Меня давно интересует. Он зачем на скрипке то играл? Играл чудовищно. Об этом много написано. Во многих местах он пишет – "Я живу в музыке. Я думаю музыкой". Это что вообще такое? То есть почему? Он должен с логарифмической линейкой сидеть. Почему на скрипке то играть? Точно также меня интересует вопрос почему Шерлок Холмс играет на скрипке? Они зачем все это делают? У меня есть свой ответ – это переключение работы мозга на другой режим. Вот что это такое. Это разрушить жесткие структуры.

Отец Павел Флоренский, который был не только теолог и мыслитель, но он был инженер. Посмотрите что он пишет. Мощный удар по нашему существу, нам нужно достичь "сумеречности" сознания. Научные книги, которые на эту тему читаешь, там говорят что-то типа "оставьте мозг в покое, пусть он блуждает как кошка, сам по себе. Что хочет то и делает. Не надо ему говорить думай про это. Думай про это ничего, и не выйдет кроме банальности". Скажем, если я к себе в лабораторию сотрудников ищу, последний кто меня интересует – это отличник. Мне он не нужен просто. Мне нужен троечник, который ну умный, который взрывает все, который не верит ничему. Отличники у меня есть – это компьютер. Также у меня есть интернет, в котором у меня "Окей гугл" и он все эту муру тебе расскажет. Человек такой не нужен.

А мы можем увидеть в мозгу то, что мы ищем? Этику, когнитивные возможности. Ведь вся современная нейронаука построена на поиске корреляции. То есть, когда человек поет у него вот здесь в мозгу вот что происходит. Когда он краба щипчиками раскалывает, у него в мозгу вот тут что-то происходит. Все тонны статей направленны на вопросы где что происходит. Поиском адресов. А мне зачем этот адрес, если я не врач.  Если я врач, то тогда это диагностическая вещь. Если он прекратил делать это, то вот что у него в голове произошло. Но мы сейчас не это обсуждаем. Мне это для чего? Зачем мне искать в каком месте головы находится этика.

Как бы не вскрывали этот мозг, какими бы методами мы на него не наваливались, мы найдем все, что хочешь. Был такой нейрохирург Войно-Ясинецкий, он же был и архиепископ Лука. Он был очень умен, его, разумеется сажали все время. В оном месте он говорит, я цитирую: "Сколько сделал я операций на мозги, ни разу не видел там ума". Когда его сажали, понятно, что с ним делали и какие вопросы ему задавали следователи. Он говорил, что не видел там ума, совести, чести и т.д. Они его спрашивали есть там бог или нет. Это примерно как с Гагариным, когда его отправили летать и через час он вернулся. Все атеисты кинулись к нему с возбужденными глазами, с вопросом видел ли он там бога. Поскольку бога он там не видел, то они сказали: "Слава тебе, Господи. Бога нет, значит все в порядке". Они на что рассчитывали? Как на старых картинах облако, на нем сидит старец с бородой. Это очень важно.

Мы этого там не увидим. Открыли мозг, посмотрели, там нейроны. Также глия. Денетт, крупнейший философ, заявил, что если мы про каждую клетку узнаем, то узнаем и про мозг. Это очень важная вещь. Когда я спорю со своими коллегами из той же области, они говорят мне примерно так: "ну хорошо, это мы пока не знаем, а вот скоро будут такие приборы, что ты узнаешь про каждый нейрон". Зачем мне знать про каждый из ста миллиардов нейронов? Что я с этим буду делать? Это информация, которая мне не нужна.

Не значит, что не надо изучать. Она для других вещей нужна. Она не отвечает на вопрос, что целая больше суммы частей. Лотман говорит, что можно на стыки теленка разобрать, но обратно он не собирается. А наука что делает? Она на стыки разбирает все. Она пытается посмотреть глубже и глубже. Сколько двигаться будем? Как ответ на вопрос.

У людей искусства у них другой мозг. Не в том смысле, что они родились с другим. Мозг зависит от того, что на нем написано. Поскольку они на нем пишут такой текст. Если это музыкант или музыкально просвещённый человек. Посмотрите сколько у него действует разных зон в мозгу. В  80-е годы за правое и левое полушарие Нобелевскую премию дали Роджеру Сперри. Это пик моды был такой. Тогда считалось, что логика слева, музыка справа. Эмоции справа, язык слева. Вот этого нет ничего, сразу скажу. Про музыку было сказано, что она справа. Это самое грубое, что может быть. Не верьте, когда вам будут говорить, что есть ген, который отвечает за чтение. Нет ничего. Это огромная нейронная сеть, которая работает вся. Если здесь есть врачи, но я сразу скажу сама. Если что-то произойдет с той зоной мозга, которая действительно, по всем учебникам отвечает за собственную речевую продукцию, то у человека будет афазия, и он замолчит. Это факт. Если у него будет нарушена зона, отвечающая за восприятие речи, то он сам говорить будет, но ничего разбирать не будет из того, что вы ему говорите. Это тоже факт. Из этого должен быть сделан вывод, что это речевые зоны.

Если мы забудем про медицину и неприятности, а сунем голову любого из нас в машину под названием функциональный магнитный резонанс. Дадим языковое задание, что-то он должен такое делать, например, глаголы спрягать. Мы обнаружим, что работает весь мозг.

Это к вопросу об алгоритмах.  Какие алгоритмы у Дюрера, Даниэля, Боттичелли, Леонарда. Как они это делали? Вы думаете, они высчитывали что ли? А что такое музыка – это вообще беда. Это какая-то звуковая волна, которая несется, ударилась о барабанную перепонку, перекатилась на слуховой нерв и поехала и что? Ведь это же не звук, это совершенно другая вещь. Если комару в ухо полезет Вивальди, то для комара никакого Вивальди нет, это просто звуковой удар. Больше ничего. Для того чтобы понять его, необходимо иметь правильно сформированную нейронную сеть. Которая понимает что это такое. В Эрмитаже я сталкивалась сто раз с тем, что идешь мимо Матисса и идет какой-нибудь человек и говорит, что его 4-летний сын еще не так рисует.  Компетенция нежна, к сожалению.

Математика. Я задаю вопрос, на который нет ответа. Математика – это свойство мозга, вспоминая то, о чем я говорила относительно Канта. Это у нас мозг такой или это свойство природы? Потому что Галилей написал книгу природы языком математики. Точка. То есть, значит, математика это свойство природы? Среди математиков нет договоренности на этот счет.

Если мы будем сканировать мозг людей, которые компетентны, то есть они не с поля сошли. Одни, которые понимают в математике, другие, которые понимают в искусстве. То чувство прекрасного восторга от того, что они смотрят на шедевр, будет примерно одинаково. Независимо смотрят они на живопись или изящно выведенная математическая формула. Это я к тому, что не лежит музыка вот здесь, а математика вот здесь. Лежит восторг, как это потрясающе вышло.

К концу я перехожу к теме искусственного интеллекта. На чем сердце то успокоится. В 2010 году Квентор Генетик сделал то, о чем здесь написано. Появилась клетка, отцемать которой, был компьютер. То есть был вставлен синтетический геном. И тогда The New York Times написали: "Это жизнь, но не такая". С такой мы не встречались. Это жизнь или что вообще такое? Эту клетку назвали Синтия. Я тут так и пишу, Ева познакомься – это Синтия. Про шахматы я говорить не буду, я кстати, хотела добавить, что это не честная игра была потому, что компьютер не нервничает, он не устает, у него бесконечная память, он ничего не может забыть. Более того, когда он играл с Каспаровым, он был надрессирован на конкретного игрока. Он был надрессирован не него. Он знал каждое его движение. Даже тот шаг, который сам Каспаров давным-давно не помнит. Насколько я помню, Каспаров тогда предлагал другой вариант, чтобы у него был компьютер с памятью. Чтобы как-то немножко уравновесить эту ситуацию. Разумеется ему ничего не дали. Дальше все было рассказано. С игрой гоа такой номер не пройдет потому, что там количество несопоставимое. Число возможных ходов больше, чем атомов во вселенной. Все, сдались. С разгромным счетом 4:1 проиграл. Игру гоа взяли, а это уже  не алгоритм. То есть эти ребята железные таки наступают на нас.

Видите, эта программа AlphaGO, она что делает. Ей не нужны начальные знания. Она может за сутки так набраться этого всего дела, самообучиться, что она обыгрывает не только любого человека, но и программы. Это очень серьезный ход. Тогда я уже стала ерничать и говорить, что эти ребята не возьмут, так это игру в покер. Там, во-первых блеф, я там темные очки надену, никто меня не возьмет. Взяли… Недавно Libratus играла с четырьмя игроками очень высокого класса 20 дней и обыграла в пух и прах, выиграла миллион семьсот евро, не железяке поганой не дали ничего, а дали разработчику и игрокам, но ведь это же ничего не меняет. У меня компетенции нет, я думаю, что даже если они мне объяснят, я не пойму, как она играет. Я хочу понять, как она это делает.

Наша цивилизация-то началась где? Когда какому-то гению, основных гениев мы не знаем, например, кто иголку придумал. А вот какому-то чудному человеку пришло в голову вынести накопленные знания за пределы биологического субстрата, который с нами по понятным причинам уходит, появилась письменность, живопись, скульптуры и т.д. Это обеспечила так называемая внешняя память. А теперь то она вообще во вне. Николас Карр пугает всех интернетом. Он пишет, что раньше был прекрасный ныряльщик, нырял в океан знания, долго медленно плавал, возвращался, обдумывал, выныривал, обратно нырял. А теперь он пишет, что стал искусственным серфингистом, ношусь с огромной скоростью по поверхности, и даже в голову не приходит туда нырнуть. Это серьезный показатель. Интернет зависимость попадает в число болезней, чтобы ни у кого не было иллюзий. Это медицинская вещь. Мы никуда не денемся, я тоже не пишу гусиным пером, я очень много времени провожу в компьютере каждый божий день. Но вспомним вот что. В серьезных дорогих элитарных школах гаджеты запрещены. Детям дают их на час полтора вечером, чтобы домой позвонили, с подружками побеседовали. Нельзя говорят, пускай учатся, как положено учиться. У тех детей, который переучились,  а утех детей, которые родились в этот мир. Они же ушли в параллельные миры целиком. Как говорит московский психолог Сергей Ениколопов – ни что не заменит дружеского подзатыльника во дворе. Он глубоко прав потому, что они сидят в компьютере, где нет боли, где нет страдания, где все возвращается. То есть убил 50 человек, включил, они опять там все бегают. Нет никакого навыка социального общения. Нет навыков флирта. У них огромные психологические проблемы.

Кроме того известно об изменении в сером и белом веществе головного мозга. У тех, кто очень много времени, кто там проводит. Поверьте, ничего не изменится, мы уже в этом мире цифровом живем и будем дальше.  Но детей нужно вытаскивать. Мы сильно рискуем. Маклуэн, известная в свое время личность, он говорил, что следующий вид Homo Sapiens autocreator, то есть самосоздаваемый вид. Руки ноги переломали – их заменили, то заменили, печенку, изъеденную циррозом, заменили, почки, сердце, уши, глаза. Это все реальность. Это возможно сейчас. Также вставили в голову чип, который делает вашу память больше, во-вторых скорость протекания процессов в несколько раз больше. Мы люди еще? Я не говорю хорошо или плохо, просто спрашиваю. Мы еще люди?

Кроме того, это будет становиться разделяющим социальным фактором. Будут люди, которые смогут себе это позволить, а будут люди, которые не смогут позволить. Это будут два разных биологических вида. Если их по-прежнему можно будет называть биологическими видами. То есть те, кто допущен к цифровому миру по разным причинам (по факту рождения, большие деньги или еще что-то) и те, кто по прежнему траву косит. Что делать с этим будем?

Ну и наконец. Наш мир очень сильно изменился. У каждого из нас в карманах или в сумочках все это лежит. Полная прозрачность. Про каждого из нас известно, где мы находимся, что мы ели, какие сумки покупаем и т. д. Мир сверхбыстрый. Он гибридный и он мерцает. Люди, с которыми вы общаетесь по соцсетям. Вы уверены, что это люди? А сколько их? Видел ли кто-нибудь из здесь присутствующих интересный очень фильм "Она". Это любовь главного героя с компьютерной программой. Это очень интересный фильм. Интересно, что она ему говорит, что занята с кем-то другим, а он говорит: "А сколько, их много с кем ты там еще дело имеешь?", а она ему говорит, скажем там, 986 тысяч. Страшное дело. Она подсунула ему барышню потом, когда дело дошло до тела. Она говорит, что у нас интеллектуально все в порядке, вот тебе барышня. Говорить то я за нее сама буду, а тельце, значит, пожалуйста.

Мы находимся в цивилизационном сломе и это не алармизм, а это факт. Мы перешагнули в другой тип цивилизации. Это просто факт. Это имеет глобальное значение, и оно необратимо. Поэтому перед страшной историей нам придется выбирать между свободой и безопасностью. Я согласен на то, чтобы меня прослушивали – нет, я не согласен. Я согласен на то, чтобы меня обыскивали с ног до головы, когда я вхожу в аэропорт – да, я согласна. Я вообще согласно на все, чтобы ничего не взрывалось.

Станислав Лем, как все гениальные люди очень давно написал невероятную вещь, что мир стал не человекомерен. Не только люди, но и вообще существа не живут в размеренности наносекунд и нанометров. Там никто не живет. Меж тем системы искусственного интеллекта, которые принимают решения, а дальше будут принимать еще больше, если мы хоть немножко утратим контроль. Они это будут делать в такие времена, которые мы даже не успеем заметить. Ну и наконец, цифровой мир может жить автономно. Меня всегда расстраивает, что у меня, например, кончился мой камамбер и мой холодильник мне сочувствует и сам связывается и заказывает. А у меня вообще еще есть место в этом мире или оно все само сделается?

Этические нормы – вот на что я хочу обратить внимание. Беспилотная машина вот на кого-то наезжает, кто ответственный. Это еще не самое сложное. А если она встала перед ситуацией, которые описаны в чудовищных задачах из психологических учебников? Направо поедешь ,задавишь пятерых, налево поедешь, задавишь одного, а не поехать не можешь. Это жуткое, конечно, дело, но она же может оказаться в такой ситуации. Значит, кто-то должен вложить в нее представление об этических нормах. А как будет дело с правом и моралью? Если искусственный интеллект в том виде, в котором его еще нет, но он будет. Значит надо признать его субъектом права. Субъект права – значит, я не могу его стереть потому, что это убийство. Я не могу его выключить потому, что у него свои права. Мы попали в серьезный мир такой.

Ну и наконец, масса народа освободиться от работы. Что они интересно будут делать? Когда мне говорят, что они будут играть на лютне и писать сонеты, у меня это вызывает недоумение. Поэтому я считаю, что сейчас мы пришли в мир, когда нам нужно остановиться, зажечь камин, взять напиток в руку и сильно подумать о том, куда мы попали, и как мы будем дальше в этом мире жить. Мы не можем сделать вид, что оно само пройдет. Заканчиваю я на Эммануиле Канте. Гуманитарное образование, не диплом, а книги, которые мы прочли, музыка, которую мы услышали, умные разговоры, думанье, оно существенную, если не определяющую роль начинает играть. Ничего ты не запретишь, как Кант говорил: "звездное небо над головой и нравственный закон внутри нас".

Мне интересно понять, вот последняя картинка, которую я сняла перед Финским заливом. Вот искусственный интеллект, когда это увидит, он опознает, но поймет ли, зачем я ее сняла, что это очень красиво. Это к вопросу о том – личность он или не личность. Что мы с ним делать будем? Он нам ровня? По мощности пока что нет, но дело то двигается.

Виталий Наумович Дымарский, российский журналист, публицист

Сказать вам, что вы добавили нам оптимизма, так нет. Вопросов огромное количество. Жизнь сложна и, как я понимаю, ответов на эти вопросы нет.

Татьяна Черниговская:

Я вас уверяю, что нет ответов. Они будут, но очень разные.

Виталий Наумович Дымарский:

Вы сказали сегодня о клонировании. Сколько бы не принимали оборонных документов, все равно остановить это невозможно. Почему вы считаете, что сейчас надо остановится, сесть у камина и думать. Никто не сядет и не будет думать. Все равно будем лететь вперед.

Татьяна Черниговская:

Остановить нельзя. Я думаю, что это личное решение. Я сама с собой должна договориться, что это, это и это я не сдам ни за что.

Виталий Наумович Дымарский:

Все-таки, на ваш взгляд, искусственный интеллект – это в больше мере производная от человека или это самовоспроизводящаяся некая вещь.

Татьяна Черниговская: Ответ будет и да, и да. Потому, что началось с того, что люди ленивые. На этом наша цивилизация держится. Иначе бы с коромыслом ходили бы до сих пор. Для меня лучший объект во вселенной, лучший для меня – его зовут стиральная машина. Если он исчезнет, я отказываюсь продолжать. Но я к чему говорю, вот эти игрушки – да. Фокус в том, что появляются самообучающиеся машины. Хотя многие специалисты по искусственному интеллекту они говорят: "да бросьте вы, это все игрушки. Настоящего искусственного интеллекта пока нет". Они говорят, что это просто устройства разные, но как бы мясорубка лучше, чем предыдущая мясорубка. Во-первых с этим не все согласны, а во-вторых дело все равно движется в ту сторону. Я задам вопрос в ответ на вопрос. Я спрашивала нескольких людей, просто их мнение, о том, что сознание это функция сложности? То есть растет, растет, неважно сложность нейронной сети или технической. Какой-то порог и все, храстнуло. Это так? Если это так, то у нас шансов никаких потому, что оно усложняется и это сознание неминуемо появится. Вопрос в том то другом? Мы про это узнаем? Как вы собираетесь понять, есть у него сознание или нет? Никак. А у нас есть? У вас есть способ доказать, кроме как у себя внутри.

Виталий Наумович Дымарский:

Опять же в связи с искусственным интеллектом, вот вы нам рассказали и, кстати, Дмитрий говорил нам, об интеллектуальных возможностях способностях, при этом у всех эти два и восемь десятых миллиона километров вот этих нейросвязей. За счет чего, за счет спонтанной структуры этих нейросвязей один с интеллектуальными способностями, а другой без всего. Один дурак, а другой умный. В связи с этим, как тогда создавать этот искусственный интеллект.

Татьяна Черниговская:

Нет, здесь две истории. Первая – это когда я показывала цыпленка с яйцом, это на эту тему. То есть, я как студентам говорю, так и вам скажу. Может повести в жизни и от бабушки с дедушкой достанется дорогой замечательный рояль, а может табуретка. Вот даже когда достался рояль, неприятность в том, что нам надо на нем учиться играть. Одного этого рояля недостаточно. Поэтому, значит, уж если плохие гены попались, то вообще беда, а если хорошие, то это не финал. Мы пришли в этот мир с плохой или хорошей нейронной сетью, а дальше мы всю жизнь пишем на ней текст. Этот текст состоит из того, что мы ели, с кем общались, что слушали, что читали, какие платья носили. Понимаете, там все. Зависит от того, что вы писали там. Искусственный интеллект да делали люди умные, как смогли, так и сделали. Опасность то в другом, что они доросли.

Виталий Наумович Дымарский:

Умирает ли сознание? Ваша научная деятельность приблизила ли вас к религии или отдалила?

Татьяна Черниговская:

Скорее приблизила. Меня не то чтобы смущает, а просто факт. Большое количество очень крупных ученых оказались религиозными людьми. Когда условный Хокинг, условный, я не про него говорю, увидел сложность этого мира, что пробирает так, что другого просто в голову не приходит. Здесь должен был быть создатель, это не может быть так просто. Я не утверждаю, что это так, я говорю, откуда это берется. То, что это не отталкивает от религии – это я точно могу сказать. Это параллельные вещи, они не конкуренты. Умирает ли сознание - мы не знаем. Во-первых, каждый узнает в свое время или не узнает. Но если считать, что сознание – это продукт мозга, тогда да, умер мозг – умерло сознание. Вот мы с Дмитрием ездили к Далай-Ламе в прошлом году, с реинкарнацией что будем делать? Я сама себе задавала вопрос, ведь нет физического носителя, через который может личность перейти. Это не атомы. Здесь же речь идет о личности, через что он туда переходит? У монахов был ответ: "так вы же ученые, вы и ищите ответ. Вы ищите. Мы-то знаем точно". Вы же не с домохозяйкой разговариваете, а с людьми, у которых тысячи лет традиции мощнейшие в изучении этого всего. Вы же говорите не с недоучками, а они говорят: "так это вы не нашли! Давайте, что де вы не ищите?". Они знают точно, что это так. Я у него спросила: "У вас был большой взрыв?". Только идиот может задать такой вопрос потому, что он либо был везде, либо был нигде. А ответ? А ответ: "У нас не было". Потому, что мир был всегда. Мир это бесконечная река нет ни прошлого, ни будущего. Времени вообще-то нет. Какой большой взрыв. А сознание часть вселенной – был их ответ. Вопрос о том, умирает ли сознание, зависит от того на какой позиции вы стоите. Если сознание часть вселенной, причем здесь ваша смерть.