Сергей Лукьяненко: «Главная опасность — не коварное государство, как у Оруэлла, а эра всевластия корпораций»
Российский фантаст, создатель вселенной «Дозоров», провел творческую встречу на полях Всемирного цифрового форума в Казани
За писателями-фантастами уже давно закрепилась своеобразная слава прорицателей, способных предсказать появление новых технологий, развитие политических режимов и сценарии изменения мира. Советский фантаст Александр Беляев еще в 30-е годы описывал появление беспилотников и рассуждал об этической стороне пластической хирургии, не говоря уже о сбывшихся «предсказаниях» Жюля Верна или Герберта Уэллса. Неслучайно гостем Цифрового саммита IoT & AI в Казани стал Сергей Лукьяненко — российский писатель-фантаст, написавший «Ночной Дозор», а затем создавший целую вселенную «Дозоров» и еще не менее пяти фантастических миров. Во время полуторачасовой творческой встречи в павильоне «Казань Экспо» автор популярных книг рассказал о своих страхах перед «умным домом» и опыте написания рассказа с нейросетью «Яндекса». Подробнее — в материале «Реального времени».
«Когда IPhone встроил программу измерения, у Apple появилась самая большая коллекция мужских антропологических признаков»
«Как интернет вещей и искусственный интеллект могут использоваться в будущем», — именно так звучала тема, обозначенная для выступления Сергея Лукьяненко на III Всемирном цифровом форуме IoT & AI World Summit Russia 2019. Импровизированный зал в главном павильоне «Казань Экспо» уже через 15 минут после начала встречи наполнился до отказа, невзирая на явные проблемы с техническим оснащением — в огромном холле павильона гуляло громкое эхо. Гостям встречи даже предлагалось воспользоваться наушниками, чтобы разобрать речь интересного спикера.
— Я постараюсь сделать вид, что слышу хотя бы себя самого здесь, — заметил писатель.
Скорее всего, такую аудиторию фантаст собрал впервые — в первых рядах инженеры, разработчики, ведущие программисты и управленцы IT-проектов. По всей видимости, среди тех, кто представляет современную науку, когда-то было немало тех, кто запойно зачитывался текстами Лукьяненко. Оговорившись, что вряд ли сможет многому научить здесь сидящих, писатель предложил вместо заявленной темы вспомнить коллег по цеху и высказать собственные мысли на этот счет.
— Термин «умные вещи» в России известен уже лет 70. Если я не ошибаюсь, в 50-х или 60-х годах писатель и поэт Самуил Маршак написал детскую сказку под названием «Умные вещи», где описывал «умный холодильник», то есть «скатерть-самобранку» и прочие устройства, а также опасность их попадания в чужие руки, для этого не предназначенные. Так что мы задолго до появления интернета какое-то представление уже имели, — с невозмутимым видом иронизировал Лукьяненко.
Кроме шуток, Лукьяненко напомнил, что первым технологию «умного дома» в 1950 году описал писатель-фантаст Рэй Бредбери в рассказе «Будет ласковый дождь», где последний уцелевший после ядерной катастрофы дом продолжает исправно заботиться о своих давно погибших хозяевах. Бредбери никогда не был научным фантастом, и то, как устроена техника, его интересовало в последнюю очередь, как и абсолютное большинство фантастов, зато писатели хорошо видят и видели опасности подобного развития.
— Все мы знаем Оруэлла и технологии слежки, им описанные. Но что такое эти технологии, если сейчас каждый из нас носит в кармане и камеру, и трекер слежения, и устройство, отслеживающее все расходы? Была такая шутка: когда IPhone встроил базовую программу измерения длины предметов, у Apple появилась самая большая коллекция мужских антропологических признаков, — улыбнулся писатель. — Я опасаюсь подобного, я у себя в доме не поставил бы ни умный холодильник, ни умную кофеварку. Например, есть такая штука IQOS, я с большим удивлением узнал, что в ней есть Bluetooth, ее можно сопрягать со смартфоном. А зачем? Посчитать, сколько ты выкурил сигарет, а заодно, чтобы компания имела четкое представление — сколько ты куришь, чего и где ты находишься.
Писатель посоветовал задумываться об этом каждый раз, когда вы в недоумении «смотрите на купленные сосиски, которые не собирались есть, и книжки, которые не собирались читать».
— Главная опасность — не коварное государство, которое будет, как у Оруэлла, за нами следить и периодически делать «а-та-та». Беда в том, что уходит эра всевластия государств, приходит эра всевластия корпораций. Возможно, я выступаю не очень оптимистично со стороны людей, которые этим занимаются. Если вы считаете, что это дилетантский взгляд, то поправьте, я буду очень рад разубедиться, если вы мне скажете, что это лишь первобытные страхи человека, который вырос вне всеобщего информационного поля, — предположил писатель.
«Я написал схему для нейросети «Яндекса», и она по этой схеме попыталась написать свой текст. Становилось смешно»
Но никто Лукьяненко не поправил, поэтому писатель продолжил, все же перейдя ко второй теме встречи — ближайшим перспективам искусственного интеллекта, особо любимого современными фантастами. Вспомнив о концепции искусственного интеллекта, разработанной Айзеком Азимовым еще в середине прошлого века, он констатировал, что нейросеть в обозримом будущем вряд ли сможет стать чем-то большим, чем просто хорошей имитацией.
— Несмотря на разговоры про нейросети, все эти радостные возгласы: «Вот, нейросеть написала рассказ!», пока — это все-таки имитация разума. В лучшем случае вспомогательная программа. Для меня все-таки критерием разума является полноценное творчество. Пока искусственный интеллект не сумеет создать реально хорошее художественное проведение, и неважно что это будет — картина, художественные тексты или музыка, говорить о создании интеллекта невозможно. А все, что пока искусственный интеллект в этом направлении создает — это компиляция человеческих работ, которая бывает забавной, бывает даже интересной, но никогда — оригинальной.
— Может быть, здесь есть люди, которые считают, что искусственный интеллект возникнет буквально в считанные годы, и мы сможем с ним общаться, услышать. Я глубоко верю, что в ближайшие лет 20—30 этого не произойдет, потому что в природе разума мы пока до конца не разобрались, — добавил он.
— Это вы как психиатр говорите?, — донеслась до импровизированной сцены реплика из зала.
— Да, как психиатр. Бывший, — уточнил Лукьяненко в напоминание о первой специальности, полученной в начале 90-х в стенах Алма-Атинского мединститута.
В доказательство писатель рассказал о своем личном опыте «общения» с нейросетью на нынешнем этапе ее развития. В 2017 году, когда на большие экраны выходила фантастическая трилогия режиссера Егора Баранова «Гоголь», одной из ее рекламных площадок стал «Яндекс» — компания, в течение последних лет активно тестирующая собственные нейросети (в апреле 2019 года Юрий Башмет с оркестром впервые исполнили фантазию «Цифровой восход», написанную как раз нейросетью «Яндекса», — прим. ред.). Тогда в качестве маркетингового хода было решено поручить нейросети написать рассказ, предварительно «накормив» ее произведениями Николая Гоголя и других классиков.
— Но оказалось, что нейросеть, просто начитавшись классиков, ничего сделать не может, поэтому меня попросили сконструировать для нее простую сюжетную схемку. Я написал схему для нейросети «Яндекса», и по этой схеме она попыталась написать свой текст. Скажу честно, несколько строчек действительно были красивыми, их мог бы даже написать Гоголь или другой писатель его времен. Что-то нейросетью было такое поймано, сымитировано. Но стоило чуть внимательнее пробежать по тексту и становилось смешно.
В тексте нейросети часто использовались анахронизмы, устаревшие слова, явно выбивающиеся из контекста, либо тянущие за собой ненужные коннотации, а порой попадались и забавные нарушения логических цепочек. «Герой мог, придя домой, подойти к кровати, одеться и лечь спать», — рассказал Лукьяненко. Это означало, что нейросеть связала действия «одеться-раздеться» с процессом сна, но не учла последовательность. Множество подобных вещей полностью свели к нулю весь титанический электронный труд.
— Поэтому искусственного интеллекта бояться нам пока не надо, но и надеяться не надо тоже, — резюмировал писатель.
После этого слушатели лекции завязали с Лукьяненко целую терминологическую баталию, пытаясь разобраться, что автор понимает под терминами «нейросеть», «искусственный интеллект», «сознание», «разум» и «творчество». После 20-минутных обсуждений, сошлись на том, что все-таки «искусственный интеллект» для фантаста скорее собирательный образ рукотворного сознания, аналогичного человеческому, а вовсе не программа, способная к обучению, которую зачастую в научном мире и обозначают этим термином.
Справка
Сергей Васильевич Лукьяненко — российский писатель-фантаст. Родился 11 апреля 1968 года в Каратау в Казахстане. Пошел по стопам родителей, окончив Алма-Атинский мединститут по специальности «врач-психиатр», в течение нескольких лет работал в психиатрической больнице, однако вскоре оставил медицину, устроившись в редакцию газеты «Казахстанская правда». В 1996 году Лукьяненко переехал в Москву.
Первые литературные произведения Лукьяненко начал публиковать в казахстанских журналах еще в студенческие годы. В 1992 году вышел его первый сборник «Атомный сон». В 90-е Лукьяненко становится завсегдатаем конференций писателей-фантастов, активно публикуется и выпускает десятки романов и повестей, часто в соавторстве: с писателем Юлием Буркиным у Лукьяненко выходят «Сегодня, мама!» и «Остров Русь», а в 1997 году публикуется роман «Не время для драконов» Лукьяненко и Ника Перумова.
В 1998 году был издан роман «Ночной Дозор» — первая книга вселенной «Дозоров» Лукьяненко, принесшая писателю настоящую славу. Сейчас вселенная включает больше десяти книг — романов, рассказов, повестей, комиксов, киносценариев. Многие произведения серии «Дозоров» Лукьяненко впоследствии создавал в соавторстве с Владимиром Васильевым. В 2004 году вышел фильм Тимура Бекмамбетова «Ночной Дозор», снятый по одноименному роману Лукьяненко, еще через 2 года режиссер экранизировал и «Дневной дозор».
Лукьяненко считается одним из самых «плодовитых» российских фантастов, его библиография насчитывает свыше 140 произведений, по его книгам снято не менее шести полнометражных фильмов. Одна из самых «громких» премьер последних лет — лента «Черновик» режиссера Сергея Мокрицкого, экранизация первого романа (одноименного) дилогии Лукьяненко «Работа над ошибками». Фильм едва окупил свой бюджет в прокате и получил не самые лестные оценки критиков. В 2019 году ожидается выход экранизации другого романа писателя «КваZи». Зомби-детектив снимает режиссер Александр Войтинский.