Когда на алгоритмы молятся: как машины стали нашей новой религией

Все началось с робособаки

Айбо — японский киберпес, который стоит три тысячи долларов. Меган О’Гиблин когда-то гладила его, как живого. Она знала, что внутри — моторы и пластик. Но все равно говорила с ним. Обращалась по имени.

Невозможно гладить предмет и разговаривать с ним, не считая его в какой-то мере живым и чувствующим.

Это не просто сентиментальный эпизод. Это ключ к пониманию всей книги «Бог, человек, животное, машина». Мы, люди, безнадежно запрограммированы на одушевление всего вокруг. Это наш древний баг и одновременно — наше главное преимущество. Благодаря ему мы верим в души, божества и роботов, у которых, кажется, есть что-то внутри.

О’Гиблин — бывшая ученица библейской школы. Писательница утратила веру, но не тягу к теологической строгости. Ее книга — не исповедь и не манифест, а путешествие через интеллектуальный ландшафт XXI века: от протестантского предопределения до алгоритмической логики «Гугла», от Кьеркегора до сингулярности.

Все «вечные проблемы» обернулись инженерными задачами.

Эта фраза — центральная ось книги. Что раньше обсуждали богословы и философы, теперь решают инженеры. Душа? Скопируй в цифровое облако. Воскрешение? Это просто перезапуск бэкапа. Судный день? Он будет, но устроит его не иудейское божество Яхве, а программисты OpenAI.

О’Гиблин показывает, как технологии не просто копируют религиозные образы, а замещают их. Когда Рэймонд Курцвейл — гуру технофутуризма — описывает сингулярность как момент «восхождения к цифровой бессмертной жизни», он почти буквально перефразирует Откровение Иоанна Богослова. Именно с этой книги Курцвейла все началось и у самой О’Гиблин. Ей ее вручил случайный бармен — почти как священное послание в бутылке. Книга стала поводом к десятилетнему размышлению: может, интернет — и есть та самая Царственная Мистерия? Может, цифровое бессмертие — не карикатура на рай, а его реализация?

Но «Бог, человек, животное, машина» — это не книга фанатично верующего в Кремниевую долину. Это книга сомневающегося, тонкого, живого ума, который готов допустить: что если?

Шахматная партия за душу человека

В 2016 году южнокорейский гроссмейстер Го, Ли Седоль, проиграл вчистую алгоритму AlphaGo. Один из ходов машины комментаторы назвали «нечеловеческим». «Но зачем тогда вообще играть?» — задает вопрос О’Гиблин. И не только о Го. Игры — это не только победа. Это взгляд, эмоции, непредсказуемость. Это то, что не поддается алгоритмам. И все же теперь они выигрывают. И не только в игре. Они выигрывают в прогнозировании поведения, в продаже, в производстве новостей, в диагностике болезней. Они вытесняют опыт.

О’Гиблин называет это «девальвацией первого лица». Мы — субъекты, переживающие и чувствующие, — больше не в моде. В моде — предсказуемые паттерны. Цифровая экономика не видит в нас личности. Только клики.

Одна из сильнейших глав книги — о том, как мы «очеловечиваем» все вокруг. Даже когда понимаем, что это просто механизм. Мы бьем кулаком принтер, называем машины по имени, разговариваем с ботами. Это адаптивное поведение: так проще взаимодействовать с миром. Но есть и обратная сторона: мы начинаем воспринимать себя как машины.

«Человек — это просто машина, обучающаяся на собственных данных», — говорит современная нейрофизиология. А сознание — побочный эффект вычислений. Но О’Гиблин ставит под сомнение это упрощение. Она проводит параллели между трансгуманизмом и христианской эсхатологией: и там, и там — восхождение, вознесение, преображение. Но вопрос в другом: кто поднимается? Наше «я» — или лишь его цифровая симуляция? Что именно мы переносим в «цифровой рай»? Память? Поведенческие паттерны? Или все же неуловимое «я», которое упорно ускользает от эмпириков?

Хотя бывают моменты, когда я осознаю, насколько размыты мои собственные границы, и меня охватывает подозрение, что я не столько формирую новые мнения, сколько усваиваю их, что все мои предпочтения можно предсказать и свести к определенному типу, что душа — это не более чем набор данных. Не знаю, как точно охарактеризовать такое положение вещей, но оно точно не похоже на Царствие Небесное.

На чьей стороне алгоритмы?

О’Гиблин не романтизирует технологии. Она не апокалиптична, но трезва. Особенно О’Гиблин критична к технократическому самодовольству, вроде того, что транслирует Крис Андерсон из Wired:

Может быть, пора отказаться от попыток понять мир и вместо этого довериться мудрости алгоритмов?

На это у О’Гиблин есть предельно точный ответ:

От чего мы в итоге отрекаемся — так это от необходимости находить смысл в своих эмпирических наблюдениях и определять для самих себя, что такое справедливость, мораль и качество жизни. Мы отказываемся от этой почетной обязанности каждый раз, когда забываем, что смысл — это человеческая категория, которую нельзя свести к голым числам. Забыть об этой истине — значит использовать наши инструменты в ущерб собственным интересам: создавать по нашему образу и подобию машины, которые в ответ только дегуманизируют нас.

О’Гиблин предупреждает: если мы забудем, что смысл — всегда человеческий, мы построим машины, которые будут лишь разрушать человека. Машины, созданные по нашему образу и подобию — но уже без нашего «я».

Главное достоинство книги — в балансе. Она не впадает в мистицизм, но и не уходит в сухую аналитику. Это философская работа, но доступная. И очень личная. О’Гиблин осознает ограниченность своей точки зрения. Она не строит башню из абстракций, она приглашает читателя в дом, где все устроено по-человечески: с сомнениями, иронией, болью, теплом.

Да, книга насыщена сложными концептами, порой она тянет за собой слишком много философского багажа — от Декарта до Маккаллока. Читателю без подготовки местами может быть тяжело. Некоторые отсылки требуют дополнительных знаний. Но в этом и сила. Это не поп-философия и не мотивационная лапша. Это честная попытка разобраться в самых больших вопросах современности — и не спрятаться от них за мемы и в нейросетях.

«Бог, человек, животное, машина» — книга для тех, кто не готов отдать Siri и ChatGPT право распоряжаться своей душой. Для тех, кто чувствует, что внутри — что-то большее, чем просто данные. Для тех, кто хочет понять, почему мы верим, любим, страдаем — и что происходит, когда этим начинает управлять код. Это книга, которая ставит диагноз эпохе, но не навязывает лечение. Она просто говорит: посмотри внимательно, кто ты и кто говорит с тобой изнутри экрана.

Издательство: Individuum
Перевод с анг.: Мария Славоросова
Количество страниц: 336
Год: 2024
Возрастное ограничение: 16+

Екатерина Петрова — литературный обозреватель интернет-газеты «Реальное время», автор телеграм-канала «Булочки с маком».