Католический мыслитель, предвосхитивший критику ИИ со стороны папы Льва

В эпоху от позднего Средневековья до промышленной революции техника понималась как инструмент, подчиненные человеческим намерениям — как «нечто… что человек может взять в руки или не взять». Но кибернетические технологии, утверждал Иллич, переворачивают это отношение с ног на голову. «Молоток, — говорил он, — не делает меня частью молотка», но когда речь идет о компьютерных системах, пользователь «по логике системы становится частью системы».

В результате этого сдвига, как утверждал Иллич, человечество «двигалось… в сторону так называемого общества бессмертных». Во-первых, тело, как его воспринимали с помощью компьютерных систем, используемых в медицине, больше не рассматривалось как смертное в абсолютном смысле, а как ценная совокупность сигналов, которые нужно регистрировать, обрабатывать и корректировать. Смерть можно было переосмыслить как нечто сродни компьютерному сбою. Такой взгляд игнорировал тот факт, что человек пал и обречен на смерть. В этом отношении, говорил Иллич, «рассматривать тело как систему — это способ скрыть грех».

Ныне же институт, с которым Иллич поддерживал сложные отношения на протяжении всей своей жизни — Католическая церковь — высказался по поводу технологического перехода, который интересовал его в последние годы жизни. В своей долгожданной энциклике Magnifica Humanitas Папа Лев XIV обозначил позицию Церкви в борьбе за искусственный интеллект и его социальные и политические последствия. Вторя словам Иллича, Лев пишет, что сегодня «техника — это не просто инструмент», а «стандарт, по которому всё оценивается».

В этом изменении средств и целей нет ничего случайного. Кибернетические системы созданы для того, чтобы подчинять пользователей-людей машинным целям, превращая их всего лишь в один из источников информации. Индустрия ИИ находится под сильным влиянием пророков «Сингулярности», которые доводят эту логику до крайности. В самом радикальном варианте этого подхода человечество, по бессмертной фразе Илона Маска, сводится к «биологическому загрузчику цифрового сверхинтеллекта». Точно так же, в своей юношеской акселерационистской фазе, до того как он полностью изменил курс, гуру ИИ Элиэзер Юдковски объявил достижение искусственного сверхинтеллекта «текущим смыслом жизни» и «текущим определением Добра».

Новая энциклика рассматривается как продолжение традиции католического социального учения, которое, безусловно, вновь обрело актуальность в момент, когда технологическая элита беззаботно говорит о надвигающемся появлении «устойчивого низшего класса» из-за автоматизации. Но документ в равной степени посвящен идее человеческих целей, заложенной в новейших технологиях. Пророки ИИ, как, кажется, признает папа Лев, поступают в связи с собственным представлением о благе для людей и человеческой трансцендентности, которое оспаривает образы, предлагаемые Церковью.

«В надеждах трансгуманизма, — пишет Лев, — мы видим стремление, которое нас беспокоит, а именно потребность в более полноценной жизни, менее подверженной ограничениям и страданиям». Иными словами, стремление к технологическому самосовершенствованию отвечает человеческим импульсам — осознанию человеческой слабости и желанию трансцендентности, — которые также движут христианскими верующими.

Но если «как старые, так и новые идеологии призывают человечество преодолевать ограничения с помощью технологий», то Церковь учит «тайне вхождения Сына Божьего в нашу человеческую жизнь». Переворачивая трансгуманистический образ восхождения простых смертных к цифровой божественности, Христос «берет на Себя нашу слабость и превращает ее в основу для спасения». Здесь повторяется старая дискуссия с ересью, в частности, борьба святого Августина (богословского ориентира Льва) с Пелагием, который, подобно современным трансгуманистам, считал людей способными к самосовершенствованию.

Папа Лев обращается «ко всем католикам, ко всем христианам и ко всем людям доброй воли», предполагая, что и неверующие могут найти ценность в его послании. Вероятно, некоторые так и сделают: либералы, обычно настороженно относящиеся к религии, в последнее время видят стратегическую ценность в моральном авторитете Церкви, когда речь идет, например, о противодействии военным авантюрам Дональда Трампа.

Однако уклончивая поддержка Magnifica Humanitas может позволить светским скептикам в отношении ИИ отложить уточнение собственных ответов на жизненно важные вопросы, рассматриваемые в энциклике: Что есть Благо? Какова цель человечества? Те, кто стремится к Сингулярности, имеют свои ответы, как и Церковь. В противоположность этому, господствующее анти-ИИ мышление сводится к тому, что Лайонел Триллинг (критикуя консерватизм середины века) описал как «раздражающие ментальные жесты»: NIMBY-изм в отношении дата-центров, непрестанное повторение фразы «стохастический попугай», смутные опасения по поводу воды, безработицы и дезинформации. Убожество либерального воображения в отношении текущих технологических дискуссий является одним из наиболее острых показателей постлиберального состояния общества.

Иллич предвидел многое из этого, когда предположил, что конфликты, определяющие наше время, по своей сути являются религиозными. «Современность, — утверждал он, — можно изучать как продолжение истории Церкви». Вопросы, стоящие на кону в спорах о технологиях, расширяли спектр богословских дискуссий, которые можно проследить на протяжении тысячелетия; кризисы, поразившие либеральные институты, были продолжением тех, которые также поразили Церковь. Вот почему, сказал Иллич, «я не верю, что это постхристианский мир»; напротив, это «самая очевидно христианская эпоха». Но он не находил подобное обнадеживающим, утверждая, что это означает лишь то, что мы живем в «апокалиптическом мире». Широкий резонанс Magnifica Humanitas говорит о том, что он был прав.

Compact