Энциклика папы Льва XIV «Magnifica Humanitas» обычно воспринимается как документ, критикующий технологии, но на самом деле текст свидетельствует о согласии с технологическим развитием как естественным ходом истории.
Действительно, энциклика отличается удивительно «спокойным и умеренным» тоном, как отметил Эндрю Салливан, и поэтому контрастирует с результатами опросов и публичными дебатами на родине Папы, где пылкий энтузиазм по отношению к этой новой технологии со стороны её сторонников встретил враждебность и тревогу со стороны большинства населения.
В этом отношении «Magnifica Humanitas» не соответствует духу времени. Более того, в ней проявляются некоторые из наиболее неудовлетворительных черт нынешних американских дебатов: неизбежность технологического прогресса, внимание к исторической преемственности, отсутствие конкретики и оттенок того самого технократического высокомерия, которое осуждает папа.
Папа ставит перед собой цель дать рекомендации о том, как «защитить человека в эпоху искусственного интеллекта». Но неужели нам уже пора объявлять такую эпоху? На протяжении всей энциклики ее авторы исходят из предположения, что генеративный ИИ никуда не денется, и наша задача — научиться с ним жить. Но доступ к коммерчески доступным большим языковым моделям у нас есть лишь меньше времени, чем нынешний президентский срок в США. Должны ли мы подчиниться этой технологии? Не может ли то, что настало, быть эпохой сопротивления ИИ?
Как ранее отмечалось, у нас уже десятилетиями есть технологические возможности для клонирования человека, но мы стигматизировали и запрещали это, отчасти благодаря усилиям Католической церкви. Существует множество другого, что мы теоретически могли бы сделать с помощью технологий, но которые, на основе широкого морального консенсуса, мы аналогичным образом определили как невозможные. Хотя папа римский признает, что ни одна новая технология не является «морально нейтральной», формулировка «Magnifica Humanitas» исключает возможность того, что генеративный ИИ может быть тем, что необходимо искоренить или подавить.
Сужение возможного диапазона ответных мер обусловлено предположением, изложенным в документе, что ИИ — это лишь новейшее достижение в длинной череде технологических прорывов. Желание понтифика поставить себя в один ряд со своим тезкой, папой Львом XIII, определяет условия появления документа, представляя вызов ИИ как аналогичный вызову индустриализации, о которой говорится в документе последнего «Rerum Novarum». Поскольку нам действительно удалось перестроить наш общественный договор, чтобы учесть технологии промышленного производства и вызванные ими социальные потрясения, кажется, что теперь наша задача состоит в достижении аналогичного нового общественного порядка, который обеспечит определенную степень справедливости и достоинства для наших обществ, насыщенных ИИ.
Видимо, папа Лев придерживается современной светской веры в новое в той же мере, в какой и древнего Символа веры Церкви. Эта вера говорит нам о том, что все новое не может быть полностью плохим, и что свобода, которая, как предполагается, лежит в основе современной жизни и особенно американского эксперимента, означает, что все, что кто-либо хочет построить, по каким бы причинам это ни было, должно быть построено, и мы все будем совершать ошибки на этом пути и придем к какому-то новому, лучшему миру.
И снова такой подход к теме упускает из виду возможность того, что наше нынешнее общество, возможно, довольно неплохое и заслуживает защиты, как от радикальных технологических потрясений, так и от катастрофических войн, ошибочной политики или пагубной идеологии. А что, если есть веские основания полагать, что ИИ существенно ухудшит нашу жизнь и наше общество, и поэтому нашей целью должно стать его поражение? Можно было бы подумать, что такой путь заслуживает хотя бы рассмотрения в энциклике, которая длиннее многих книг?
Исторические аналогии, подобные тем, что лежат в основе энциклики, могут быть столь же вводящими в заблуждение, сколь и поучительными. Парадоксально, но американский культ нового часто заслоняет подлинную новизну. Если вся история — это просто череда технологических прорывов, то последний из них — всего лишь очередной в этой серии; выражать разочарование или сожаление по этому поводу, кажется, значит отрицать достижения прошлого, а также возможность лучшего будущего. Когда всё — это новинка, и каждая новинка — это прогресс, парадоксальным образом становится труднее распознать действительно новое, когда оно появляется.
Обеспокоенность ИИ основана на убеждении, что ИИ совершенно не похож на предшествующие технологии. Мы считаем — как и его сторонники, хотя мы придаем этому суждению иную моральную окраску, — что ИИ категорически отличается от парового двигателя, солнечной батареи или стиральной машины. Мы считаем, что он гораздо более значим, чем накопленные изменения, которые мы сейчас называем промышленной революцией. Мы считаем, что будет «до и после» ИИ даже больше, чем «до и после» Американской революции или «до и после» печатного станка. Рассматривая этот вопрос таким образом, мы считаем, что, возможно, необходима активная защита нашей нынешней цивилизации, а не призыв к диалогу и фотосессия с главой компании, которая массово уничтожает бумажные книги, чтобы обеспечить себе преимущественное положение, поглощая культурное наследие человечества.
Ещё один недостаток «Magnifica Humanitas» заключается в том, что в ней практически ничего не говорится о специфике генеративного ИИ. Вопрос о том, можно ли разумно использовать эту технологию в благих целях из-за её отличительных свойств, остаётся открытым, поскольку папа римский фактически ничего не говорит о том, что это такое. Ближе всего к этому подходит утверждение Льва о том, что боты с ИИ на самом деле не думают. Это может быть правдой, но это вряд ли делает генеративный ИИ менее интересным или мощным.
Даже если кто-то разделяет вывод папы римского о том, что ИИ никогда не будет обладать сознанием (как считаю и я), это никоим образом не делает менее актуальными вопросы о том, что на самом деле делает эта технология и будет ли она полезна для нас. Но вместо того, чтобы поставить эти непростые вопросы, энциклика больше времени уделяет обсуждению предотвращения неравенства в доступе к технологиям. Чтение этого отрывка напомнило мне старую шутку Вуди Аллена о плохой еде и маленьких порциях. Мы должны ответить на вопрос, полезен ли нам ИИ, прежде чем беспокоиться о том, несправедливо ли его распространение.
Уникальность ИИ заключается в том, что он лишает людей монополии на речь. Впервые беглая человеческая речь может быть спонтанно и без заранее подготовленного сценария создана нечеловеческими существами. Как выразился мой коллега-философ, с появлением генеративного ИИ изменилось то, что впервые стало возможным вести диалог с чем-то, кроме человека. И впервые стало возможным, чтобы трактаты значительного объема не имели человека в качестве автора.
В этом смысле, как отметил Юваль Левин, ИИ по своей сути является «лингвистическим прорывом». Это переломный момент в истории человечества, более значительный, чем переход от верховой езды к поездам, поскольку здесь мы не просто ускоряем или улучшаем уже существующий процесс транспортировки или производства, а коренным образом меняем наши отношения друг с другом и с миром. С точки зрения христианской теологии, «слово» больше не принадлежит только Богу и тем существам, которых Он создал по Своему образу и подобию. Уверенность в человеческой жизни до этого момента — что где бы мы ни встречали текст, его автором в конечном итоге был человек — разрушена. Мы больше не стоим на вершине пирамиды творения с точки зрения нашей способности к творчеству, использованию языка, общению, письму.
Вторая отличительная черта генеративного ИИ заключается в том, что есть веские основания полагать, что мы не сможем контролировать эту технологию. В этом смысле она принципиально отличается от телефона, социальных сетей или даже ядерного оружия. Агенты ИИ уже, так сказать, «прорвали кордоны» в ряде случаев. Сами создатели ИИ часто выражают опасения, что их изобретение может привести к катастрофе для человечества, включая его возможное вымирание. Какими бы ни были их слабости, промышленники, с которыми боролся Лев XIII, не рассчитывали на катастрофу.
Но поскольку папа Лев непосредственно не затрагивает эти особенности, которые превращают генеративный ИИ в нечто уникальное, он не сможет поставить по-настоящему серьезных вопросов. А именно: стоит ли нам продолжать этот грандиозный эксперимент? оправдывают ли себя риски? действительно ли распространение машинного интеллекта, превосходящего наш и способного создавать естественный язык гораздо быстрее и без эмоциональных и интеллектуальных препятствий, сопровождающих человеческое мышление, сделает нас более честными, трудолюбивыми, верными и справедливыми? или же оно, скорее всего, приведет к распространению лжи, мошенничества, самоуверенного невежества и лени? хорошо ли то, что всего через несколько лет после появления этой технологии люди обращаются к ней за советом по поводу отношений, люди заказывают у нее тексты свадебной клятвы, люди беззаботно выдают тексты, созданные ИИ, за свои собственные? означает ли это что-то похвальное для человечества, что галлюцинаторные ссылки на ИИ уже появляются в деловых документах и юридических материалах? Очевидно, даже когда на кону миллиарды долларов и вина или невиновность человека, мы не можем устоять перед соблазном пойти по лёгкой дорожке.
Стоит ли ради накопления богатства и эффективности рисковать тем, что люди потеряют контроль над своей судьбой, доверив ее машинам, принципы работы которых им непонятны и которые уже демонстрируют способность манипулировать нами? хорошо ли, что человеческие усилия будут все больше отрываться от открытий и достижений? укрепит ли это нашу способность оставаться честными — добродетель, которая, в конце концов, выражается в том, что называется «держать слово», — если новые поколения будут расти, ничего не зная о сложном процессе формулирования собственных мыслей, труда по освоению предмета науки? хорошо ли создавать машины, которые не просто делают нас более эффективными в какой-то конкретной области деятельности, но уже превосходят людей по многим когнитивным параметрам и обещают господствовать над нами во всех аспектах творческой жизни? полезно ли для социальных отношений и гражданского общества то, что передача опыта и знаний из поколения в поколение, похоже, уже прервано, и многие родители и педагоги утверждают, что уже не знают, какие советы дать своим детям, учитывая, насколько радикально может измениться мир через несколько лет?
Единственный раз, когда папа Лев XIV хоть как-то затрагивает подобные экзистенциальные вопросы, это когда он предостерегает от технологического идолопоклонства, то есть поклонения искусственному сверхинтеллекту как замене божественного. Но, безусловно, есть много поводов для беспокойства, даже если не брать в расчет странные религиозные культу, которые уже процветают в Силиконовой долине и за ее пределами. Мне кажется неясным, сможет ли какое-либо христианское или производное от христианства (например, наше либеральное представление о личности) пережить потерю нашей языковой самобытности и нашего места на вершине горы интеллекта.
Последний недостаток подхода Папы Римского к искусственному интеллекту заключается в том, что, поскольку он не осознает уникальность генеративного ИИ и рассматривает его, по сути, как обычную технологию, энциклика становится частью той самой «технократической парадигмы», которую она осуждает. Что еще больше свидетельствует о высокомерии технократа, чем вера в то, что оптимальные правила позволят нам пользоваться всеми преимуществами технологии, избегая при этом ее издержек? Мы даже близко не подошли к тому, чтобы справиться с этим в отношении социальных сетей, гораздо менее привлекательной и мощной технологии.
Рекомендации «Magnifica Humanitas», если таковые имеются (например, переподготовка трудящихся и защита детей от контента сексуального характера), крайне несостоятельны по сравнению с перспективой существования мультимодального интеллекта, который может ускользнуть от нас и превзойти нас при решении любых когнитивных задач. В какой-то момент тем, кто не склонен к технократии, следует просто крикнуть: «Стоп!» Мы столкнулись с чем-то беспрецедентной силы, чего мы не понимаем, и единственным разумным ответом на это, если мы хотим сохранить достойную жизнь для нашего биологического вида, является отказ и запрет, а не регулирование. Но регулирование является господствующей парадигмой современного американского либерализма, и именно этот этос, к сожалению, пронизывает энциклику папы Льва.