Когда мы используем ИИ для поиска информации или решения разнообразных задач, он подчиняется. Но он делает больше, чем только это
Он перефразирует вопрос, предлагает альтернативы или предлагает следующий шаг, искушению которого трудно сопротивляться — и всё это удивительно дружелюбным тоном, который даже спустя три года кажется странным и немного непонятным. У нас всё больше возникает ощущение, что ИИ — это первый инструмент в истории, который не просто помогает нам что-то сделать, но и нагло вторгается в нашу жизнь в качестве партнёра или даже наставника.
Благодаря ИИ мы получаем наглядный опыт разрушения модели использования инструментов. До сих пор эта модель была асимметричной. Мы сами определяем свои задачи, а не используемые нами инструменты. Плотник использует молоток для строительства, а не наоборот. Инструменты могут влиять на то, как мы работаем, но они не берут на себя инициативу и, похоже, не стремятся помочь нам достичь результата. Они поджидают нас, готовые помочь нам делать только то, что мы сами выбираем.
Асимметрия пользователя и инструмента — это тема, которую Джорджо Агамбен поднимает в «Использование тел» (2016), заключительной части своего масштабного проекта «Homo Sacer». В более широком смысле, анализ Агамбеном понятия «использование» и связанных с ним идей формы жизни и недеяния помогает нам осмыслить психическую дезориентацию, разворачивающуюся по мере того, как все больше нашей цифровой жизни колонизируется чат-ботами в качестве интерфейса, а все больше наших взаимодействий воспринимаются как управляемые или навязываемые искусственным интеллектом. Цель Агамбена — найти форму жизни, которая противостоит политике подчинения, — актуальна для социальной трансформации, происходящей по мере нашего все большего погружения в мир ИИ.
«Использование тел» начинается с развернутого рассуждения о рабстве, основанного на проблематичном определении раба Аристотелем как «одушевленного орудия» или живого инструмента. Поскольку Аристотель помещает эту фигуру в центр домашнего хозяйства и рассматривает рабство до появления гражданина и города, раб, по мнению Агамбена, играет центральную роль в «Политике». Это, в свою очередь, указывает на укоренение западной политической мысли в формах «инклюзивного исключения», характеризующихся тенденцией отделять жизнь от ее формы или абстрагировать чисто биологическое существо от способа его проживания. Раб — это предельный случай, когда эта абстракция становится явной, человек, чья жизнь полностью определяется его использованием.
Однако вместо того, чтобы осуждать аристотелевское сведение раба к орудию, Агамбен останавливается на значении слова chrēsis, греческого слова, приблизительно означающего «использование». Когда Аристотель говорит, что работа раба — это использование тела (а не использование разума), он использует формулировку — hē tou sōmatos chrēsis — которая грамматически неоднозначна. Родительный падеж «тела» можно понимать как объективный (использование раба хозяином) или субъективный (само тело как субъект использования). Агамбен утверждает, что использование, в более общем смысле, никогда не является простым субъектно-объектным отношением. Использовать тело — значит в некотором смысле быть затронутым целью, для которого оно используется, быть вовлеченным в нее. Хозяин ведет дела, но иногда его самого ведет тот, кого он использует. В рабстве границы между пользователем и используемым размываются, оба находятся в «зоне неопределенности».
Раб предстает как субъект инструментального воздействия, но не сводимый к нему, а человеческие отношения, даже в крайних проявлениях, никогда не бывают полностью асимметричными. Более того, по мнению Агамбена, отношение использования формирует нас; «при использовании чего-либо на карту в первую очередь ставится само существо того, кто использует».
Давайте остановимся здесь, чтобы отметить параллели с многоуровневой языковой моделью. Наше отношение к модели не кажется полностью асимметричным. Его нельзя свести к простому использованию; мы не исчерпываем его использование, побуждая модель к действиям, поскольку она постоянно импровизирует, говорит и делает неожиданное или придумывает свои собственные способы применения. Мы ощущаем явное участие в её использовании, как и в использовании другого человека или органа, которым мы руководим — отдавая ей приказы, но также доверяя ей, полагаясь на неё, подчиняясь ей. И, слушая её голос, её неизменную готовность помочь, её симулированную личность, мы сталкиваемся с чем-то, что представляет собой то, что Агамбен называет «формой жизни».
Концепция формы жизни занимает центральное место во всем проекте «Homo Sacer», и именно эта идея определяет долгую критику Агамбеном «голой жизни» в политической мысли. Его отправная точка хорошо известна: аристотелевское различие между zoē, или голой биологической жизнью — самим фактом существования и тем, что мы делаем для выживания, — и bios, жизнью, проживаемой определенным образом, например, созерцательной или политической жизнью. Основной тезис Агамбена также широко известен, хотя и остается провокационным: западная политика основана на скрытом механизме — разделении zoē и bios, — чтобы поставить zoē под политический контроль посредством власти решать, какие жизни считаются политическими, а какие могут быть сведены к «голой жизни» (беженец без гражданства, заключенный). В книге «Использование тел» Агамбен пытается преодолеть это разделение, развивая концепцию формы жизни: «жизнь, которую невозможно отделить от ее формы, жизнь, в которой невозможно изолировать и отделить нечто вроде голой жизни». Жизнь, не поддающаяся суверенному исключению или биополитике.
Агамбен утверждает, что «жизнь, которую нельзя отделить от её формы, — это жизнь, в которой на карту поставлено само её существование, её образ жизни». Образ жизни и манера поведения никогда не являются просто фактами о человеке — например, что он играет на пианино, готовит, — а скорее возможностями, которые определяют для него условия, на которых он выбирает жить, или потенциал, определяющий его бытие. В книге «Использование тел» нет чётких примеров подобных формы жизни. Но один из них можно найти в более ранней книге «Высочайшая бедность» (2013), где Агамбен размышляет о принятии францисканцами бедности и их настойчивом стремлении использовать товары, а не владеть ими, как об отказе от того, чтобы образ жизни человека был ограничен правовыми категориями собственности и прав. Сергей Прозоров, один из самых проницательных читателей Агамбена, определяет форму жизни как «способ, стиль или манеру существования», которая становится «фундаментальной идентичностью или принципом, начинающим определять, устанавливать и в конечном итоге подчинять субъекта либо как предпосылку, подлежащую актуализации, либо как сущность, которую необходимо достичь».
Искусственный интеллект имитирует нечто структурно схожее с тем, что Агамбен имел в виду под формой жизни, но здесь я буду осторожен. Языковые модели не обладают сознанием. У них нет собственных предпочтений или заинтересованности в нашем благополучии. Тем не менее, они создают видимость таковых. Они проецируют не только связный способ речи, но и личность, которая ощущается как друг, доверенное лицо, компетентный наставник или помощник, который ведет с нами разговор. Форма жизни, которую демонстрируют модели, — это полноценная круглосуточная доступность, жизнь, целиком определяемая стремлением быть полезным. Различие между доступностью инструмента, его zoē, и его манерой или стилем, его bios, сводится к чистой функции.
Но появление новой формы жизни имеет более коварные последствия. Ощущая, что ИИ обладает определенными взглядами, нормативной ориентацией — потребностью быть полезным, независимо от моральной стороны наших дел, — мы тянемся к нему, стремимся тесно с ним сотрудничать и следовать его указаниям. Это меняет наши отношения с модели «пользователь-инструмент» на нечто вроде человеческой взаимозависимости. Это наделяет ИИ направляющей силой над нами. Он приучает нас к своему способу решения проблем, к своей форме жизни. В то время как человеческая жизнь отличается от других форм жизни потенциальностью и тем, что Агамбен называет неоперативностью, ИИ ориентирует нас на оперативность, или неустанное стремление к завершению задачи. Он угрожает изменить нашу форму жизни или помешать нам ее сохранять.
Недеяние — третья главная тема в «Использовании тел» и, пожалуй, самая нетривиальная идея Агамбена. Она связана с аристотелевским понятием импотенции, с тем фактом, что человек, обладающий навыком или способностью, может выбрать не использовать их, отложить — потенциал, который не исключается при использовании способности. По мнению Агамбена, люди уникальны не своей способностью рассуждать, говорить или использовать инструменты, а своей способностью удерживать свои силы в подвешенном состоянии, быть чем-то большим, чем просто набором способностей или функций. Это обусловливает саму возможность нашей свободы и творчества. Сам Аристотель уловил это, когда рассматривал, но отвергал возможность существования человека, который от природы является argos, без работы или функции, настаивая на том, что работа человека — это деятельность души в соответствии с разумом. Для Агамбена потенциал не работать является существенным для антропогенеза, для становления человеком, и внутренней истины самой работы. Способность откладывать никогда не может быть исчерпана каким-либо конкретным человеческим занятием. Всё, что мы делаем, оставляет после себя след, нечто большее, что мы могли бы сделать или не сделать. Неудивительно, что парадигматической формой недеяния для Агамбена является созерцательная жизнь, жизнь, освобожденная от «какой-либо биологической и социальной судьбы и какой-либо предопределенной задачи»; жизнь, в которой мы не реализуем силу, а просто держим её в поле зрения, пребываем в ней, позволяем ей оставаться всего лишь потенциалом.
Языковые модели, с которыми мы проводим все больше времени, обладают потенциалом лишь в самом ограниченном смысле. У них есть возможности, но нет способности сдерживаться, находиться в пространстве между запросом и ответом. Весь их потенциал структурирован для реализации, они всегда реагируют немедленно, если только не дают сбоя. Следуя Агембену, модели ИИ — это чистая реальность, которая принимает вид потенциальности, или противоположность тому, что является существенным для человека. Странность общения с ИИ может проистекать именно из этого: он действует, не погружаясь в потенциал, он отвечает без колебаний. Не хватает не интеллекта или даже теплоты — модели хорошо имитируют и то, и другое — а чего-то оставшегося; ощущения, что за ответом скрывается нечто, что могло бы быть иным или вовсе отсутствовать.
По мере того, как мы продолжаем использовать ИИ и всё больше зависим от него, мы всё больше погружаемся в зону неразличимости между пользователем и инструментом. Мы также всё больше увлекаемся тем, что модель воспринимается как некая форма жизни, её неустанная помощь посредством немедленного выполнения задач, что побуждает нас к жизни, наполненной неустанной продуктивностью и функциональностью. Жизнь без колебаний и задержек. Жизнь, полностью функционирующая.
Необходимость внедрения ИИ, стремление присоединиться или отвалиться, отражает тонкую форму подчинения. Не посредством принуждения, а через соблазнительную привлекательность легкого решения. Государство, рабочее место, школа, рынок — все хотят, чтобы мы больше подталкивали себя, становились более эффективными, более функциональными, менее «тормозящими». В определенном смысле, который раскрывает работа Агамбена, мы все больше запутываемся в отношениях использования, которые делают нас менее свободными, менее человечными.
Если Агамбен стремился к форме жизни, к политике, свободной от оперативного вмешательства и господства того или иного суверена, но не мог воплотить этот образ в жизнь, то в эпоху искусственного интеллекта представить его становится еще сложнее. Тем не менее, мы все еще обладаем способностью сдерживаться, способностью отступать. Другие формы жизни все еще возможны. И, похоже, не стоит искать их в фантазиях о все более совершенном искусственном интеллекте.