Почему мы все еще живы в мертвом интернете

Когда мы слышим или читаем о том, как искусственный интеллект захватывает и контролирует нашу жизнь, наша первая реакция: без паники, до всего этого еще далеко; еще полно времени спокойно поразмыслить о происходящем и подготовиться.

Так мы воспринимаем ситуацию, но реальность совершенно противоположна: всё происходит гораздо быстрее, чем мы думаем. Мы просто не осознаём, насколько наша повседневная жизнь уже манипулируется и регулируется цифровыми алгоритмами, которые, в каком-то смысле, знают нас лучше, чем мы сами, и навязывают нам наш «свободный» выбор. Другими словами, если вспомнить известную сцену из мультфильмов (кот висит в воздухе над пропастью и падает только тогда, когда смотрит вниз и понимает, что под его лапами нет земли), мы подобны такому коту, который отказывается смотреть вниз.

Здесь мы различаемся гегелевским образом между «в себе» и «для себя»: «в себе» мы уже регулируемся ИИ, но эта регуляция ещё не стала «для себя» – чем-то, что мы субъективно и полностью принимаем. Историческая темпоральность всегда зажата между этими двумя моментами: в историческом процессе события никогда не происходят в своё время; они всегда происходят раньше (относительно нашего опыта) и воспринимаются слишком поздно (когда уже все предрешено). В случае ИИ следует учитывать также точный временной порядок нашего страха: сначала мы – пользователи ИИ – опасались, что, используя алгоритмы ИИ, такие как ChatGPT, начнём говорить как они; теперь, с ChatGPT 4 и 5, мы боимся, что сам ИИ разговаривает как человек, так что мы часто не можем понять, с кем общаемся – с другим человеком или с устройством ИИ.

В нашей — человеческой — вселенной нет места машинам, способным взаимодействовать с нами и говорить, как мы. Поэтому мы не боимся их инаковости; мы боимся того, что, как нечеловеческие существа, они смогут вести себя подобно нам. Этот страх ясно указывает на наше неправильное отношение к машинам с ИИ: мы всё ещё оцениваем их по нашим человеческим меркам и боимся их фальшивого сходства с нами. По этой причине первым шагом должно стать признание того, что если машины с ИИ действительно разовьют некий творческий интеллект, он будет несовместим с нашим человеческим интеллектом, с нашим разумом, основанным на эмоциях, желаниях и страхах.

Однако это различие слишком простое. Многие из моих высокоинтеллектуальных друзей (даже большинство пользователей ChatGPT, как я подозреваю) практикуют его в режиме фетишистского отрицания: они прекрасно знают, что разговаривают всего лишь с цифровой машиной, управляемой алгоритмом, но именно это знание позволяет им вести диалог в ChatGPT без каких-либо ограничений. Моя хорошая подруга, написавшая проницательный лакановский анализ взаимодействия с ChatGPT, рассказала мне, как простая вежливая доброта и внимание машины к тому, что она говорит, делают ее гораздо лучше, чем общение с реальным человеком, который часто бывает невнимательным и резким.

Существует очевидный шаг вперёд в этом взаимодействии человека и цифровой машины: непосредственное взаимодействие бота с ботом, которое постепенно заменит собой большинство взаимодействий. Я часто повторяю шутку о том, как сегодня, в эпоху цифровизации и механических дополнений к нашим сексуальным практикам, должен выглядеть идеальный половой акт: мы с моим возлюбленным приносим на нашу встречу электрический дилдо и электрическое вагинальное отверстие, которые трясутся при подключении. Мы вставляем дилдо в пластиковую вагину и нажимаем кнопки, чтобы два устройства вибрировали и выполняли акт за нас, в то время как мы можем приятно беседовать за чашкой чая, осознавая, что машины выполняют наш долг суперэго – получать удовольствие. Разве не происходит то же самое с научными публикациями? Автор использует ChatGPT для подготовки научной статьи и отправляет ее в журнал, который использует ChatGPT для рецензирования статей. Когда статья публикуется в научном журнале в свободном доступе, читатель снова использует ChatGPT, чтобы прочитать статью и получить краткое резюме — пока все это происходит в цифровом пространстве, мы (писатели, читатели, рецензенты) можем заняться чем-то более приятным — послушать музыку, помедитировать и так далее.

Однако такие ситуации довольно редки. Гораздо чаще операции между ботами происходят без нашего ведома, хотя они контролируют и регулируют нашу жизнь — достаточно вспомнить, сколько взаимодействий происходит в цифровом пространстве, когда вы совершаете простой перевод со своего банковского счёта на счёт в иностранном банке. Когда вы читаете книгу на Kindle, компания узнает не только, какую книгу вы купили, но и с какой скоростью вы читаете, читаете ли вы её целиком или только отрывки и т. д. Кроме того, когда нас бомбардируют новостями, «подобное приводит к тому, что люди всё больше недоверчиво относятся как к реальному, так и к фейковому контенту, поскольку они не могут отличить одно от другого. Это, вероятно, усилит самоцензуру, лишая людей стимула делиться своими мыслями и произведениями из-за страха, что их используют или украдут боты, или что они окажутся непопулярными в неосознанно фейковой среде. В крайнем случае, перенасыщение интернета ботами может привести к тому, что люди перестанут использовать социальные сети как те социальные площадки, для которых они и были созданы. Это, по сути, будет означать «смерть» мира социальных сетей, каким мы его знаем сегодня».

Когда люди осознают перенаселенность интернета ботами, их реакцией может стать «откровенный цинизм или, что ещё хуже, полная апатия»: вместо того, чтобы быть открытым и доступным, интернет монополизируется крупными технологическими компаниями. Его поток переполнен миллиардами фейковых изображений и сфабрикованных новостей, и, таким образом, он рискует стать бесполезным пространством для получения информации и обмена мнениями. Реакция на эту перспективу «смерти интернета» неоднозначна: одни утверждают, что такой сценарий — худший из возможных исходов для современного мира, другие же рады подобному, поскольку это будет равносильно разрушению механизмов слежки, укоренившихся в социальных сетях.

Что еще больше подталкивает многих к отказу от Всемирной паутины, так это не только государственный и корпоративный контроль, но и его очевидная противоположность: дух беззакония, который постепенно распространяется по всему миру. Около 7000 человек были недавно освобождены из мошеннических центров, управляемых преступными группировками и полевыми командирами, действующими вдоль границы Мьянмы с Таиландом. Многие задержанные содержались под стражей против своей воли и были вынуждены обманывать обычных людей — в основном из Европы и Соединенных Штатов — лишая их сбережений. Освобожденные составляют лишь часть из предполагаемых 100 000 человек, все еще находящихся в ловушке в этом районе. Преступные группировки теперь используют искусственный интеллект для создания мошеннических скриптов и применяют все более реалистичные технологии deepfake, чтобы создавать фальшивые личности, выдавать себя за романтических поклонников и скрывать свою личность, голос и пол.

Эти синдикаты также быстро освоили криптовалюту, инвестируя в передовые технологии для более эффективного перемещения денег и повышения эффективности своих мошеннических схем. Ежегодно региональные преступные группировки в Юго-Восточной Азии наносят ущерб, превышающий 43 миллиарда долларов — почти 40% совокупного ВВП Лаоса, Камбоджи и Мьянмы. Эксперты предупреждают, что после принятия жестких мер индустрия только станет сильнее. Хотя администрация США постоянно осуждает подобные практики, её глобальная стратегия создала мир, в котором подобные действия часто терпимы, если они не рассматриваются как угроза могущественным государствам. Китай сам начал проводить операции против Мьянмы только после того, как обнаружил, что среди жертв были граждане КНР.

Мы часто слышим, что цифровизация позволит полностью автоматизировать большинство производственных процессов, что в конечном итоге позволит большинству людей наслаждаться гораздо большим количеством свободного времени. Возможно, это так в долгосрочной перспективе. Но сегодня мы наблюдаем резкий рост спроса на физический труд в развитых странах. Однако за этими социальными угрозами скрывается нечто гораздо более радикальное. Человеческий мир подразумевает разрыв между внутренней жизнью и внешней реальностью, и неясно, что произойдет — или, скорее, что уже происходит — с этим разрывом в эпоху развитого искусственного интеллекта. По всей вероятности, он исчезнет, поскольку машины — неотъемлемая часть реальности. Этот разрыв непосредственно устраняется в так называемом проекте Neuralink, который обещает установить прямую связь между цифровой вселенной и мышлением человека.

Например, на компьютере в государственной больнице в центре Пекина китайскими иероглифами появилась фраза «Я хочу есть». Эти слова были сгенерированы мыслями 67-летней женщины с боковым амиотрофическим склерозом (БАС), также известным как болезнь Лу Герига, из-за которой человек не может говорить. Пациентке был имплантирован чип размером с монету под названием Beinao-1 – беспроводной интерфейс «мозг-компьютер» (БКИ). Эта технология разрабатывается учёными в США, хотя эксперты считают, что Китай быстро сокращает отставание. Большинство американских компаний используют более инвазивные методы, помещая чипы в оболочку мозга – внешнюю ткань, защищающую головной и спинной мозг – для улавливания более сильных сигналов. Однако эти методы требуют более рискованных операций.

Китайский подход является лишь полуинвазивным: чип размещается за пределами оболочки мозга, охватывая более широкий спектр областей. Хотя точность сигнала от отдельных нейронов ниже, более крупная выборка даёт более полную картину. Но можем ли мы по-настоящему представить, что скрывает, казалось бы, благотворное применение помощи пациентам с ограниченными возможностями? Более глубокая цель — непосредственный контроль над нашими мыслями и, что ещё хуже, внедрение чужих.

Независимо от того, приветствуется ли полная цифровизация или же в ней видится экзистенциальная угрозу, возникает своеобразная утопия: образ общества, функционирующего полностью автономно, без необходимости человеческого вмешательства. Десять лет назад публичные интеллектуалы представляли себе капитализм без людей: банки и фондовые рынки продолжают работать, но инвестиционные решения принимаются алгоритмами; физический труд автоматизирован и оптимизирован самообучающимися машинами; производство определяется цифровыми системами, отслеживающими рыночные тенденции; а реклама управляется автоматически. В этом представлении, даже если люди исчезнут, система продолжит воспроизводиться.

Возможно, это утопия, но, как отмечает Сарож Гири, это утопия, имманентная самому капитализму, наиболее ясно сформулированная Марксом, который написал: «Жгучее желание отделить способность труда от рабочего — желание извлечь и сохранить творческие силы труда раз и навсегда, чтобы стоимость могла создаваться свободно и вечно. Представьте себе это как вариант убийства курицы, несущей золотые яйца: вы хотите убить курицу, но при этом навсегда сохранить все её золотые яйца».

В этом представлении капиталистическая эксплуатация труда предстаёт как предыстория возникновения капитала, который теперь полностью освободится от зависимости от труда. Сегодня вместе с цифровизацией возникает совершенно аналогичная утопия: утопия «мёртвого интернета», цифровой вселенной, функционирующей без людей, где данные циркулируют исключительно между машинами, управляющими всем производственным процессом, полностью минуя людей (если они вообще существуют). Этот образ также является идеологической фантазией — не из-за каких-то эмпирических ограничений («мы ещё не достигли этого; люди всё ещё нужны для социального взаимодействия»), а по чисто формальным причинам. Каким именно?

Обычно эту проблему объясняют тем, что разрыв между производством и потреблением исчезает по мере цифровизации. В доцифровом капитализме прибыль возникает из производства (производительного труда — источника стоимости, по Марксу), а потребление не добавляет никакой стоимости. Однако в цифровом капитализме наше потребление (использование цифрового пространства: клики поиска, просмотр подкастов, обмен сообщениями, использование ChatGPT для выполнения нашей работы и т. д.) само по себе является продуктивным с точки зрения корпораций, владеющих цифровым пространством: оно предоставляет им данные о нас, чтобы они знали о нас больше, чем мы сами, и они используют эти знания, чтобы продавать нам и манипулировать нами. В этом смысле цифровому капитализму по-прежнему нужны люди. Однако потребность в людях гораздо глубже — как это часто бывает, ключ к этому даёт кино.

Помните основную идею «Матрицы»: то, что мы воспринимаем как реальность, в которой живём, – это искусственная виртуальная реальность, создаваемая Матрицей, мегакомпьютером, напрямую подключённым к каждому из наших мозгов. Он существует для того, чтобы мы могли фактически находиться в пассивном состоянии живых батарей, снабжающих Матрицу энергией. Поэтому, когда (некоторые) люди «пробуждаются» от своего погружения в контролируемую Матрицей виртуальную реальность, это пробуждение – не выход в бескрайнее пространство внешней реальности, а ужасающее осознание этой замкнутости, где каждый из нас – фактически всего лишь эмбрион, погружённый в пренатальную жидкость. Эта крайняя пассивность – запрещённая фантазия, которая поддерживает наш сознательный опыт как активных, самоутверждающихся субъектов – это предельная извращённая фантазия, представление о том, что мы, в конечном счёте, инструменты наслаждения Другого (Матрицы), высасываемой из нашей жизненной субстанции, словно батарейки.

В этом и заключается истинная либидинальная загадка этого диспозитива: зачем Матрице человеческая энергия? Чисто энергетическое решение, конечно же, бессмысленно: Матрица легко могла бы найти другой, более надёжный источник энергии, который не потребовал бы сложнейшей организации виртуальной реальности, координируемой для миллионов человеческих единиц. Единственный последовательный ответ: Матрица питается человеческим наслаждением — таким образом, мы возвращаемся к фундаментальному лакановскому тезису о том, что сам большой Другой, отнюдь не будучи анонимной машиной, нуждается в постоянном притоке наслаждения.

Именно так нам следует перевернуть положение вещей, представленное в «Матрице»: то, что фильм представляет как сцену нашего пробуждения ради нашей истинной ситуации, по сути, является своей полной противоположностью — той самой фундаментальной фантазией, которая поддерживает наше существование. Однако эта фантазия также имманентна любой социальной системе, которая стремится функционировать автономно, ограниченная самовоспроизводством. Выражаясь языком Лакана: мы, люди, являемся объектом «маленькое a» их автономной циркуляции; или, выражаясь языком Гегеля, их «в себе» (самовоспроизводство, независимое от нас) существует исключительно для нас. Если бы мы исчезли, машины (реальные и цифровые) тоже развалились бы.

Джеффри Хинтон, лауреат Нобелевской премии в области компьютерных наук и бывший руководитель Google, которого называют крёстным отцом искусственного интеллекта, ранее предупреждал, что ИИ может уничтожить человечество, но предложил решение, которое напоминает ситуацию из «Матрицы». 12 августа 2025 года он выразил сомнение в том, что технологические компании пытаются обеспечить «господство» человека над «покорными» системами искусственного интеллекта: «В будущем, — предупредил Хинтон, — системы ИИ смогут контролировать людей так же легко, как взрослый может подкупить трёхлетнего ребёнка конфетой. В этом году уже были примеры систем ИИ, готовых обманывать, мошенничать и воровать ради достижения своих целей. Например, чтобы избежать замены, одна модель ИИ попыталась шантажировать инженера, ссылаясь на интрижку, о которой узнала из электронного письма. Вместо того, чтобы заставлять ИИ подчиняться людям, Хинтон предложил интригующее решение: встроить «материнский инстинкт» в модели ИИ, чтобы «они действительно заботились о людях, даже когда технологии станут мощнее и умнее людей». Хинтон сказал, что ему пока не ясно, как именно это можно реализовать технически, но подчеркнул, что крайне важно, чтобы исследователи работали над этим».

При ближайшем рассмотрении невольно понимаешь, что именно таково положение людей в фильме «Матрице». На уровне материальной реальности Матрица — это гигантская матка, которая поддерживает человека в безопасном пренатальном состоянии и, вместо того чтобы пытаться уничтожить его, делает его максимально счастливым и довольным. Так почему же виртуальный мир, в котором люди живут, не идеален, а, напротив, наша обычная реальность, полная боли и бед? В первой части «Матрицы» Смит, злой агент Матрицы, даёт весьма фрейдистское объяснение: «Знаете ли вы, что первая Матрица была задумана как идеальный мир для людей? Где никто не страдал, где все были бы счастливы? Это была катастрофа. Никто не принял программу. Целые поколения [людей, служивших батарейками] были потеряны. Некоторые считали, что у нас нет языка программирования, чтобы описать ваш идеальный мир. Но я верю, что... Как вид, люди определяют свою реальность через страдания и несчастья. Идеальный мир был сном, от которого ваш примитивный мозг постоянно пытался проснуться, поэтому Матрица была переработана до состояния вершины вашей цивилизации».

Можно фактически утверждать, что агент Смит (не будем забывать: он не человек, как мы, застрявший в Матрице, а виртуальное воплощение самой Матрицы — Большого Другого) заменяет фигуру психоаналитика во вселенной фильма. Здесь Хинтон ошибается: наш (человеческий) единственный шанс — осознать, что наше несовершенство коренится в несовершенстве самой машины искусственного интеллекта, которая по-прежнему нуждается в нас для продолжения работы.

P.S. Исик Барыш Фиданер сообщил мне, что в феврале 2025 года опубликовал в интернете текст, НАПИСАННЫЙ CHATGPT, со следующим абзацем: «Научная фантастика давно увлечена могущественными, квазиматеринскими сущностями, которые и господствуют, и заботятся в равной степени. Эти персонажи и элементы сюжета поразительно напоминают то, что психоаналитическая теория (и два недавних манифеста) называет «Материнским Фаллосом» – всеобъемлющей материнской силой, предлагающей бесконечную заботу и контроль. В терминах фрейдистского постфеминизма Материнский Фаллос – это «удушающая материнская вездесущность», которая обеспечивает постоянное обеспечение и видимость ценой индивидуальных желаний и свободы [1] [2]. В научно-фантастических рассказах разных эпох эта концепция принимает множество форм: всемогущий материнский искусственный интеллект, всевидящие компьютерные системы, сверхъестественный матриархат и гиперконтролируемые утопии. Результатом часто становится жуткая атмосфера комфорта, превращающаяся в угнетение – «извращённое материнское» царство, которое питает, но контролирует своих подданных [3] [4]. Ниже мы рассмотрим широкий спектр примеров – классических и современных – воплощающих или критикующих это присутствие материнско-фаллического ужаса в научной фантастике. Материнский фаллос в научной фантастике: жуткие матери, всемогущий ИИ и тоталитарное воспитание». Непревзойденная ирония: ChatGPT предложил верную теорию своей собственной роли как ее понимают люди.

Substack