Круглый философ на службе у цифрового концлагеря

Когда современный человек слышит словосочетание «искусственный интеллект», его сознание мгновенно подсовывает ему картинки из фантастики. Нас пугают «Скайнетом», рассуждают о «цифровом разуме», который вот-вот обретет самосознание, превратит нас в батарейки или нефть

Обратная сторона медали не лучше: нас заставляют восхищаться «гениями» с вороватыми глазками из Кремниевой долины, без которых (якобы) мы жили бы в реальности стимпанка. Вокруг ИИ выстроена огромная рекламная витрина, задача которой — внушить пользователю чувство собственного ничтожества перед мощью компьютерного кода. Нам предлагают верить, что нейросети — это чистый разум, свалившийся с небес математических абстракций, хотя это всего лишь обертка цифрового производства, постепенно сменяющего индустриальное.

Недавно переведенная на русский книга итальянского исследователя Маттео Пасквинелли «Измерять и навязывать: трудовая теория машин» пытается эту витрину разбить, что сложно не приветствовать. Но на поверку, эта попытка оказалась чем-то вроде фальш-старта. Что, впрочем, не страшно: ходить по выпавшему снегу новой производственной мысли не только интересно, но и непривычно. Дорог проложено мало, больше направлений. Любой опыт интересен, особенно в виде изданных отчетов: то же трофейные карты, по которым мысли и посвежее и посмелее будет проще разворачивать свою когнитивную технику.

К чести исследователя, тот ставит перед собой амбициозную задачу: спустить ИИ с небес на землю и доказать, что внутри любого, самого сложного алгоритма зашит обычный человеческий труд. Пасквинелли выступает здесь в роли прилежного архивариуса. Он собирает серьезный список исторических отсылок, прослеживая связь современных технологий с викторианскими фабриками, первыми счетными проектами революционной Франции и даже древнеиндийскими ритуалами.

Не говоря о реферировании изрядного списка современных трудов о социологии цифрового производства! Но для нас эта книга более полезна как подробная трофейная карта, отобранная у конвойного. Из нее можно узнать точную анатомию цифровой тюрьмы, в которой заперто современное общество. К сожалению, автор оказался лишь обслугой этой тюрьмы. Пытаясь разоблачить механизмы контроля (книга в названии цитирует Фуко), автор сам попадает в ловушку, которую описывает. Он действует как «круглый философ» — мыслитель, который так увлекся составлением гладких, обтекаемых схем, что полностью потерял из виду живого, сопротивляющегося человека.

Книга была встречена молчанием со стороны кремниевого истеблишмента, у чего есть неочевидная, но веская причина. Вся современная индустрия Big Tech (и обслуживающая её философия) держится на мифе о «нечеловеческом сверхразуме». Инвесторам нужно продавать ИИ как магическую, автономную силу, которая сама генерирует прибыль. Пасквинелли же грубо срывает эти покровы и говорит: «ИИ — это просто автоматизированная ворованная статистика вашего потогонного труда». Такое приземление темы не выгодно ни корпорациям, ни хайпующим футурологам. Книгу предпочли просто тихо «не заметить», чтобы не ломать прибыльный миф о цифровой магии, хотя она достойна не только критики, но и изучения.

Как Бэббидж и Прони превратили людей в строчки кода, а Пасквинели подмахнул не глядя

Пасквинелли показывает, что компьютер родился не из чистой математики, а из потогонных мастерских и бюрократического аппарата. В конце XVIII века французский математик Гаспар де Прони получил задание создать гигантские логарифмические таблицы. Чтобы ускорить процесс, он применил к ручным расчетам принцип промышленного разделения труда, подсмотренный у Адама Смита. Прони нанял три группы служащих: первые придумывали математические формулы, вторые координировали процесс, а третьи — самые бесправные клерки — выполняли простейшие арифметические действия сложения и вычитания по строгим инструкциям. Люди были превращены в живые шестеренки, в «социальный алгоритм».

Чуть позже в Англии Чарльз Бэббидж взял эту схему и опредметил ее в металле, создав проект первой Аналитической машины — прототипа современного компьютера. Бэббидж сформулировал закон: разделение труда на мелкие операции позволяет капиталисту измерить и купить ровно столько рабочей силы, сколько нужно для конкретного шага. Машина, таким образом, возникла как инструмент измерения стоимости самого человеческого ума.

Пасквинелли берет эти факты и выводит «трудовую теорию машинного интеллекта», которую несколько смехотворно в своей уверенности объявляет своим вкладом в копилку социальной мысли. Его логика проста: ИИ не думает, он лишь имитирует и автоматизирует схемы коллективного разделения труда. Нейросети обучаются на триллионах наших кликов, поисковых запросов и текстов. Они воруют наш коллективный опыт и возвращают его нам в виде интерфейсов контроля. Предположим. Но дальше хуже.

В этой точке Пасквинелли совершает не слишком удачный редукционный шаг раскрывающий гносеологически слабое место кабинетного левого. Он комментирует тезис: «Труд представляет собой первый алгоритм». Мы прекрасно понимаем, какую карту разыгрывает автор и под какими благородными знаменем. Интенция прозрачна: манифестация левого приоритета живого труда перед мертвым капиталом. А также вызов Кремниевой долине, что её «божественный сверхразум» — не чудо из вакуума чистой математики, а обычная автоматизированная и экспроприированная статистика человеческих навыков.

Но именно в этом месте академическая обтекаемость загнала его в реакционную петлю. Пытаясь защитить прекариат, философ некритично влип в логику фордизма и тейлоризма индустриальной эпохи, где ручной труд на конвейере измерялся секундомером и дробился на механические микрооперации и не давал ни малейших оснований оглядываться на интерактивность алгоритмического производства.

Цифровое производство принципиально другое: кроме того, что оно само по себе принципиально шире, глубже, иррациональнее и богаче любой машины (в индустриальную эпоху так тоже было, но это можно было оставлять за скобками при анализе), оно по-другому (качественно и содержательно определяется взаимодействием. Методология Пасквинелли в этом месте серьезно оступается, подгоняя само понятие человеческого духа под стандарты бинарного автомата.

Объявить труд алгоритмом — значит послушно взять под козырек перед Бэббиджем и Прони то есть признать, что человек на рабочем месте — будь то ткач XIX века или модератор контента XXI-го — является лишь бездушным, кастрированным биороботом, который послушно и предсказуемо переводит ввод в вывод по жесткой пошаговой инструкции. Пролетариат XIX века тогда, очевидно, не особо то вмещался в это прокрустово ложе, чему мы видим зримые доказательства в виде революций и уступок со стороны капитала. Сейчас же, очевидно, всерьез меняется структура базиса в сторону интерактивности и появлении степеней возможности для структуры Множеств, которую Пасквинели, несмотря на его общую вполне негрианскую риторику, упускает.

Манифестируя освобождение, Пасквинелли довольно явно, хотя и бессознательно, легитимирует цифровую тюрьму в операистском дискурсе, что не факт, что есть хорошо. Как бы то ни было, если начинать с почти априорного тезиса, что человек изначально функционирует как алгоритм, то создается ложное представление, что тотальная оцифровка его тела (скажем в понимании Мерло-Понти, как рабочего инструмента) — это не насильственное отчуждение, а его естественная эволюционная судьба. Это нехорошо. В этом месте критики вульгарного прочтения Фуко говорят: нарисовал тюрьму, нарисуй и дверь, через какую оттуда можно выйти.

Круглая геометрия академического уклонения

Дальше хуже. Чтобы доказать свою гипотезу, Пасквинелли нырнул в глубокую древность, где разбирает индийский ритуал Агничаяна — строительство огненного алтаря из тысячи кирпичей по строгим геометрическим правилам и мантрам. Для европейского профессора этот ритуал — идеальная «протопрограмма». Всё дискретно, всё разложено по пяти слоям, везде пошаговые инструкции.

Но любой внимательный наблюдатель скажет, что это прочтение спекулятивно. Пасквинелли видит в ритуале только сухую комбинаторику. Он полностью игнорирует, что для участников Агничаяна это был экстатический, непрерывный акт вплавления человека в живую плоть космоса, сопряженный с жаром огня, физической усталостью, болью и глубоким интуитивным переживанием. Ритуал совершался ради жизни, а не ради следования регламенту.

Пасквинелли засушивает этот живой опыт, превращая его в мертвую таблицу. Его метод хочется назвать недоструктуралистским. Он панически боится заглянуть в бездну человеческой иррациональности, аффектов и скрытой боли. Вместо этого он постоянно делает деколониальные реверансы, рассуждая об этноматематике и критикуя Кремниевую долину. Рискну предположить, что за этим левым пафосом скрывается банальная академическая конъюнктура. Пасквинелли пишет свой текст на стерильном, очищенном университетском языке.

Чтобы упорядочить хаос реальной жизни, Пасквинелли аккуратно раскладывает громоздкое понятие «машинного интеллекта» на четыре изолированных, герметичных пункта: знание человека о машине, знание внутри самой конструкции, автоматизированные задачи и новые научные открытия. На бумаге это выглядит как идеальная геометрия двухмерного пространства. И наш философ катится по плоскости своего реферата как круглый, обтекаемый дурак, который начисто стер все реальные, живые противоречия. Настоящая жизнь и современное производство так не работают. В его схеме «знание, воплощенное в конструкции» существует отдельно, а «автоматизированное задание» — отдельно. Но давайте перенесемся из кабинета профессора на реальную «цифровую фабрику».

Возьмем банальный пример: переводчик в крупной IT-компании или модератор контента в социальной сети. По логике Пасквинелли, модератор — это просто винтик, который послушно выполняет «задание по инструкции», нажимая кнопку «удалить» или «оставить». Всё прозрачно и калькулируемо. На деле же этот работник сидит перед монитором по 12 часов в сутки и каждую секунду сталкивается с тем, что не лезет ни в какие должностные инструкции. Он видит сложный человеческий контекст, сарказм, культурные особенности, аффекты, испытывает дикую психологическую усталость, тошноту и головную боль. Ему приходится постоянно импровизировать, задействовать свою скрытую интуицию и буквально выжигать свое здоровье, чтобы алгоритм не завис.

ИИ фиксирует эти интуитивные микрорешения модератора, оцифровывает их траекторию и забирает себе, чтобы обучить нейросеть. Происходит циничный и болезненный процесс: машина «умнеет» и пересобирает свою структуру только потому, что она непрерывно высасывает и опредмечивает живую, уязвимую плоть человеческого опыта.

Пасквинелли упускает этот травматический переплет (хиазм) человека и экрана. Разделив систему на четыре красивые полочки, он делает вид, что перед нами — мирный и чистый бухгалтерский баланс. Его круглая, стерильная схема не способна заметить, что «знание машины» и «боль человека» сошлись в мертвой хватке внутри одного интерфейса. Убрав из уравнения этот избыточный человеческий фактор, автор лишил нас главного оружия — понимания того, что Левиафан Big Tech уязвим именно там, где человеческая жизнь не поддается окончательной оцифровке. чтобы его текст был благополучно принят грантовыми фондами и университетскими библиотеками. Пасквинелли не понял, что в цифровую эпоху небо расколото (см. С. Жижек) не только в геополитической реальности, но и внутри глобального интеллекта. У того, что Маркс называл «всеобщими силами человеческой головы» (Global Intellect) есть не только геополитическая составляющая, но и виртуальная и обе расколоты не хуже чем небо над Берлином.

Что упускает обтекаемая философия?

Как мы уже отметили, проблема политэкономических построений Пасквинелли в том, что он упускает качественное отличие цифровой эпохи от индустриальной. Тейлоризм и хроноциклография прошлого века управляли телом рабочего на конвейере. Цифровая же гносеология ИИ пытается управлять самим процессом производства смыслов, языком и интерфейсом восприятия реальности. Современный ИИ — это не ньютоновский чистый разум и не просто гигантский ткацкий станок, как думает Пасквинелли. Это чудовищно перегруженный, отяжелевший от триллионов параметров Голем слепого индуктивного подбора не растворяет в себе дыхания человеческого внимания и труда.

Машина обучается через метод пошаговой аппроксимации (приближения) и исправления ошибок. И это дыхание human touch: она постоянно галлюцинирует, сбоит и слипается сама с собой внутри своих математических матриц. И эта частично разумная среда контроля тотально, паразитарно зависит от живого человеческого присутствия. Чтобы Голем ИИ мог исправлять свои ошибки и казаться «автономным», миллионы «рабочих-призраков» на Глобальном Юге и обычные пользователи по всему миру должны круглосуточно выжигать свои глаза перед мониторами, размечая датасеты и исправляя машинные глитчи. Капитал платит за клик, но пожирает человеческую жизнь — с ее биологическим временем, снами, усталостью и бытовой болью. Он неплохо справляется с этим, но на это уходит время.

Пасквинелли этого не видит из своей эбонитовой академической башни, что превращает его скорее в традиционного интеллектуала, чем органического. Поэтому он вынужден ограничиваться ходульными, восьмибитными пониманиями и Капитала и преобразующего субъекта. Путем невынужденной философской редукции он на самом деле превратил труд в алгоритм. Таким образом он не только лишает прекариат главного оружия — возможности действовать непредсказуемо, но и возможности адекватного анализа происходящего.

Искры на конвейере

Интуитивное познание, метод эвристического подбора, умение «срезать углы» в условиях неопределенности — это то, что отличает живое мыслящее тело от бинарного автомата. И эти «вирусы» интуиции непрерывно залетают внутрь машинной системы как от создателей кода, так и от обычных пользователей. Да, ИИ сам по себе не имеет субъектности, с этим тезисом Пасквинелли хочется согласиться. И это приятно противостоит реальности массовой культуры, что пугает нас умными человекоподобными роботами.

Но важно понимать, что эти сигналы от коллективного бессознательного, что мы получаем тоже несут зерно сермяжной бердяевской этической правды не пропущенной через кругловатое мировоззрение Пасквинелли. Цифровая реальность очевидна: за счет колоссального объема данных внутри цифрового капитала постоянно возникают квазисубъектные флуктуации — мерцающие искры унесенной цифровым ветром у человека жизненной энергии. Прежде чем жесткий алгоритм комплаенса вымоет и стерилизует эти искры, у мыслящего человека появляется шанс.

Настоящая социальная автономия и сопротивление цифровому Левиафану рождаются не из «новых культур изобретательства», о которых без особых для его уверенности оснований пишет Пасквинелли в своем финальном реверансе. Они рождаются в условной «точке духа», где человек отказывается быть предсказуемой функцией. Пока порожденный сном сознания Пасквинелли робот эвристически перебирает символы в кастрированной матрице мер и весов, живой человек, сталкиваясь с интерфейсом, использует свой внутренний язык, свои глитчи, свои ошибки и свою избыточность как идеальное укрытие. Он лочит эти улетающие звездочки субъектности за хвост, взламывая Прозрачность контроля изнутри ее собственного пространства и доказывая: живую плоть человеческого процесса невозможно без остатка загнать ни в одну, даже самую круглую философскую схему. Пасквинелли же замахнувшись на то, чтобы быть летописцем прогресса оказался на обочине подарив гуманитарной мысли лишь проблематичный список использованной литературы.

Пасквинелли М. Измерять и навязывать. Социальная история искусственного интеллекта / Маттео Пасквинелли ; [пер. с англ. И. Напреенко]. — М. : Individuum, 2024. — 352 с. — ISBN 978-5-907696-44-0.

Pasquinelli M. The Eye of the Master: A Social History of Artificial Intelligence. — London ; New York : Verso Books, 2023. — 272 p. — ISBN 978-1788730068.
 

тэги
читайте также