Скоро ли лопнет пузырь ИИ?

За годы, прошедшие с момента выхода в свет моей книги «Автоматизация и будущее труда», новая волна технологического энтузиазма подхватила общественное воображение.

Катализатором на этот раз стал стремительный прогресс в области генеративного искусственного интеллекта, обеспеченный крупными технологическими гигантами. И снова хор голосов — от руководителей Кремниевой долины до известных инвесторов и журналистов — настаивает на том, что мы находимся на пороге эпохальных перемен.

Сэм Альтман, генеральный директор OpenAI, утверждает, что ИИ решит такие масштабные проблемы, как восстановление климата, колонизация космоса и полное открытие законов физики, обещая переход к эпохе всеобщего процветания. Илон Маск, предприниматель-миллиардер, со своими Tesla и SpaceX, предупреждает, что ИИ представляет собой как величайшую экзистенциальную угрозу человечеству, так и путь к невообразимому изобилию, предсказывая будущее, в котором к 2040 году количество человекоподобных роботов превзойдет количество людей. Марк Андриссен, венчурный капиталист, соучредитель Netscape, а теперь известный инвестор из Кремниевой долины, заявляет, что ИИ спасет мир. Эзра Кляйн, либеральный публицист и соучредитель издания Vox, предлагает более мягкую версию нарратива об автоматизации-утопии в своей свежей книге «Изобилие», призывая к устранению нормативных препятствий и большей государственной поддержке НИР ради ускорения технологического прогресса.

Но при всей своей новизне эти предсказания поразительно знакомы. Они повторяют в обновленной форме тот же дискурс автоматизации, который я критиковал в этой книге: устойчивый нарратив, представляющий, как техника автономно переделывает человеческую жизнь, скрывая при этом те социальные структуры, в которые встроены технологические изменения.

В центре текущего дискурса об ИИ лежит ряд драматических наблюдений о трансформации рынка труда и технологической безработице. В 2023 году исследователи из OpenAI и Пенсильваннского университета, опубликовали исследование, в котором утверждается, что до 49 процентов задач, решаемых трудящимися, подвергаются воздействию больших языковых моделей, что предполагает надвигающуюся трансформацию труда в различных секторах, от образования до юридических услуг. Этот прогноз непосредственно относится к статье 2013 года Карла Бенедикта Фрея и Майкла Осборна, которая ранее вызвала волну озабоченности по поводу автоматизации, где предсказывалось, что 47 процентов рабочих мест в США уязвимы для технологий машинного обучения. Тогда, как и сейчас, теоретики автоматизации представляли себе скорое наступление переломного момента, когда машины станут способны выполнять столько человеческих задач, что миллионы профессий станут ненужными, вызвав беспрецедентный крах рынка труда.

Стоит вспомнить, что стало с последним раундом прогнозирования. После публикации статьи Фрея и Осборна в 2013 году толпа журналистов и публицистов предупреждала о массовой технологической безработице. Однако в период с 2013 года и до того, как я завершил работу над своей книгой в 2020 году, такой катастрофы на рынке труда не произошло. Столкнувшись с растущими сомнениями, ОЭСР повторно проанализировала методы Фрея и Осборна в 2017 году, придя к выводу, что только около 14 процентов рабочих мест подвергаются высокому риску автоматизации — это очень далеко от первоначальной цифры в 47 процентов, которая привлекла внимание общественности.

Но даже эта заниженная оценка оказалась слишком завышенной. К 2020 году стало ясно, что многие профессии, которые считались наиболее уязвимыми для автоматизации — такие как приготовление пищи, эксплуатация машин, вождение автомобиля и другие формы ручного или рутинного труда — не испытали значительного снижения занятости. В большинстве случаев занятость в этих секторах на самом деле выросла. Годы после финансового кризиса не только не привели к волне технологической безработицы, но и ознаменовались вялым расширением рынка труда и углублением экономической стагнации. Рост производительности, особенно в обрабатывающей промышленности США, остановился, достигнув самого низкого устойчивого уровня с начала ведения учета в 1960-х годах. Казалось, что революция автоматизации так и не наступила.

Крах этих прогнозов не был случайным. Он отражал фундаментальные недостатки методов, используемых для прогнозирования будущего. Ни исследование 2013 года, ни его преемник 2023 года не основывали свои прогнозы на эмпирических исследованиях реальных рабочих мест, работников или производственных процессов. Вместо этого оба исследования полагались на субъективные суждения компьютерщиков и экономистов, которых просили угадать, могут ли определенные задачи в принципе выполняться машинами. Если достаточное количество задач, связанных с занятостью, считалось поддающимся автоматизации — как правило, более 50 процентов — вся профессия классифицировалась как под угрозой исчезновения. Не принималось во внимание то, как на практике структурируются рабочие места, как задачи объединяются или как экономические и социальные факторы опосредуют внедрение новых технологий. Результатом стала глубоко механистическая модель технологических изменений, в которой машины будут вытеснять рабочих, когда это будет технически осуществимо, независимо от стоимости, институциональных барьеров или политического сопротивления. Это была модель, не учитывающая сложность мира организации труда, трансформации его рынка и силу его сопротивления. Таким образом, предложенная модель оказалась совершенно неспособна предсказать реальный ход экономического развития.

Реальность эффектов автоматизации за последнее десятилетие выглядит совсем не так, как предсказывалось. Использование промышленных роботов, которые уже широко применялись к началу тысячелетия, по-прежнему было сосредоточено в небольшом числе секторов, в первую очередь в автомобилестроении. Несмотря на снижение затрат на роботизированное оборудование — что часто приводится в качестве доказательства того, что автоматизация ускорится — настоящие расходы касались не приобретения роботов, а их интеграции в производственные системы. Программирование, оптимизация и обслуживание промышленных роботов обычно обходятся в три раза дороже, чем сами машины, что означает, что только крупные фирмы, производящие высокостандартизированные товары, могли окупить их широкое использование. Малые и средние предприятия, которые, как правило, специализируются на индивидуальном мелкосерийном производстве, не видели особых стимулов для автоматизации.

Между тем, роботизация сферы услуг — о которой бесконечно твердили —практически полностью провалилась. Статистические агентства, отслеживающие внедрение роботов, продолжают измерять данные почти исключительно в производстве. Даже в самых оптимистичных сценариях роботы оставались специализированными инструментами для решения узких задач: перемещение тяжелых деталей, выполнение точных сварных швов, повторяющаяся пайка. 2010-е годы не только не возвестили о новой промышленной революции, но и выявили пределы автоматизации для преобразования экономики в сколь-нибудь широких масштабах.

Верное представление о пределах автоматизации требует рассмотрения технологических изменений в более широких структурных тенденциях, которые изменили мировую экономику и которые подробно анализируются в моей книге. С 1970-х и 1980-х годов индустриализация — исторический двигатель капиталистического роста — в значительной степени исчерпала себя. На ее месте возникла экономика, основанная на услугах, в которой сейчас заняты от 75 до 90 процентов работников в странах ОЭСР. Хотя некоторые представляли, что рабочие места в обрабатывающей промышленности просто переместились на глобальный Юг, на самом деле деиндустриализация стала всемирным явлением, и даже такие страны, как Китай, испытывают устойчивое снижение занятости в обрабатывающей промышленности с 2013 года.

Переход от производства к услугам имеет глубокие последствия: рост производительности в сфере услуг, как правило, намного медленнее, чем в промышленности или сельском хозяйстве. Такие услуги, как образование, здравоохранение и гостеприимство, часто являются трудоемкими, сопротивляются механизации и формируются человеческим взаимодействием способами, которые ограничивают рост эффективности. Поскольку услуги потребляют большую долю занятости и производства, общие темпы роста производительности замедляются. В сочетании с ослаблением демографического роста и падающими ожиданиями относительно будущих рынков эти тенденции создали среду хронической экономической стагнации — такую, в которой новые технологии, как бы их ни расхваливали, с трудом производят те преобразования, которые они когда-то обещали.

Последнее десятилетие продемонстрировало не исчезновение рабочих мест, а их трансформацию. Даже там, где были внедрены новые технологии, большинство рабочих мест сохранились, хотя и в измененных формах. Исследования влияния цифровизации на рынок труда неизменно показывают, что корректировка происходила в первую очередь за счет изменений в структурах задач внутри профессий, а не за счет массовых сдвигов между профессиями. Вопреки предположениям теоретиков автоматизации, не существует четкого порога — например, 50 процентов автоматизированных задач — за пределами которого профессия перестает существовать. Вместо этого сотрудники адаптируются, роли развиваются, а профессии выживают, часто с другими навыками и обязанностями, чем раньше. Растет ли занятость в определенном секторе, сокращается или стагнирует, зависит не только от технологических возможностей, но и от более широких экономических условий.

Даже одно и то же название должности может охватывать радикально разные виды занятости в разных фирмах и странах в зависимости от истории внедрения автоматизации, силы профсоюзов и нормативной защиты. Например, производство автомобиля выглядит совершенно по-разному на высокоавтоматизированных заводах Volkswagen в Германии, в кустарных мастерских Ferrari в Италии и на быстрорастущих заводах по производству электромобилей BYD в Китае. То же самое относится и к киноиндустрии, где Голливуд в Калифорнии, Болливуд в Индии и Нолливуд в Нигерии организуют производство в соответствии с различными техническими, экономическими и культурными логиками. В этом контексте способ, которым технологии меняют рынок труда, не является ни автоматическим, ни неизбежным. Он формируется коллективным выбором относительно того, какие профессии и какие виды занятости общество готово поддерживать.

В течение длительного периода компьютеризации цифровые технологии часто ассоциировались с повышением квалификации. По мере того, как рабочие места становились более технологически сложными, рос спрос на более образованных, более высококвалифицированных работников, что способствовало поляризации рынков труда между высококвалифицированными, высокооплачиваемыми рабочими местами и низкоквалифицированными и временными. Однако более поздние технологические разработки пошли по другой траектории. В некоторых секторах цифровизация способствовала не повышению квалификации, а деквалификации. Такие сервисы, как Uber, лишили традиционную профессию таксистов необходимых им ранее знаний, заменив знания о местности системами навигации GPS.

В то же время цифровые технологии значительно расширили возможности работодателей по контролю над сотрудниками. Эффективная заработная плата — это более высокая заработная плата, которую часто приходится платить, когда менеджеры не имеют инструментов наблюдать за производительностью труда работников. Рабочие места, которые когда-то было трудно контролировать, например, дальние грузоперевозки, теперь подвергаются постоянному электронному наблюдению, что позволяет фирмам снижать эффективную заработную плату. Благодаря этому фирмы могут осуществлять более жесткий контроль над темпом и организацией работы.

Эти разработки показывают, что технологии не являются нейтральными: они развертываются в политическом и институциональном контексте, который определяет их влияние на труд. Власти могли бы регулировать наблюдение на рабочем месте; профсоюзы могли бы торговаться за защиту от инвазивного мониторинга. Однако при отсутствии таких усилий технологические изменения все больше служат для ухудшения состояния рынка труда и усугубления экономического неравенства.

В результате разочаровывающего экономического воздействия автоматизации надежды все больше смещаются в сторону генеративного искусственного интеллекта. Огромные ресурсы сейчас вливаются в разработку моделей ИИ и строительство центров обработки данных, необходимых для их поддержки. Технологические корпорации совместно инвестировали миллиарды долларов, делая ставку на то, что генеративный ИИ обеспечит прорыв, которого не смогли достичь предыдущие раунды автоматизации. За риторикой промышленной революции скрываются конкретные амбиции: спроектировать революцию услуг, увеличив рост производительности в тех самых секторах — здравоохранении, образовании, розничной торговле, гостиничном бизнесе, — которые исторически отставали.

Учитывая масштаб инвестиций, уровень ожиданий ошеломляет: производительность должна расти темпами, невиданными со времен быстрых фаз догоняющего развития Японии и Китая в ХХ веке — но на этот раз в уже технологически развитых экономиках, таких как Соединенные Штаты — чтобы сделать эти инвестиции прибыльными. Легко понять их привлекательность. Если роботизация не смогла обеспечить новую волну процветания, возможно, это могли бы сделать интеллектуальные программные агенты. Тем не менее, разрыв между желаниями и реальностью остается большим, и есть веские основания сомневаться в том, что генеративный ИИ на его нынешней траектории сможет разрешить структурную стагнацию постиндустриальных экономик.

Однако фундаментальные ограничения генеративного ИИ становятся все более очевидными, даже для многих прежних его сторонников. Как отметили Франсуа Шолле и другие исследователи ИИ, глубокие нейронные сети страдают от хрупкости: они с трудом обобщают данные, выходящие за рамки их обучающих данных, терпят неудачу при решении простых задач на рассуждение и остаются ненадежными для приложений, которые требуют согласованности или точности. Несмотря на то, что эти модели поглощают огромные объемы цифровой информации, они сталкиваются с жесткими ограничениями относительно своей способности учиться или адаптироваться. Часть проблемы кроется в самой архитектуре искусственных нейронных сетей, которые были разработаны на основе бихевиористской психологии середины ХХ века. В отличие от органических мозгов, которые оснащены богатыми внутренними структурами, врожденными целями и репрезентативными рамками, искусственные сети в значительной степени неструктурированы и полагаются на грубую статистическую ассоциацию. Интеллект человека может понять новую идею благодаря всего нескольким примерам; модели машинного обучения обычно требуют миллионов. Гибридные подходы, которые интегрируют символическое мышление с глубоким обучением, такие как успех AlphaFold2 в сворачивании белков, предлагают более многообещающие результаты — но они должны быть тщательно разработаны для решения конкретных задач. Не существует общего метода для построения модульного, структурированного познания в системах глубокого обучения, и нет гарантии, что он вообще будет найден.

Признаки разочарования в мощи ИИ уже появляются. Генеральный директор Microsoft Сатья Наделла недавно признал, что, несмотря на огромные инвестиции компании в OpenAI и другие предприятия генеративного ИИ, никакого измеримого увеличения роста производительности пока не произошло. Он сформулировал настоящий ориентир: если бы генеративный ИИ был преобразующим, мы бы уже видели, как мировая экономика растет быстрее. Однако все наоборот, и существует мало свидетельств такого ускорения. Отчеты в Wall Street Journal и Financial Times подробно описали вялые темпы корпоративного согласия на внедрение ИИ, несмотря на то, что компании изо всех сил пытаются найти надежные способы масштабного применения моделей ИИ, которые все еще остаются склонными к непоследовательности и ошибкам. Дарон Асемоглу, лауреат Нобелевской премии по экономике, открыто выразил скептицизм, предупредив, что технологии генеративного ИИ могут мало что сделать для решения глубокого экономического недуга, поразившего развитые капиталистические экономики. Несмотря на все выдающиеся технические достижения, становится все более очевидным, что нынешняя волна инноваций в области ИИ сама по себе не может обеспечить широкомасштабную экономическую динамику, которую так уверенно предсказывают ее сторонники.

Вместо того чтобы вызывать массовую безработицу, непосредственный эффект внедрения генеративного ИИ, скорее всего, будет включен в более широкие тенденции трансформации рынка труда, которые уже сегодня наблюдаются, а именно деквалификацию и надзор. Предварительные исследования показывают, что технологии генеративного ИИ повышают производительность в основном среди низкоквалифицированных работников, помогая стандартизировать результаты, но мало что делая для улучшения высококвалифицированной, сложной работы. Неслучайно, что эти системы с успехом создают тексты среднего качества и базовый код — как раз те виды задач, которые выполняют студенты, поэтому одним из основных вариантов использования ChatGPT было оказание помощи студентам при списывании. Поскольку такие инструменты становятся все более распространенными, существует риск цифровой деквалификации таких областей, как компьютерное программирование, графический дизайн и юридические исследования, где алгоритмически сгенерированные результаты могут заменить результаты, производимые работниками со средним уровнем компетенции.

В то же время генеративные модели ИИ предлагают новые возможности для мониторинга и оценки работников, обработки данных наблюдения для усиления контроля над трудовыми процессами и подавления гонки заработной платы. И снова технологии, которые обещают освободить нас от труда, рискуют наоборот усилить эксплуатацию. Без надежных социальных и правовых рамок, которые перенаправят их развитие, вероятным результатом бума генеративного ИИ станет не массовая безработица, а ухудшение условий труда, ускорение экономического неравенства и дальнейшее подрывание автономии работников.

Уроки последнего десятилетия должны умерить как наши надежды, так и наши страхи. Реальная угроза, которую представляет собой генеративный ИИ, заключается не в том, что он уничтожит рынок труда в массовом масштабе, сделав человеческий труд ненужным. А в том, что, если его не остановить, он продолжит трансформировать труд способами, которые усугубят неустойчивость рынка труда, усилят надзор и увеличат существующее неравенство. Технологические изменения — это не внешняя сила, к которой общество должно попросту адаптироваться; это социально и политически опосредованный процесс. Правовые рамки, коллективные переговоры, государственные инвестиции и демократическое регулирование играют решающую роль в формировании того, как технологии разрабатываются и внедряются, и ради чего все это делается.

Текущая траектория генеративного ИИ отражает приоритеты компаний, которые стремятся снизить издержки, отмуштровать сотрудников и консолидировать прибыль, а не стремление улучшить человеческую жизнь. Если мы дадим всему идти своим чередом, ни во что не вмешиваясь, то мы не должны будем удивляться, когда выгоды от технологических инноваций достанутся немногим, в то время как бремя ляжет на плечи остальных. Однако так быть не должно. Будущее остается открытым, в зависимости от того, готовы ли мы противостоять, оспаривать и самим определять пути, по которым идет технический прогресс.

Verso