Искусственный интеллект и миф о машине

Главный докладчик, бывший генеральный директор Google Эрик Шмидт, изложил то, что он назвал «сан-францисским консенсусом»: мнение о том, что «в течение трех-пяти лет у нас появится так называемый искусственный общий интеллект», который сможет расширять свои возможности без участия человека. Это развитие, согласно консенсусу, может принести значительные преимущества, но также рискует привести к вымиранию человечества. Задача достижения одной цели, избежав другой, объяснил Шмидт, «называется проблемой «игольного ушка». Нужно пройти через это игольное ушко, не убив себя и не убивая всех остальных, чтобы попасть в эту обетованную землю искусственного интеллекта».

В этом заявлении Шмидт обобщил распространенное представление о прогрессе в области ИИ. Мы разрабатываем все более мощные системы ИИ, которые сопряжены с чрезвычайными рисками, но также нам обещают огромные преимущества. Сообщество ИИ, если упрощать, делится на «пессимистов» и «бумеров», но эти две группы различаются не столько в отношении обетованной земли, сколько в своей уверенности в нашей способности преодолеть все препятствия.

Независимо от того, к какой точке зрения они относятся, те, кто рассматривает будущее искусственного общего интеллекта как потенциальную «землю обетованную», склонны утверждать, что их прогнозы имеют совершенно рациональную основу. Как они утверждают, они лишь делают логические экстраполяции на основе наблюдаемых тенденций. Работы Льюиса Мамфорда, одного из самых язвительных критиков технологий XX века, предлагают альтернативную точку зрения: такие предположения коренятся в вере, лежащей в основе современных представлений о технической прогрессе. Творчество Мамфорда охватывало широкий спектр тем, включая городское планирование и литературную критику, а также историю и философию техники. Он изложил свою позицию против некритической веры в пользу техники в ряде книг и статей, в частности, в «Технике и цивилизации» (1934) и «Пентагоне власти» (1970).

В работах Мамфорда предполагается, что использование прогрессистами религиозного языка — как, например, в случае с «землей обетованной» Шмидта — раскрывает их веру в «миф о машине», который он называет «главной религией нашего, казалось бы, рационального века». В основе мифа о машине, утверждал он, лежит идея о том, что развитие техники неразрывно связано с улучшением условий жизни человека. Другими словами, если мы будем постоянно совершенствовать наши технологии, жизнь человека будет становиться всё лучше. Связь между техническим и социальным прогрессом казалась очевидной при жизни Мамфорда. Он родился в Нью-Йорке в 1895 году, пережил изобретение азотных удобрений и открытие пенициллина, что помогло повысить среднюю продолжительность жизни в Соединенных Штатах за этот период с сорока одного года до более чем семидесяти семи лет. Он видел, как авиаперелеты, холодильники, телефоны и телевидение стали элементами повседневности. На фоне такого опыта казалось трудно привести аргументы против того, что технологии улучшают условия жизни человека. Как саркастически заметил Мамфорд: «Разве хоть один здравомыслящий человек оплакивает уход каменного века?»

Но, не прибегая к подобной ностальгии или примитивизму, Мамфорд переосмыслил историю научно-технического прогресса, стремясь найти корни современного отношения к технике в более ранние времена: в стремлении к открытиям, характерном для эпохи Великих географических открытий; в упорядочении повседневной жизни, впервые появившемся в средневековом монастыре; и в сложных социотехнических системах или «мегамашинах», которые возводили памятники эпохи пирамид в Египте.

Этот исторический обзор привёл Мамфорда к выводу, что наиболее значительные сдвиги произошли не во время промышленной революции, а в том, что он назвал «культурной подготовкой», имевшей место в более ранние периоды. Подобно Максу Веберу, который утверждал, что капитализм распространялся благодаря своей «избирательной близости» к кальвинистской вере, почитавшей труд и сбережения как признаки благочестия, Мамфорд доказывал, что только после того, как люди уже стали рассматривать мир инструментально, мы смогли создать систему технологического производства, ориентированную на собственное ускорение. Этот процесс «культурной подготовки», утверждал он, подготовил почву для промышленной трансформации и превратил «миф о машине» в общепринятый способ представления о социальных изменениях.

Раздел христианской теологии, известный как теодицея, пытается объяснить существование зла в мире, не возлагая на Бога вину за него. Миф о машине предлагает ее секулярный эквивалент. Он позволяет нам рассматривать позитивные результаты как неотъемлемую часть самого технического прогресса, понимая при этом вред от него как случайный или непреднамеренный побочный продукт. Эти недостатки часто рассматриваются как результат человеческих ошибок, будь то злоупотребление со стороны недобросовестных лиц или небрежное использование. Поддерживая это различие, утверждал Мамфорд, миф о машине препятствует истинному объяснению изменений, которые принесли наука и техника. Как он сетовал, большинство людей «по-прежнему видят только бесконечные блага и выгоды… и закрыли глаза на различные формы дегуманизации и истребления», на которые они готовы пойти.

Фридрих Ницше утверждал, что христианство перевернуло аристократический моральный порядок, в котором сила считалась благом, а слабость — злом, заменив его «рабской моралью», которая отдавала предпочтение слабым и клеймила сильных. Он назвал этот процесс «трансценденцией» — процессом, в результате которого одна система ценностей замещает другую. По мнению Мамфорда, подобная трансценденция произошла в современную эпоху, когда мы перестали ценить технику как средство достижения человеческих целей и ценностей и вместо этого стали рассматривать эффективность и производительность, достигаемые благодаря техническим инновациям, как самоцель, которой люди должны подчиняться.

Следствием такой переоценки является то, что вопросы человеческого процветания на практике в значительной степени неактуальны для внедрения новых технологий. Мы можем, например, рассмотреть традиционные индикаторы процветания в современных технологически развитых странах. Граждане этих стран реже вступают в брак, имеют меньше детей, меньше друзей, у них более слабые социальные связи, они участвуют в меньшем числе общественных инициатив и реже посещают религиозные службы. Этот спад произошел на фоне бурного развития технологий, которые позиционируются как социально полезные, предлагая средства для связи людей на расстоянии и обещая устранить рутинные задачи, мешающие нашему процветанию.

Суть здесь не в том, что существует четкая причинно-следственная связь между социальными сетями или маркетплейсами и данными тенденциями. Скорее, дело в том, что при внедрении этих технологий новизна и рыночный успех имели приоритет над всякими соображениями о том, будут ли они старым представлениям о хорошей жизни. Как заметил Мамфорд: «Общество смиренно подчиняется каждому новому технологическому требованию и без вопросов использует каждый новый продукт, независимо от того, является ли он улучшением или нет, поскольку в нынешних условиях единственным доказательством его ценности является тот факт, что предлагаемый продукт является результатом нового научного открытия или технического процесса».

Мамфорд опасался, что этот процесс переоценки делает людей все более похожими на машины. Машинные ценности вытесняют то, что он называет «жизненными ценностями», а доллар становится мерилом всего. Мы начинаем искренне желать и жаждать того, что делает нас более «продуктивными». То, что что-то экономит время, рассматривается как благо само по себе, независимо от его влияния на другие индикаторы человеческого счастья.

Миф о машине насквозь пронизывает современные дискуссии об искусственном интеллекте. Всё чаще мы слышим, как эта вера выражается в откровенно религиозной форме. Такие идеи, как сверхразум или сингулярность, часто представляются как апокалиптический финал технического прогресса, этап, на котором все человеческие проблемы могут быть решены добрыми роботами. Если мы достигнем этой точки, нынешние опасения по поводу процветания человечества отойдут на второй план перед теми благами, которые мы пожнём.

Секулярная теодицея этого мифа проявляется в текущих дискуссиях о реальном или потенциальном вреде от ИИ. Негативные последствия его использования в школах и университетах, такие как когнитивная перегрузка, как правило, приписываются неспособности человека адаптироваться или рассматриваются как признак того, что наши образовательные учреждения безнадежно устарели и нуждаются в модернизации. Аналогичным образом, работникам, которые боятся быть замененными ИИ, говорят, что они недостаточно подготовлены к эволюции рынка труда. Поэтому политики предлагают законодательство, призванное помочь «работникам эффективно использовать инструменты ИИ для повышения производительности и сохранения конкурентоспособности» и обеспечить, чтобы работники были «достаточно квалифицированы, уверены в себе и готовы в полной мере использовать возможности ИИ». Утверждается, что есть масса преимуществ у подобного, если только мы сможем преодолеть человеческую некомпетентность.

Впрочем, у моделей ИИ есть одно неоспоримое достоинство: увеличение скорости и эффективности, с которой они могут выполнять задачи, которые когда-то были прерогативой человека. Языковые модели могут создавать функциональный текст для широкого круга контекстов, а модели генерации изображений дают нам возможность воплощать в жизнь любое изображение или видео, которое нам заблагорассудится. Подобное весьма широко воспринимается как явное доказательство преимуществ ИИ. Для Мамфорда именно такой образ мышления и является проблемой. Миф о машине дегуманизирует, потому что он подчиняет человеческие ценности ценностям машины: скорости и эффективности.

Наиболее ярким свидетельством культурного распространения этого мифа является то, что многие ярые сторонники акселерационизма не отрицают, что ИИ может означать конец человечества. Они просто отличаются от пессимистов тем, что считают этот риск необходимым — даже желательным — для достижения впечатляющего повышения эффективности и производительности, обещанного искусственным общим интеллектом. Мамфорд предвидел эту крайнюю точку. «Миф о машине, — писал он, — главная религия нашей современности, настолько захватила умы современников, что никакая человеческая жертва не кажется слишком великой, если она приносится в жертву наглым Мардукам и Молохам науки и техники».

Те, кого называют скептиками или пессимистами, по-прежнему принимают предпосылки мифа о машине. Заявленная цель многих организаций, стремящихся избежать наихудших последствий ИИ, заключается в том, чтобы мы «реализовали преимущества, минимизируя риски» этой технологии. Мамфорд утверждал бы, что первая половина этого утверждения слишком много признает, принимая базовую предпосылку мифа о машине, представляя задачу как устранение препятствий для реализации ее преимуществ. Многие скептики также разделяют основную мизантропическую предпосылку превосходства машин, сосредотачиваясь на предвзятой, иррациональной и несовершенной природе человека, которая нуждается в машинном дополнении.

Технологическая катастрофа — это не то, что нас ждет впереди. Она уже наступила. Гибель человечества — это непрерывный процесс, в ходе которого мы позволяем машинам колонизировать нас своими ценностями, «постепенное лишение власти», происходящее вокруг нас. Искусственный интеллект следует рассматривать не как гонку в сторону обетованной земли, а как путь, все дальше отдаляющий человечество от процветания.

Тем, кто обеспокоен рисками, связанными с ИИ, следует выйти за рамки политических вопросов. Фоновые системы убеждений, такие как миф о машине, определяют то, что мы принимаем как должное в наших отношениях с технологиями, и ограничивают уже чисто политические варианты. Изменение этих систем открывает новые горизонты для решений. «Для тех из нас, кто отбросил миф о машине, — писал Мамфорд, — следующий шаг за нами: ведь ворота технократической тюрьмы откроются автоматически, несмотря на их ржавые старые петли, как только мы решим выйти».

Compact