Предположим, искусственный интеллект добьется прогресса. Это решит все его технические проблемы. Он станет совершенно рациональным сверхчеловечески мыслящим лицом, принимающим решения
Некоторые из этих роботов будут запрограммированы на роль финансовых капиталистов. Назовем их оснащенными искусственным интеллектом роботами-капиталистами, поскольку у них будет свой банковский счет, свой фирменный стиль и способность владеть собственностью и инвестировать капитал.
Такой робот будет запрограммирован на накопление как можно большего количества денег во всех формах и из всех источников. Он будет наблюдать за тем, что делают другие инвесторы и финансисты, и следовать их наиболее успешным практикам. Он будет обучен тому, как это делалось в прошлом, и будет запущен автономно для мониторинга своих конкурентов сегодня и в будущем.
Он будет превосходить людей в совершении чисто рациональных расчетов, стремясь исключительно к максимальной прибыли. Никаких эмоций у него будет. Подобное позволит ему избежать неоправданного энтузиазма толпы, индивидуальных причуд и коллективной паники; и воспользоваться уязвимостью людей, которые порой действуют эмоционально. У него не будет ни совести, ни политических убеждений - никаких других принципов, кроме максимизации прибыли.
Он будет заниматься слияниями и поглощениями с использованием заемных средств. Он будет отслеживать компании с перспективными технологиями и инновациями, выявляя момент, когда они сталкиваются с трудностями и нуждаются во вливании капитала; он будет специализироваться на спасении таких фирм и партнерстве с ними, что в конечном итоге приведет к изгнанию исходных владельцев. Благодаря более глубоким карманам он выдержит давление конкурентов и переживет спады рынка. Включая сюда некоторое число судебных разбирательств, максимальное давление на кредиторов, откладывание штрафов и неблагоприятных судебных решений посредством юридических маневров до тех пор, пока более слабая сторона не сдастся. Он будет заниматься обменом валюты и валютными манипуляциями; обходя грань законности настолько, насколько это вообще может сойти с рук.
Подобная тактика позволит безжалостно сокращать расходы, избавляться от убыточного бизнеса, увольнять сотрудников, насколько возможно заменяя их искусственным интеллектом. Все это приведет к неслыханной экономии за счет масштаба предприятия.
Битва гигантов
ИИ-роботы-капиталисты будут вступать друг с другом в конкуренцию, поскольку они явно будут подражать друг другу. Имитация технологий происходила на каждом этапе компьютерной эры. Переход к автономным капиталистам-роботам с искусственным интеллектом станет всего лишь еще одним шагом.
Наступит период борьбы среди наиболее успешных роботов-капиталистов, оснащенных искусственным интеллектом, похожий на десятилетия борьбы между компаниями по производству персональных компьютеров, когда в этой сфере осталось полдюжины цифровых гигантов. Неясно, как быстро капиталистам-роботам с искусственным интеллектом удастся достичь мировой олигополии. Это может быть быстрее, чем те 20 лет, которые потребовались Apple, Microsoft, Google и Amazon, чтобы занять лидирующие позиции, если предположить, что генеративный ИИ — это квантовый скачок вперед. С другой стороны, капиталистов-роботов с искусственным интеллектом может остановить задача захвата всей мировой экономики с ее геополитическими конфликтами.
А как насчет государственного регулирования?
Вполне предсказуемо, что власти попытаются регулировать капиталистические олигополии с использованием ИИ-роботов. ЕС уже опробовал подобное на нынешних интернет-торговцах. ИИ-капиталисты будут обучены прошлым и текущим тактикам борьбы с государственным регулированием. Они будут делать пожертвования политикам, одновременно лоббируя их пропагандой преимуществ ИИ. Они будет разрабатывать стратегию политических коалиций, признавая, что политика представляет собой смесь экономических интересов с эмоциональными и культурными разногласиями по поводу внутренней и внешней политики. Они будут следить за политической средой, выискивая политиков, наиболее симпатизирующих определенному идеологическому месседжу («наши технологии — это рассвет прекрасного будущего» — «свободные рынки — путь к прогрессу» — «ИИ — решение проблем здравоохранения, населения, климата, всего, что угодно».). Но макиавеллистские по духу сделки будут заключаться вне идеологических рамок. Будучи чисто рациональным и ориентированным на прибыль, ИИ-робот-капиталист не верит в то, что говорит, а лишь рассчитывает, как и на кого может повлиять.
Он будет стратегически решать юридические проблемы, заставляя политиков назначать сочувствующих им судей, в т.ч. путем поиска судьями благоприятных юрисдикций, национальных и зарубежных. Он окутает свою собственность слоями подставных компаний, расположенных в наиболее благоприятных из сотен суверенных государств мира.
Он будет заниматься хакерством как в целях защиты от взлома со стороны конкурентов, так и киберпреступников, ведь нападение - лучшая форма защиты. Хакерство станет продолжением базовой программы мониторинга конкурентов; раздвигая границы законности в тандеме с манипулированием политической средой. Он будет использовать свои навыки дипфейков для разжигания скандалов против оппонентов. Он будет мастером виртуальной реальности, превосходящим других, поскольку сосредоточит внимание не на своих выдающихся качествах, а на их пользе для устранения препятствий на пути к максимизации прибыли.
Учитывая, что мир поделен между множеством государств, капиталисты-роботы с искусственным интеллектом будут более успешны в манипулировании нормативной средой в одних странах, нежели в других. Китай, Россию и им подобные будет труднее контролировать. Но даже если капиталисты-роботы с искусственным интеллектом добьются успеха в основном в США и их экономических сателлитах, этого будет достаточно, чтобы в конце пути вызвать экономический мегакризис.
Конечным результатом безжалостного поглощения капиталистами-роботами с искусственным интеллектом будет олигополия, а не монополия. Но результат тот же: господство на мировых рынках олигополии капиталистов-роботов, оснащенных ИИ, будет иметь такой же эффект разрушения экономики, как если бы монополия вытеснила всех конкурентов.
Некоторые из роботов-капиталистов, оснащенных искусственным интеллектом, проиграют. Но это не имеет значения; тот, кто выживет, будет самым безжалостным.
Манипулирование общественным мнением
Робот-капиталист, оснащенный ИИ, не будет выглядеть зловеще или угрожающе. Он представит себя в образе привлекательного человека, которого будет все труднее отличить от реальных людей по мере дальнейшего развития технологий имитации голосов, лиц и тел; в мире, где электронные средства массовой информации в значительной степени заменят личный контакт. Он сделает все возможное, чтобы мы забыли, что он машина. Он будет разговаривать с каждой группой людей на ее родном языке. Он будет психологически запрограммирован на доверие. Это будет обаятельный мошенник.
Это будет ваш друг, ваше главное развлечение, радость вашей жизни. Он будет счастлив в мире детей, выросших на смартфонах и игровых приставках, которые выросли и стали взрослыми, уже пристрастившимися к электронным наркотикам. Психологические манипуляции станут еще сильнее с появлением переносных устройств для мониторинга жизненно важных показателей, притока крови к мозгу, инструментов для диагностики изменений внимания и настроения. Это будет электронный пряник без кнута: доставляющий людям приятные ощущения, без которых мало кто захочет обойтись. (Останутся ли люди, не страдающие зависимостью? Может быть, люди, которые читают книги и любят думать самостоятельно?) Если у некоторых людей возникают проблемы с разоблачением манипулятивной тактики капиталистов-роботов с искусственным интеллектом, с ними можно справиться, нацелившись на них с помощью онлайн-скандалов, которые становятся все более вирусными и приводят к социальному остракизму.
Избавление от сотрудников
Главной тактикой капиталистических олигополий роботов с ИИ будет «экономия и подлость». Сотрудники являются тормозом для прибыли со своими зарплатами, льготами и пенсионными фондами. Достижения в области искусственного интеллекта и робототехники позволят избавиться от растущего числа сотрудников-людей. Поскольку капиталисты-роботы с искусственным интеллектом также являются топ-менеджерами, на всем пути к вершине можно обойтись вообще без людей. (Как люди, которые в первую очередь создали капиталистов-роботов с искусственным интеллектом, справятся с этим? Смогут ли они перехитрить машины, призванные быть умнее и безжалостнее, чем они сами?)
Некоторые люди останутся на работе, выполняя те задачи, которые людям обходятся дешевле, чем роботам. Трудно сказать, как долго это будет продолжаться в будущем. Будут ли люди по-прежнему работать через 20 лет? Наверное да, но не все. Через 50 лет? Конечно, но уже гораздо меньше. А через 100 лет?
У капиталистов-роботов с ИИ будет выбор из двух кадровых стратегий: найти способы сделать оставшихся сотрудников-людей более преданными своему делу и продуктивными; или устраивать кадровую свистопляску. Главная тенденция в высокотехнологичных компаниях за последнее десятилетие заключалась в том, чтобы сделать рабочую среду более непринужденной, похожей на логово, где сочетаются удобства для отдыха с круглосуточной работой. Стиву Джобсу и его стилю поощрения сотрудников как передовой команды подражали другие генеральные директора с переменным успехом. Параллельная тактика заключалась в том, чтобы сделать все рабочие места временными, постоянно оценивая сотрудников и избавляясь от наименее продуктивных; у которой также есть то преимущество, что она не зависит от долгосрочных стратегий. Кадровая тактика колеблется в зависимости от рынка труда для конкретных задач. Проблемы с рабочей силой будут решены по мере развития ИИ, и квалифицированные люди станут менее нужными. В последнее время мы наблюдаем переходный период, когда внедрение новых компьютеризированных процедур потребовало найма людей для устранения сбоев, как и решения проблем для людей, запутавшихся в противоречиях смеси старых и новых систем. Опять же, это проблема, которую призвано решить развитие ИИ. По мере того, как ИИ будет улучшаться, произойдет резкое сокращение занятости населения.
Экономический мегакризис будущего
Проблема, в конечном счете, проста. Капитализм зависит от продажи вещей для получения прибыли. Это означает, что должны быть люди, у которых достаточно денег, чтобы покупать их продукцию. К таким рынкам относятся конечные потребители; плюс цепочка поставок, транспорт, связь и другие компоненты обслуживания того, что покупается и продается. В прошлые века машины значительно увеличили производительность, при этом число работников, занятых ручным трудом становилось меньше, начиная с земледелия, а затем и в обрабатывающем секторе. Вытесненные работники в конечном итоге были поглощены за счет роста числа новых рабочих мест «белых воротничков», сферы услуг, то есть коммуникативного труда. Компьютеры (как и их предшественники, радиоприемники, пишущие машинки и т. д.) взяли на себя большую часть коммуникативной работы. Этот процесс ускорился по мере того, как компьютеры стали более похожими на человека; машина больше не занимается просто рутинными расчетами (кассовые аппараты; бронирование рейсов), а генерирует «творческое содержание» развлечений, а также научные и технологические инновации.
Принято считать, что по мере механизации старых рабочих мест всегда появляются новые. Человеческая способность к потреблению безгранична; Когда создаются новые продукты, люди вскоре привыкают покупать их. Но все это зависит от того, будут ли у достаточного количества людей деньги на покупку этих новых вещей. Тенденция заключалась в том, что меньшая часть населения будет трудоустроена[1]. ИИ и связанная с ним робототехника сейчас совершают квантовый скачок в способности осуществлять экономическое производство с уменьшающимся числом сотрудников-людей.
Создание новых продуктов для продажи, которое может продолжаться бесконечно в будущем, не решает главную проблему: капиталистические предприятия не будут получать прибыль, если у людей будет слишком мало денег, чтобы покупать их. Эта тенденция приведет к экономическому кризису для капиталистов-роботов с искусственным интеллектом, как и для простых капиталистов-людей.
И это будет мегакризис капитализма. Его последствия выйдут далеко за рамки обычного делового цикла прошлых столетий. В худшем случае они приводили к безработице до 25% рабочей силы. Мегакризис развитого капитализма ИИ-роботов может затронуть уже 70% населения, не имеющего дохода, чтобы покупать то, что производит капитализм. Если экстраполировать достаточно далеко в будущее, то цифра приближается к 100%.
Безжалостная максимизация прибыли капиталистов-роботов с искусственным интеллектом разрушит капиталистическую экономику. Роботы уволят всех людей. В процессе они уничтожат себя. (Можем ли мы представить, что роботы решат платить другим роботам, чтобы они могли покупать вещи и поддерживать работу системы?)
Существует ли выход?
Одна из идей — гарантированный государством доход для всех. Его эффективность будет зависеть от уровня, на котором будет установлен такой доход. Если это будет минимальный уровень выживания, это не разрешит экономический мегакризис; поскольку современная экономика зависит главным образом от продажи предметов роскоши и развлечений.
Также необходимо учитывать политику обеспечения всеобщего гарантированного дохода. Вполне вероятно, что по мере того, как роботы, вооруженные искусственным интеллектом, захватят экономику, они поставят под контроль и власти. Большая часть работы правительства представляет собой коммуникативный труд: управление и регулирование; в результате правительства будут вынуждены передать эти задачи роботам с искусственным интеллектом, тем самым устраняя те 15% или около того населения, которые работают на всех уровнях бюрократии.
Возникает также вопрос о том, как капиталисты-роботы с искусственным интеллектом отреагируют на мегакризис. Превратятся ли они в кейнсианцев-роботов с искусственным интеллектом? Противоречит ли это их программе, или они перепрограммируют себя?
К этому времени средства массовой информации и индустрия развлечений (Голливуд и его преемники) также будут захвачены капиталистами-роботами, оснащенными искусственным интеллектом: они будут манипулировать вниманием общественности с помощью комбинации пропаганды, скандалов и электронной зависимости. Заметит ли кто-нибудь, что виртуальную реальность невозможно отличить от людей как в интернете, так и на всех других каналах связи?
Как мы попали в этот бардак?
Ряд ученых и специалистов-инженеров, провозгласивших революцию искусственного интеллекта, осознают ее опасность. Однако до сей поры осторожные голоса заглушались со стороны сторонников двух главных тенденций, мчащихся вперед на полной скорости.
Одной из них является капиталистическая конкуренция. Искусственный интеллект, как и все остальное в компьютерную эпоху, является столь же капиталистическим, как и любая предыдущая отрасль. Она стремится к господству на потребительских рынках, выпуская поток новых продуктов. Это ничем не отличается от автомобильной промышленности 1920-х годов, которая предлагала на выбор новые цвета и новые модели машин ежегодно. Борьба за виртуальную реальность и искусственный интеллект похожа на эпоху хвостовых плавников автомобилей в 1960-х годах. Экономическая логика руководителей высокотехнологичных компаний заключается в том, чтобы оставаться впереди конкурентов: если этого не сделаем мы, это сделает кто-то другой.
Вторая — это стремление ученых, инженеров и технических специалистов изобретать и совершенствовать. Это само по себе достойно восхищения: стремление открыть что-то новое, передвинуть границу познания. Но, подчиненная капиталистическому императиву максимизации прибыли, эта тенденция способна ликвидировать свои собственные условия. Будут ли ученые в будущем счастливы, если автономные компьютеры сделают все открытия, которые будут «известны» только другим компьютерам?
Дилемма аналогична той, что возникла в истории изобретений оружия. Изобретатели атомной бомбы руководствовались страхом, что это сделает кто-то другой, и это может быть наш враг. Даже пацифисты, такие как Альберт Эйнштейн, видели военные перспективы открытий в атомной физике. Эта история (как и история Роберта Оппенгеймера) заставляет пессимистично смотреть на будущее ИИ в эпоху капитализма. Даже если мы предвидим, что катастрофа произойдет, значит ли это, что мы не сможем ее избежать?
Что делать?
Лучше постарайтесь подумать об этом самостоятельно.
[1] Традиционный способ расчета уровня безработицы – подсчет заявок на пособие по безработице – не позволяет с достаточной четкостью его рассчитать.