По мнению словенского философа Славоя Жижека, план по установлению прямой связи мозга с искусственным интеллектом, который предлагает Илон Маск, неизбежно приведет к созданию привилегированного класса, который сохранит самоидентификацию и свободу воли, получит огромный контроль над обычным человеческим сознанием, слитым с цифровым пространством.
- Что хочет сделать Илон Маск? Непосредственно присоединить наш мозг к цифровому пространству компьютера. Я полагаю, что эта амбициозная, но потенциально очень опасная операция.
Проблемы отнюдь не только эмпирические: экономические, экологические психологические, которые возникнут когда наш мозг будет непосредственно подключен к компьютеру. Это означает не только то, что мы, люди, станем почти как бог, почти такими же всемогущими как он. Я думаю, что и компьютер в результате станет как бог – реальность станет содержанием моего мышления.
Но здесь есть и травма – мои мысли сами по себе окажутся под контролем. Но это также и большой психологический, экологический и экономический вопрос: кто все это будет контролировать? Можем ли мы быть уверены, что если это станет реальностью, прямая связь между нашим мозгом и цифровым пространством, что мы все еще будем оставаться людьми? Потому что быть человеком означает иметь минимальное пространство разделения между мной в моем представлении и внешней реальностью. Кто знает, что случится, когда эта дистанция будет разрушена?
- Но мы уже имеет смартфоны, у меня на руке i-watch, мы так или иначе уже погружены в техническое и цифровое пространство.
- Да, но в нашем опыте какая-то минимальная дистанция все же сохранятется. Я, и возможно я заблуждаюсь, я все еще думаю, что я нахожусь в моих мыслях, и есть реальность по ту сторону них. Я непосредственно не погружен во внешнюю реальность. Можем ли мы быть уверены, что такое погружение не будет просто эффектом, например, того как я обращаюсь с экраном смартфона. Цифровое пространство перестанет быть внешним, оно станет буквально внутри нас, контролируя и управляя тем, что мы думаем и так далее. И все-таки, в первую очередь это вопрос о власти: кто будет контролировать это цифровое пространство? Это вопрос огромной политической важности.
Я не верю в таких мечтателей, как Рэй Курцвайл, что мы станем частью общего мозга, сингулярностью, и так далее, и так далее. Нет, единственны вопрос, который у меня есть, и на него нет хорошего ответа, как это повлияет на наше самосознание? Будем ли мы ощущать себя все еще свободными существами или нами будут управлять цифровые автоматы – и здесь важнейший момент – даже без того, чтобы знать об этом?
Знаете одну историю, я будут короток, мои друзья в США уже проводят некоторые эксперименты: они берут под контроль определенные нейроны, так что ты можешь водить рукой в пространстве, и они могут управлять твоими движениями дистанционно, как игрушечной машинкой. И вот решающий вопрос: они спросили подопытных, как они отнеслись к тому, что ими управляли, как реагировало их сознание на этот факт, когда ими управляли дистанционно как игрушечной машинкой. И все участники эксперимента утверждали, что они думали, что действуют свободно, даже зная, что ими управляют.
Все это, конечно, чудесно. Но не забывайте, что попытки управлять нами всегда начинаются именно так. Вы начинаете со всех этих гуманитарных случаев, тяжелых заболеваний и так далее, а потом рано или поздно вы приходите к контролю со стороны полиции. И сегодня мы уже знаем, что компьютеры знают больше о нас самих, чем мы. И я знаю, что так будет – нас будут автоматически контролировать ради нашего же здоровья, но также будут контролировать нашу покупательную способность, что мы приобретаем, наши политические убеждения, за кого мы голосуем. Компьютер будет буквально знать нас лучше, чем мы себя. И это не утопия. Мой вопрос прост: кто будет контролировать компьютер?
- Но разве Майкрософт, фейсбук, айфон уже не делают этого?
- Да, во-первых, мы принимаем это, но лишь поскольку мы уверены, что мы их контролируем сами. Мы все еще думаем о себе как о свободных.
И во-вторых, когда вам говорят, что у вас есть выбор, разве у нас есть настоящий выбор? Это просто давление, которое требует от нас действовать в соответствии с обществом. Вы должны быть цифровым образом связаны. Мне кажется, мы приближаемся к парадоксальной ситуации: оставаться вне цифрового пространства станет привилегией. Я полагаю, что новой формой привилегии станет способность оставаться вне цифрового пространства, чтобы им управлять извне. Но что меня больше всего занимает, появится новое классовое разделение, гораздо более сильное, чем старые классовые различия, описанные марксистскими теориями: между теми, кто находится под контролем и теми, кто может сам контролировать это дигитальное пространство. Это, возможно даже, будут биологические классы.
- Но это же путь прогресса.
- Нет, я здесь отнюдь не пессимист. Мы должны быть уверены, во-первых, что если появляется что-то радикально новое, что влияет на наш базовый опыт того, чем мы являемся в качестве людей, то в буквальном смысле меняется природа человека. Потому что в нашем повседневном общении мы будем ощущать себя как владеющими абсолютной властью и как абсолютно лишенные власти: лишенные власти, потому что мы будем полностью представлены для цифровых медиа, и владеющими абсолютно властью потому, что мы сможем сами непосредственно влиять на реальность.
И во-вторых, где я вижу опасность: один из упреков, которые Запад предъявляет Джулиану Ассанжу, почему он публикует документы только о США, а не делает того де самого про Россию, Китай и так далее. Но здесь я поддержу Ассанжа. Почему? Потому что эти новые формы цифрового контроля действуют так, что мы все еще верим в то, что мы свободны. Легко сказать, вот Китай, у него авторитарное правительство…
- Извините, мы практически исчерпали лимит времени. Спасибо! Мы обязательно свяжемся с вами еще.
- Спасибо вам.