Кто будет контролировать машины, управляющие людьми?

Философ Славой Жижек считает, что технологии, связывающие человеческое сознание с машиной, могут не только открыть путь для тоталитарного контроля над разумом, но и разрушить саму суть человеческих отношений.

Наш мозг, связанный с машиной - это не утопия

То, что я сейчас изучаю - это так называемое явление проводного мозга, возможность того, что наш мозг будет связан с мощными цифровыми машинами. И это не утопия. В медиалаборатории Массачусетского технологического института уже есть такие простые машины. Это как шлем, ничего противоестественного, его надевают на голову.

А потом происходит что-то ужасное - я видел видео - думаешь, какие-то мысли, ничего не говоришь, и машина воспроизводит их либо в письменной форме, либо искусственным голосом.

Машины примитивного уровня уже могут читать ваши мысли. Ничего страшного, если у них на то есть ваше согласие, но что если подобное будет сделано (и это легко себе представить) без вашего ведома?

Теперь у нас есть полноценная возможность читать наши мысли, и не только наши эмоциональные установки, такие как злость или печаль, но даже ход рассуждений в нашем сознании. Следующим шагом в этой "утопии" будет компьютер, который может читать мои мысли и ваши мысли, которые могут связать нас, чтобы мы могли поделиться своими мыслями. Если мы с вами подключены через один и тот же компьютер, я могу буквально участвовать в вашем мышлении напрямую, без всякого внешнего общения, такого как набор слов.

Как вы, наверное, знаете, теоретики современных технологий Рэй Курцвел и Мелани Свон назвали это новой формой божественного.

Это больше не будет трансцендентным богом, но все мы будем делиться своими мыслями через какую-то облачную систему искусственного интеллекта. Миллионы людей будут совместно участвовать в новой форме коллективного сознания. Я нахожу эту перспективу довольно ужасающей.

 

Мы вступаем в постчеловеческую эпоху, если компьютеры способны распознавать мысли человека и обмениваться ими

Мы, как люди, именно такие, какие мы есть, свободные люди, насколько мы можем быть уверены, что вы не знаете, о чем я думаю? Я думаю, то, что я думаю, я свободен в своих мыслях. Что произойдет, если я не смогу быть уверен даже в этом?

Если я думаю о чем-то, и компьютер может определить, о чем я думаю, и затем поделиться этим с другими, мы действительно вступаем в постчеловеческую эпоху. Я считаю, что мы не должны просто увлекаться тем, что это значит с технологической точки зрения.

Вы не согласны с тем, что мы должны беспокоиться о том, кто будет контролировать эти цифровые машины?

Я не боюсь, что машины будут управлять нами. Мы еще не пришли к этому. Однако кто будет контролировать это, кто будет использовать это? Что осталось от нашей свободы? Такие частные компании, как Google или Facebook, уже разрабатывают аналогичные технологии.

 

"Прозрачность" сознания - это сегодня самая большая угроза нашей свободе

Это самая большая угроза нашей свободе. Мы буквально станем прозрачными. Давайте подумаем о повседневных последствиях этого. Все флиртуют. Я кое с кем познакомился и вместо всех прекрасных эротических подсказок она может прочитать: "Я хочу переспать с тобой", и эротика исчезнет.

Другой простой пример - вежливость в повседневной жизни. Допустим, мы знаем друг друга, но мы не очень близкие друзья. Я вижу тебя на улице и говорю обычные вежливые вещи типа: "Здравствуйте, как поживаете? Я рад видеть вас". Но если вы можете прочитать мои мысли, то вы знаете, что это чушь, потому что это просто вежливость, и я на самом деле не то имел в виду, что сказал. Обычно мне плевать, что ты чувствуешь.

Это меня весьма заинтриговало. Что происходит? Как это повлияет на наш повседневный образ жизни, на наши старые цивилизационные социальные изобретения? На то, на чем основаны все наши культивируемые взаимодействия.

Но есть и еще кое-что.

Какой новый способ мучения и пыток может быть разработан таким образом? Ты даже можешь представить, что кто-то контролирует твой разум. Что они могут с тобой сделать? Насколько ужасные мысли я могу имплантировать в твой ум? Что если там окажутся ужасные изображения замученных твоих близких и так далее. Я знаю, что это не шутка. Это очень серьезная вещь.

 

Лгать станет трудно. Ложь станет привилегией

Если мы представим себе, что это происходит в обществе, где экономические и властные отношения структурированы так, как они есть сейчас, я думаю, это будет означать, что привилегированными будут те, кто сможет скрыть свои мысли, кто будет исключать себя из этой сети.

Не все будут контролироваться одинаково. Это первая проблема, кто будет контролировать игру и кто будет экскоммуницирован?

Всегда так. Первая мысль, когда разрабатывается новое шпионское устройство, обычно заключается в следующем: "Как я могу избежать этого?" Привилегия - быть вне его. Лгать станет трудно, но и ложь станет более привилегированной.

 

Компьютеры умнее на механическом уровне, но им не хватает способности упрощать

Идея, что искусственный интеллект интеллектуально победит людей на самом деле зависит от того, как вы определяете умение быть умным. Если под "умным" вы подразумеваете просто более сложную математическую или логическую операцию, а также знаете больше данных, то компьютеры определенно умнее. Тем не менее, у нас все еще есть надежда.

Величие человеческого разума заключается не в знании всех деталей, а в отборе из множества данных, чтобы уловить суть и упростить ее.

Книга советского психолога Александра Лурии "Ум мнемониста" ("Маленькая книжка о большой памяти" – прим. пер.) рассказывает о человеке с прекрасной памятью. Он вспомнил почти все, что читал и видел. Психологические последствия этого были ужасными, потому что он знал так много, [что] он не мог ничего решить, в тот момент, когда он хотел принять решение, сотни других данных всплывали в его голове. Ему не хватало великой способности к упрощению.

Компьютеры могут быть умнее нас на некотором механическом уровне - и даже в обучении - но я не думаю, что они могут справиться с таким явлением, как упрощение.

 

Роботы не будут выполнять черновую работу, им будет поручено планирование

Парадокс сегодняшнего дня заключается в том, что мы боимся роботов, которые могли бы, предположительно, забрать нашу работу. Но те из нас, кто работает, работают больше, чем когда-либо. Во-вторых, у нас все еще есть идея, что роботы будут делать за нас примитивную работу, и мы просто будем планировать то, что они делают. Во многих компаниях, от McDonald's до тех, которые занимаются повседневными сервисами, именно роботы занимаются планированием, а люди – выполнением работы.

В McDonald's все запрограммировано роботами, и "тупые" люди просто обслуживают клиентов. В конечном счете, все зависит от общественного порядка, если мы останемся в том же капиталистическом порядке, в котором мы находимся, то это будет еще хуже, чем сегодня.

Есть вероятность, надежда, что мы будем работать меньше. Тем не менее, многие новые дурацкие формы развлечений могут заполнить наше свободное время. Я все еще верю в труд и творчество. Если у нас не будет достаточно дел, даже если мы будем счастливы просто сидеть, смотреть фильмы и пить, это будет дурацкое существование. Скоро все станет еще ужаснее.

Вопрос не в технике как таковой, а в том, как мы будем использовать технику в социальном плане.

Источник