Ницше и ИИ: чатботы и психология иллюзий

Американский философ немецкого происхождения Бабетте Бабич развенчивает ложные иллюзии относительного искусственного интеллекта при помощи Ницше.

После того как инженер из Google Блейк Леман заявил летом 2022 года, что ИИ стал «разумным», тем самым провозгласив «сингулярность» (подробнее об этом ниже)[1], его резко осудили за то, что он, по меньшей мере, поторопился. Работодатель уволил его, затем вышло несколько бессвязных интервью, а Лучано Флориди, один из ведущих философских специалистов по ИИ, в то время работавший в Оксфорде, после последующих новостей, связанных с ChatGPT, заявил, что во всех этих новостях пошло не так[2]. Конечно, не слышно было ни одного голоса из критического лагеря в духе Гюнтера Андерса (лучшими, кто мог бы высказаться насчет ИИ из этого «критического» направления, могли бы быть Петер Слотердайк или Фридрих Киттлер)[3]. Флориди разъяснил разницу: ИИ как таковой не является «разумным», но скорее «лучшей практикой» (согласно господствующему академическому мему), что предполагает, что люди используют ресурсы ИИ «с толком и вкусом».

Конечно, ИИ уже умеет что-то искать в интернете сам, может рассказать публике о вашем исследовании через твиттер и попросить там совета у тех, кто сидит в сети, поможет найти коллег или даже попросить случайно попавшихся ученых дать рекомендации по электронной почте[4].

Люди, которые использовали ChatGPT, в восторге от того, насколько это замечательно — да и почему бы им не быть в восторге? Происходящее представляет собой эффект пузыря, к чему можно применить то, что Тор Норретрандерс как-то назвал «пользовательской иллюзией»[5]: полученные людьми результаты соответствуют их собственным цифровым следам в форме разбросанных тут и там данных, соответствующих в свою очередь привычкам пользователей интернета, которые вновь и вновь читают и повторяют одни и те же вещи. Нам нравится то, что мы уже знаем; то, с чем мы уже согласны нравится даже больше. Нам нравятся используемые нами штампы, каким бы образом они не внедрялись в наше сознание, и что мы принимаем за наши собственные «убеждения», как сказал бы Ницше. Вообще-то психолингвисты знают, что ключом к успешной беседе, терапии, собеседованию (или свиданию) является повторение того, что другая сторона говорит нам непосредственно в ответ. С ловкостью выполненный подобный трюк воспринимается не как попугайство, а как гениальность. Прямо душа в душу. Возможно, самое показательное — и это главная черта нынешней шумихи — люди, которые не использовали ChatGPT — существует кривая обучаемости — также в восторге от этого.

Но недавно тон разговора об ИИ немного изменился, в особенности после того, как профессорам Оксфорда и других университетов объяснили, что у студентов появился сообщник для фабрикации – нет, не фейк-ньюс, - а курсовых работ[6]. Джозеф Вейценбаум в свое время разработал оригинальную программу MIT «Элоиза»[7] для моделирования сеанса терапии – это была одна из первых попыток применения системы обработки естественного языка (только перечисление теоретических представлений о языке, встроенном в нее, потребовало бы отдельной статьи). Программа на вводимые человеком предложения отвечала вопросом, в значительной степени повторяющим исходную фразу (почему вы чувствуете то-то…). Успешный результат «Элоиза» показывала именно с теми пользователями, которые общались с ней так, как с другим человеком. Если подобные (одни из первых) экспериментов уже предполагали появление первых версией этики ИИ, то сам Вейценбаум не рассматривал свое достижение как реальную «терапию» и затем разработал программу для изучения природы языка (включив в нее определенный критический компонент)[8]. Кроме того, он продолжал открыто критиковать расхожие мнения относительно успехов ИИ – и не то, чтобы они по сей день как-то повлияли на его представления[9].

Наши нарративные ожидания в сети были сформированы в большей степени, чем многие думают, благодаря нашему коллективному опыту онлайн-игр (независимо от того, являемся ли мы сами игроками или только размышляем об этом как о культурном феномене, попадаемся ли мы на какую-то замануху с кликбейтом в социальных сетях или, что еще более популярно, используем приложения для знакомств, такие как Grindr или Bumble). Как говорит Крис Бейтман: «Никто не играет в одиночку»[10].

Во множестве существенных черт мы — это то, что мы делаем в сети, или, как писали Гюнтер Андерс и Теодор Адорно про «культурную индустрию», мы потребляем то, что нам скармливают, и в то же время мы убеждены, что это не так, что мы все выбираем сами. Включение режима пользователя, приостановка недоверия и критического анализа означают то же, что когда старый Голливуд должен был использовать студийные декорации, тогда новый Голливуд может использовать компьютерную графику вместо натурных съемок. Точно так же дизайнеры игр какое-то время использовали стандартные формулы (можно сказать, это был новый Гомер), чтобы «запрограммировать» то, что читатели/геймеры могут принять за интерактивное повествование (по крайней мере, часть интерактивной части всегда генерируется спонтанно и остальное может служить подсказкой).

По этой причине я утверждаю, что планка «прохождения» теста Тьюринга невысока: торговые автоматы и банкоматы, и даже — я лишь немного преувеличиваю — тостер может «пройти» тест Тьюринга[11]. Для ИИ, собранного из того, что мы разместили в Интернете и что мы прочли в Интернете, это еще проще. Но все зависит, и это ключ к этике ИИ, от «успешных» привычек пользователей. В случае со статьями, подготовленными с помощью ChatGPT, преподавателям (никто почему-то не интересуется, что это за преподаватели) было трудно отличить работы студентов, выполненные без посторонней помощи (не ясно, хорошие или плохие) от подготовленных полностью или с помощью ИИ. Здесь я утверждаю, что результат слишком предопределен и не менее «подготовлен» или сфабрикован: преподаватели, уже давно обеспокоенные тем, что практикующие плагиат студенты могут выставить их дураками, уже воспользовались ИИ в виде программного обеспечения для обнаружения плагиата, такого как Turnitin, и потребовали от университетов подписки на такое программное обеспечение. Однако подобное ПО только усугубляет проблему и с течением времени даже порождает новые. Таким образом, предварительно отсортированные по предмету и уровню сложности, те же самые преподавательские усилия работали над «наполнением» или «кормлением» курируемой базы данных (курирование — большая часть работы ИИ), состоящей из студенческих работ вместе с отзывами преподавателей, составленными за многие годы. Добавьте фактор пандемии, добавьте данные из занятий по Zoom, даже включая иногда вопиющие ошибки расшифровки, и потенциальное цунами научных и ненаучных авторских фальсификаций уже давно ждет своего часа. И вспомните также совет Флориди: новинкой сезона является то, что чтобы что-то сделать, нужно сначала это сфальсифицировать; ChatGPT все чаще рассматривается как эквивалент калькулятора на уроках математики[12]. Ну, а теперь можно вернуться к предостережениям, отмеченным выше.

Уже пошли статьи, поющие дифирамбы искусственному интеллекту или поэзии в исполнении ChatGPT – ну, если вам это нравится, то почему бы и нет? - и можно ожидать появления романов, любезно предлагающих то же самое (хотя доказательством их жизнеспособности станут продажи, но, возможно, учитывая убогий и однообразный характер большинства предлагаемой на массовом рынке художественной литературы, ИИ уже здесь...) и так далее. Эффект «Элоизы», что-то типа «эффекта Аллилуйи»[13], похоже, уже наступил, вместе с собой принеся потенциальные достоинства виртуальной девушки или парня, виртуального «друга» для переживающего одиночество, что мы уже видели на экране в фильме Спайка Джонса «Она», и более ярко и, как ни странно, более прозаично в фильме Руперта Сандерса 2017 года «Призрак в доспехах», хотя подобные продукты еще не готовы для массового рынка.

Здесь нам будет полезен ницшеанский психологизм, в частности, его фикционализм, причем именно в том духе, в котором Ганс Вайхингер писал о фикционализме Канта[14]. Ницше утверждает, что мы заброшены в вымысел: «мы коренным образом и издревле привыкли ко лжи». По Ницше, мы плохо замечаем новое, а чаще всего вообще не замечаем. И современные психологические исследования, казалось бы, подтверждают его доводы. По словам Ницше, даже «переживая что-нибудь необычайное, мы поступаем все так же: мы выдумываем себе большую часть переживаемого, и нас едва ли можно заставить смотреть на какое-нибудь событие не в качестве «изобретателей»» («По ту сторону добра и зла» §192). Как будто Ницше знает о последних исследованиях движения глаз при чтении (а он был хорошо сведущ относительно работ XIX века по чувственному восприятию), подтверждая свою мысль, он замечает: «Подобно тому как нынче читатель не прочитывает всех отдельных слов (или же слогов), помещенных на странице, а скорее выбирает случайно из двадцати слов приблизительно пять и «отгадывает» относящийся к этим пяти словам вероятный смысл, – совершенно так же и мы, рассматривая, скажем, дерево, не отдаем себе точного и подробного отчета, каковы его листья, ветви, цвет и вид; нам гораздо легче создавать при помощи фантазии некое подобие дерева» (там же; ранее тот же пример с листьями он приводил в «Об истине и лжи во вненравственном смысле»).

Зачем привлекать Ницше к обсуждению ИИ, роботов[15], эротической герменевтики социальных сетей[16], феноменологии «быть синей точкой» (GPS)[17], или склонности проецировать сознание на экран (и через него)[18], и т.д.?

Одна из проблем - строгость (правильно ли мы понимаем Ницше?); другая проблема - двусмысленность, когда речь идет об интеллекте ИИ. Что такое интеллект? Едва мы поставили этот вопрос, как ChatGPT заговорил, о чем нам сообщила газета Tagespiegel, снабдив материал наглядным напоминанием о 2001 годе и ЭАЛе. Мы спросили оракула, нашу новую Элоизу, и оракул ответил[19].

Что Ницше наблюдает как «слепое и случайное сцепление и механику идей, … чисто пассивное, автоматичное, рефлекторное, молекулярное» («К генеалоги морали» I:1), я вижу в свете его самоидентификации как психолога, как он позволяет объяснить систему функционирования «прайминга», прежде всего в отношении социальных сетей, которые сегодня распространяют инфекцию на все стороны нашей жизни, или как бойскауты или маленькие дети могут быть «обучены» добродетели и хорошему поведению за счет повторения одних и тех же поучений.

Другой подход, который мог бы послужить нам по ту сторону фантомов «философствующих молотом»[20] Übermensch и одного из героев комиксов DC (Superman™), может скорее соответствовать представлениям о насилии в свежих марвеловских киноверсиях о трансчеловеческих суперменах (Ironman™)[21], но, пожалуй, все-таки наиболее продуктивным может быть идеал вечного двигателя, поскольку он соответствует метафоре Ницше о космической музыкальной шкатулке. Если идея вечного двигателя чересчур нам сейчас знакома, учитывая функционирование адъювантов LPN (липидных наночастиц) в мРНК-вакцинах, о чем ныне говорят все, и что превращает эту тему в неожиданно спорную даже для статьи о Ницше[22], но именно она является примером «внеморального чувства», обрамляющего довольно механистический, по сути физиологический подход Ницше к «истине и лжи». Еще раз: для Ницше мы «привыкли ко лжи», что для ИИ означает одновременно и двусмысленность, и его эффективность.

Многие разговоры об ИИ ориентированы на будущее. Но это не означает, что речь идет об открытости темы для новых разработок. Как и положено в бизнесе, говоря об ИИ, инвестор получает уже готовый продукт, такой же, как ChatGPT, или почти готовый, просто добавьте данные и перемешайте. ИИ оговаривается, утверждается, предполагается, предлагается как божество для другого мира и времени.

Речь идет об интенциональности, и, как напоминает Ницше, мы постоянно антропоморфизируем. Именно на этом перманентном целенаправленном проецировании себя на все и работала древняя программа MIT «Элиза». Мы, люди, - говорит Ницше, - в прошлом мастера сосредотачиваться только на себе и проецировать себя, то есть обманывать себя и других: «обман, лесть, ложь, тайное злословие, поза, жизнь, полная заемного блеска, привычка маскироваться, условность, разыгрывание комедий перед другими и перед собой, - короче, постоянное порхание вокруг единого пламени тщеславия – являются настолько и правилом и законом, что нет ни чего более непонятного как то, каким образом среди людей могло возникнуть честное и чистое стремление к истине. Они погружены в иллюзии и сновидения, глаза их только скользят по поверхности вещей и видят лишь “формы”» («Об истине и лжи во вненравственном смысле»).

Мы «находим себя» в облаках, в озерах (Ницше говорит о горах «с глазами»), и, пожалуй, прежде всего, мы находим себя (или нам кажется, что мы находим себя) в других (это знаменитая философская проблема, nota bene, нерешенная до сих пор, «других сознаний»), так же как мы находим себя - в этом сила древнего мимесиса - в животных, растениях и камнях. Даже в большей степени, чем идентификация с тем или иным предметом в так называемом природном мире, как если бы можно было найти природу где угодно, в «не тронутом» руками человека месте (археологическая экология), который сегодня далек от нас и чаще всего даже чужд многим из нас, мы находим себя в наших вещах: автомобилях, мотоциклах, аудиосистемах или hifi-установках (когда-то давно, пока наушники изменили все) или, как утверждает Гюнтер Андерс, на большом экране телевизора, заменившем семейный стол в качестве центра внимания[23]. С чем бы мы ни отождествляли себя, на что б ни проецировали, мы также живем, воспринимаем, переживаем посредством инструментария, которым мы себя окружаем. Подобное не требует особых условий: например таковы смартфоны, которые мы носим с собой и показываем другим - Крис Бейтман называет их карманными роботами - и здесь проницательный (и не менее хайдеггерианский) анализ Пьера Бурдье попадет в точку: это социальный «сигнал о статусе», постоянно готовый к выходу в социальные сети или в электронную почту, мало чем отличающийся от Илона Маска и его жаждой строительства ракетных кораблей.

ИИ-спекулянты хотят, чтобы вы представляли себе пожилого человека, воркующего над искусственной кошкой[24]. Шерри Теркл напоминает нам, что притворная интимность «экономики заботы» теперь автоматизирована, запрограммирована и ориентирована на извлечение прибыли. Сегодня робота-кошку может заменить ChatGPT; отсюда и постоянная шумиха вокруг теста Тьюринга ради забавы и извлечения предполагаемой прибыли - это новая версия вчерашних новостей о том, что люди подают заявки на юридическое разрешение на брак со своими секс-роботами. Теперь можно «поговорить» со своими любимыми мертвыми философами, хотя, как можно предположить, более желательным было бы устройство, подобное тому, что показано в фильме 1995 года «Чем заняться мертвецу в Денвере», - поговорить с умершими близкими. Но - и это как раз к вопросу о проекции и ее пределах - уловка, как я подозреваю, может оказаться более сложной, если вы попытаетесь провести «последний» разговор, которого у вас никогда не было в реальной жизни, с человеком, которого вы действительно знали - супругом, родителем, другом, - в отличие от человека, с которым вы «знакомы» только по книгам, например, с вымышленным персонажем (Гулливером, Геком Финном, Северусом Снейпом или мистером Споком/Пикардом) или историческим персонажем, как утверждал Макиавелли вместе с Ницше, который во многом повторяет его, Ницше также раскрыл, что нужно сделать, чтобы текст заговорил, утверждая, что мы делаем это всякий раз, когда читаем.

Речь идет об уже упомянутой проблеме «других сознаний» - если воспользоваться арго аналитической традиции в философии, которая сегодня является единственной, учитывая то, что преподается в университетах, что проверяется, тестируется и (самое главное) нанимается на работу. Но дело в том, что проблема «других сознаний» остается нерешенной и, возможно, как утверждает Ницше, неразрешимой.

Дело не в том, может ли компьютер обыграть человека в шашки, шахматы (или крестики-нолики) или какую-либо другую игру такого же типа (заметим, что Кекельберг пропускает все это, начав с популярной игры для гиков го[25]), с перебором исходов. Вопрос в том, может ли программное обеспечение, набор данных, ChatGPT, подобно Каспарову или Бобби Фишеру, последний из которых отправился на гранд-турнир на небеса, знать и чувствовать себя чемпионом: сознание, любовь к ближнему, все такое прочее. Нахальство, которое как нельзя лучше подходит для производства такого впечатления, теперь запрограммировано в чатботах, и это соответствует этике роботов, которая, хотя теоретики этики роботов/интерфейсов редко обращают внимание на этот корыстный вопрос, сводится к тому, чтобы пользователи играли по весьма корпоративным правилам, и, возможно, только к этому.

Этот вопрос связан с вопросами этики и техники - этос, повтояремый уже более века, включая размышления Ницше о «механической деятельности», которую он связывал с современностью как способ оцепенения сознания в целом, как он размышляет в «Человеческом, слишком человеческом»: «Нельзя, например, спрашивать банкира, накопляющего деньги, о цели его неутомимой деятельности:  она неразумна. Деятельные катятся, подобно камню, в силу глупости механики» (§283). Афоризм Ницше носит поучительное название: «Иррациональность фактического». Это афоризм для инвестиционных банкиров, который может служить девизом для тех, кто спекулирует практически на всем, а не только на больших данных, биткоинах и НФТ. С этой точки зрения, любой «интеллект» - это автоматизм, в том числе и ИИ.

О чем же идет речь, о каком агенте, когда речь идет об ИИ?

Еще раз поставим вопрос: что такое интеллект? И чей искусственный дизайн, чей именно интеллект?

А как насчет «сингулярности»? Произошла ли она уже? Действительно ли Google «проснулся», а власти скрывают (уйти в отказ, похоже, было правилом для властей в течение последних трех лет)? Ошибается ли Флориди? Удалось ли ChatGPT совершить подобное? Если вернуться немного назад, могла ли «сингулярность» произойти уже тогда, когда в рамках эксперимента Facebook нагрузил сознание подростков? Происходит ли это до сих пор (и сидят ли подростки в Facebook?)? Откуда мы об этом знаем? Имеет ли все это значение?

Когда речь заходит о связи Ницше и ИИ, обычно вспоминают трансгуманизм, постчеловека, сверхчеловека-властелина. И если Ницше писал о человеке как о том, что должно быть «преодолено», то Мишель Хаар и другие франкоязычные ученые отмечали в рамках малой традиции осмысления понятия «земля» у Ницше и верности ей, которую можно было бы, но редко удавалось, связать с экологическим этосом той же эпохи – «назад к земле». Если бы это и вправду удалось, то это была бы замечательная французская идея биокультуры, вполне утвердившаяся в виноградарстве, биодинамическая высадка саженцев в соответствии с животными ритмами и фазами луны, что нужно рассматривать в контексте размышлений, с точки зрения той же земли, о том, что человек - это «кожная болезнь земли» или, иначе, как незаконченное, неопределенное, еще не зафиксированное животное - noch nicht festgestellte Thier.

Но все это сложные понятия, даже если некоторые исследователи беспечно относятся к деталям. Существует множество разных Ницше, и поучительно, что ИИ-Ницше, как и другие «цифровые» Ницше, не относится к числу наиболее исследованных.

Рассматривая ИИ как «черный ящик», «мем», «вексель», как и в значительной части философской этики, мы говорим о том, какой должна быть надежда, какой должна быть любовь, какое должно быть сочувствие, порядочность, храбрость и т.д., и чем меньше человек знает о Ницше в этом смысле, тем проще. Таким образом, для многих, кто пишет о Ницше и трансгуманизме, все куски, которые не подходят, просто выбрасываются. Эта тактика вполне респектабельна в аналитической философии как способ прочтения Ницше, но она особенно опасна, когда речь идет об искусственном интеллекте. Например, в политической теории Аполлин Талландье опирается на идеал и этос трансгуманизма, претендуя на то, чтобы предложить масштабный обзор, но при этом каким-то образом пропуская большую часть литературы, более того: почти всю, готовя статью, не обремененное слишком большим количеством Ницше или слишком большой наукой о Ницше и цитируя вместо него «криолога» Макса Мора[26]. Здесь Ницше выглядит так, как будто самым важным у него является объективистское желание отрубить себе голову, чтобы посмотреть, как выглядит мир без нее, что в данном случае и является воплощением крионики.

Внимание Ницше к механической деятельности включает в себя ее удобный, почти как ASMR, побочный эффект: омертвение сознания. ИИ как джинн, ИИ как квазибожество, сверх- или трансчеловек, киборг-свойства ИИ не согласуются с ницшеанским Übermensch, поскольку последний, с точки зрения Ницше, не столько карикатурный герой, сколько предмет тщеславия: совсем не мечта о будущем, а всегда-уже-с-нами, наш внутренний Калликл.

Вспомним гётевскую ссылку Ницше о листке из «Об истине и лжи», как он применяет ее по отношению к дереву (тоже гётевскому) и к примеру, знакомому в наши дни ИИ и экранного времени, касающемуся когнитивной физиологии/психологии чтения/сканирования[27].

Ницше постоянно концентрирует внимание на иллюзии, обмане, лжи, которая, чтобы оправдать ссылку на ИИ, является автоматической. Так, я уже цитировала Ницше о чтении страницы, и здесь можно продолжить: «нам гораздо легче создавать при помощи фантазии некое подобие дерева. Даже переживая что-нибудь необычайное, мы поступаем все так же: мы выдумываем себе большую часть переживаемого, и нас едва ли можно заставить смотреть на какое-нибудь событие не в качестве «изобретателей»». Как подчеркивает Ницше, «мы более художники, нежели это нам известно».

Итак мы – изобретатели, и вот мы снова возвращаемся к тостеру, который можно обвинить в неисправности, или к плюшевой игрушке для пожилых дам, которым, как и детям, вместо родительского внимания дают пустышки или айпады, чтобы утихомирить их претензии к членам семьи, или, возможно, у них нет таких членов семьи, ведь «семья» в любом случае является призрачным понятием, не таким, как фантосная конечность Декарта. То же самое можно было бы написать для другой статьи о секс-куклах, которые, как мне сказали, пользовались наибольшим спросом среди других товаров во время карантина.

Дело в том, что подобные успехи привели к настоятельной необходимости разработки этики роботов: корпорациям нужны пользователи, которые играют по правилам. Пользователи никогда не должны (отсюда и этический императив) относиться к этим продуктам так, как гетеросексуальные мужчины традиционно относились к женщинам: ущерб будет невообразимо быстрым. Но и пользовательский опыт будет более успешным, если его можно запрограммировать на использование устройства только так, а не иначе. Оба момента являются критическими важными для устойчивой бизнес-модели.

Помимо гётевской морфологии - т.е. отсылка к листу и дереву, которые Ницше связывает с чтением и переводом, - Ницше заимствует свой собственный текст из книги Густава Гербера «Искусство языка»[28]. В этом смысле Ницше/Гербер подчеркивают проективный элемент при чтении текста (нам кажется, по крайней мере, вначале, а иногда и после длительного и многократного прочтения, что мы уже знаем, о чем говорит автор), что аналогично разглядыванию картины (особенно если мы никогда не проходили курс истории искусств, когда мы точно «знаем», на что мы смотрим). В «По ту сторону добра и зла» Ницше распространяет нашу уверенность о том, что мы «уже знаем», на наше непосредственное общение: «Часто среди живого разговора, в зависимости от мысли, которую высказывает мой собеседник или которая кажется мне вызванной в нем мною, я вижу его лицо так отчетливо, вижу в нем такое тонко определенное выражение, что степень этой отчетливости далеко превосходит силу моей зрительной способности, - значит, тонкость игры мускулов и выражение глаз должны быть в данном случае присочинены мною. По всей вероятности, у моего собеседника было совершенно иное выражение лица или не было вовсе никакого» (§192).

Но это означает, что мы сами устанавливаем связь. Более того, мы настолько сосредоточены на себе, что отдаем преимущество тому, что как нам кажется, сосредоточено на нас. Именно в этом заключается суть руководства Дейла Карнеги для продавцов 1936 года, призывающего их выучить имена своих клиентов и повторять их как можно чаще. Повторение языка человека - это ключ к «завоеванию» друзей и «влиянию» на людей. ИИ занимается этим уже давно. Утверждение Ницше о том, что мы предпочитаем ложь, иллюзию правде, означает, что когда речь идет о друзьях, возлюбленных, членах семьи, а также о политических деятелях, исторических фактах, картинах или музыкальных произведениях, мы, большинство людей, как утверждает Ницше, «предпочитаем копию оригиналу». Нам нравится, чтобы все было так, как мы себе это представляем. И искусственный интеллект как раз создан для этого.

PS