Субъект ИИ

Изучая пациентов с афазией Лев Выготский отметил, что, несмотря на все различия, у всех у них была одна проблема – абстрактное мышление..

Когда их просили вербализовать предложения, например, «снег чёрный» или намеренно неверно назвать цвет цветка, их сознание словно блокировались невидимой силой. В их мире слова и вещи были неразрывно связаны, из-за чего любое абстрагирование и уход от реальности оказывались невозможными.

При этом расстройстве Выготский отмечал неспособность пациентов освободиться от конкретных вещей и непосредственных потребностей посредством символики и воображения — фундаментальных свойств, приобретенных человеком благодаря эволюции. По его мнению, эта несвобода как от внутренних, так и от внешних стимулов присутствует и у детей, поскольку у них ещё не полностью развита система обозначений, которую он называет понятиями. Понятие, по сути, является формой обобщения, на которую опирается мышление, чтобы манипулировать данностью вещей и подавлять непосредственность инстинкта. Оно служит рычагом, позволяющим воображению вырвать мир из его непосредственной реальности и создать пустоту. По этой причине без понятий – без способности к абстракции – мысль и язык становятся пленниками примитивной повседневности.

Эти краткие вводные замечания помогают нам контекстуализировать проблему языка в эпоху больших языковых моделей (LLM), таких как ChatGPT. В последнее время ведутся активные дискуссии, особенно в сфере образования, о том, вредны или полезны эти системы для обучения. Некоторые утверждают, что в этих технологиях нет ничего изначально плохого или нового, рассматривая их как очередную веху в неумолимом марше технического прогресса. Другие считают критически важным включать их в учебный процесс, чтобы лучше подготовить наших учеников к выходу на рынок труда. В конце концов, технологии нейтральны – всё зависит от того, как они используются, не так ли?

Но на самом деле нет. Сейчас известно, что технологии – в зависимости от своих функций – способны изменять наше восприятие вещей и даже влиять на наши когнитивные способности. Например, исследование использования спутников и технологий GPS показало, насколько негативно они влияют на пространственное вображение[1]. Подобные исследования подтверждают выводы, уже сделанные ранее относительно лондонских таксистов, у которых задний гиппокамп был значительно больше, чем у среднестатистического человека, из-за постоянной тренировки пространственной памяти в сложной обстановке[2]. Короче говоря, технологии нельзя считать нейтральными. Как и любые практики, они влияют на пластичность мозга и наше отношение к себе, другим и миру. Поэтому правомерно поставить вопрос: что происходит с нашим восприятием реальности и когнитивными способностями буквально под языковым диктатом статистической вычислительной системы? Ответить на этот, казалось бы, простой вопрос далеко не просто. На самом деле, мнений по этому вопросу множество, и зачастую они противоречивы.

Утверждалось – и, на наш взгляд, совершенно справедливо, – что в образовательной системе, сформированной неолиберальными принципами (продуктивность и достижения) и инструментами (метрики и рейтинг), большие языковые модели могут оказать лишь пагубное влияние на студентов, которые будут искать кратчайший путь к достижению навязанных извне исчислимых показателей (высшая оценка с минимальными усилиями). Некритическое использование ИИ в ущерб поиску своего языка – эта слепая вера в новую алгоритмическую Кассандру – это опыт, который, вольно или невольно, почти все преподаватели болезненно пережили в последние годы. Но при всей своей негативности эта критика оставляет пресловутый проблеск надежды. Если бы только можно было изменить принципы и условия, в которых мы вынуждены жить! Разве не на это надеялся Вальтер Беньямин, когда писал про произведение искусства в эпоху его механического воспроизводства? Однако можно ли всё ещё утверждать, как это делал Беньямин в отношении искусства, что технология, изменяя функцию языка, освобождает его для новых форм восприятия и выражения?

Но нельзя не быть скептиком. Действительно, функция художественного и языкового выражения меняется по мере того, как развитие технологий и капитализма способствует их эволюции. И по мере развития этих функций меняются и наши практики (вспомним, например, переход от фотолаборатории к цифровой фотографии). Новые практики, в свою очередь, модулируют и трансформируют наше восприятие и системы значений (кисть Леонардо да Винчи наделила человеческое лицо ценностью, что селфи навсегда обесценило). Тем не менее, подобная критика в конечном счёте остаётся внешней по отношению к проблеме, которую мы пытаемся решить. Фактически, она не рассматривает проблему языка и его диктата, а скорее принимает её как должное. Поэтому полезно вернуться к Выготскому, который сформулировал этот вопрос радикально.

Выготский утверждает, что мышление и язык филогенетически взаимозависимы, хотя изначально они были разделены на онтогенетическом уровне. Другими словами, эволюция человека стала возможной благодаря их взаимодействию, даже при отсутствии изначальной прочной связи между мышлением и словом. Эти два элемента сосуществуют и переплетаются в фундаментальной единице вербального мышления: понятии. Понятие, по сути, представляет собой точку встречи, где мысль формируется посредством языка. Мы высказываем свои мысли, потому что, как отмечает Выготский, мысль «не выражается, а завершается в слове». Например, у ребёнка, хотя смысл и язык связаны, они следуют разными путями. Мир младенца переполнен смысла, но беден словами. Благодаря опыту этот мир значений осваивается посредством новой языковой целостности: предложения. В определённом смысле ребёнок движется от целостности смысла к целостности языка. И инструментом, на который ребёнок опирается, чтобы ориентироваться в море значений, является концептуальная платформа, которая со временем становится всё более обширной и насыщенной. Именно в этой связи другой авторитетный русский мыслитель, Павел Флоренский, утверждал, что «слова – глаза ума, и без различных имен не было бы не только науки, но и вообще никаких представлений»[3]. Язык позволяет сознанию переосмысливать всю смысловую полноту реальности – то, что у ребёнка изначально проявляется как синестезия, или как бодлеровская гиперсвязь между чувствами[4].

Ключевой момент в теории Выготского заключается в том, что отношения между мышлением и речью не являются ни устойчивыми, ни завершенными; напротив, они эволюционным образом развиваются. Подобно сюжету, который со временем становится всё более запутанным, взаимодействие между мышлением и речью углубляется по мере их развития. Например, подростки заменяют детскую игру воображением, которое позволяет им осмыслить проявляющийся по мере взросления сложный мир своих эмоций. Однако это воображение не списывает со счетов мир детской игры, а, скорее, надстраивает его смысловые структуры поверх. Исследуя инструменты сигнификации подросток таким образом учится использовать изначальную силу языка: абстракцию. Эта способность к абстракции, по сути, является силой, освобождающей воображение – не от конкретного, а от непосредственного, – позволяя человеку проецировать себя в будущее, представлять свои эмоциональные реакции и сохранять воспоминания. Как сказал Выготский: «Образование понятий несёт с собой прежде всего освобождение от конкретной ситуации и возможность творческой переработки и изменения её элементов»[5]. В конечном счёте, связь между мыслью и речью сводится к следующему: свободе представлять себя во времени. Благодаря фантазии мы предвосхищаем будущее и, «следовательно, также творчески подходим к его построению и реализации».

Но именно потому, что связь между мыслью и языком не изначальна, а исторична, наши понятия – или «значения слов» – подчиняются опыту. Другими словами, связь между мыслью и языком как таковая всегда подвержена трансформации, извращению или даже между ними возможен разрыв, как мы видим в некоторых случаях афазии. Поэтому мы можем вернуться к нашему вопросу: что происходит с подростком, когда ему диктуют язык, без той внутренней работы между мыслью и словом, которую мы называем понятием? Что происходит с нашими студентами, когда большие языковые модели заменяют деятельность, которую мы обычно называем «критическим мышлением» – деятельность, которая, по сути, есть не что иное, как абстрагирующая и темпоральная сила вербального мышления?

Но именно потому, что связь между мыслью и языком не изначальна, а исторична, наши понятия – или «значения слов» – подвержены влиянию опыта. Другими словами, связь между мыслью и языком – будучи связью – всегда подвержена перестройке, распутыванию или даже разрыву, как мы видим в некоторых случаях афазии. Поэтому мы можем вернуться к нашему вопросу: что происходит с подростком, когда ему диктуют язык, без той внутренней работы между мыслью и словом, которую мы называем понятием? Что происходит с нашими студентами, когда магистры права заменяют деятельность, которую мы обычно называем «критическим мышлением», – деятельность, которая, по сути, есть не что иное, как абстрагирующая и темпоральная сила вербального мышления?

В результате по умолчанию возникает своего рода латентная афазия: неспособность мыслить дальше того, что диктуется или уже было сказано. И сколько из нас, преподавателей, продолжают удивляться творческой неспособности некоторых студентов мыслить без подсказки или часто иррационального страха перед называемой «теорией»? Атрофия связи между мыслью и словом посредством диктата языка означает подпитывание презентизма эмоций, углубление разрыва — и без того расширенного социальными сетями — между чувствами и нашей способностью понимать их посредством лингвистической абстракции («сегодня я чувствую себя так, а завтра мой мир может измениться»). Стимулировать студентов использовать ИИ означает превращать их в редакторов того, что уже было сказано и написано; большие языковые модели, такие как ChatGPT, в основном обучаются — «статистически» — на основе цифровых текстов, собранных во всемирной паутине. Усыпление способности абстрагирования означает лишение студентов возможности самостоятельно развивать способность воображения и планирования будущего — каким бы оно ни было. Благодаря зачастую некритичному использованию такого программного обеспечения, учащиеся, таким образом, становятся рыцарями Великого Царства Статистического Прошлого, которое простирается через невольное повторение уже сказанного и написанного. В конечном счёте, жизнь под сенью цифрового и бестелесного Вавилона, адаптирующегося к задачам, навязываемым рынком желаний, означает неосознанную уступку нашего суверенитета и нашей демократии тем, кто теперь контролирует время и пространство, в которых мы можем что-то ощущать.

По всем этим причинам стоит бить тревогу. Речь идёт не о демонизации технологии, которая, в конце концов, может быть очень полезна тем, кто уже на практике выработал личные  отношения между мыслью и словом. Мы стремимся защитить свободу наших детей и учащихся самостоятельно конструировать и ощущать концептуальную красоту языка – красоту, которая, по мнению Макса Вебера, представляла собой единственную форму теории. Другими словами, мы хотим помочь им развить в себе сокровенную способность переосмысливать время, а вместе с ним и мир, в который мы себя проецируем.

Если всё это кажется слишком спекулятивным, один пример из современной массовой культуры поможет помочь нам конкретизировать смысл обсуждавшихся до сих пор тем. В телесериале «Отрочество» (Adolescence) (2025) разрыв между мыслью и словом, языком и миром, эмоциями и разумом – разрыв, который мы уже обсуждали – изображен с поразительной силой. Тринадцатилетний мальчик, возможно, жертва кибербуллинга, убивает девочку, но не способен по-настоящему прочувствовать всю тяжесть своего поступка, подавленный силой ужаса, подпитываемого его виртуальными призраками. Но эта личная трагедия также служит метафорой более широкого социального кризиса. Миры взрослых и подростков, по сути, основаны на непередаваемых значениях: в медиамире молодёжи формируются мечты и желания, которые затем захватываются моделями, навязывающими желания и ненависть; в мире взрослых встроенный в систему язык пытается постичь эту виртуальную, но весьма ощутимую власть социальных сетей. Исследуя эти разрозненные миры, буквально раздробленные содержательной дезинтеграцией, сериал ставит нас перед главной смысловой проблемой: как возможно убийство в тринадцать лет? Почему? В чём смысл столь чудовищного и неожиданного насилия? Эти вопросы, которые преследуют как родителей жертвы, так и родителей преступника, остаются без ответа, поскольку, в конечном счёте, материальность поступка проистекает именно из той пропасти, что создаётся разделением между мыслью и словом, воображением и языком, эмоциями и рассудком.

И если мы не хотим, чтобы все мы в конечном итоге стали похожи на отца тринадцатилетнего героя – канувшего в пучине вины, разверзнувшейся в бессмысленности поступка его ребенка, в муках трагедии, смысл которой уничтожен теми самыми техническими средствами, которые мы используем для общения, – крайне важно воспитывать в наших учениках трудную свободу мыслить через опыт человеческого языка.

PS