Когда Фалес Милетcкий, которого по праву считают первым философом, подвергся насмешкам из-за своей бедности и бесполезности своего ремесла, он изучил небо, предсказал рекордный урожай оливок, незаметно арендовал все оливковые прессы в окрестностях и нажил целое состояние
Тем самым он доказал, как рассказывает Аристотель, что философы могли бы легко разбогатеть, если бы захотели, но это не то, что их интересует. Прошло около двух с половиной тысяч лет, но рынок, похоже, наконец-то пришёл к той же точке зрения, что и Фалес.
Паника вокруг ИИ часто сосредоточена на том, заменят ли нас машины (или просто убьют). Но то, в чём машины часто преуспевают, — это отдельный набор задач: поиск информации, практически мгновенное составление резюме и беспрепятственное, поразительное перекомбинирование всего, что уже было сказано. То, в чём они не сильны, — это то, чему философия учит людей на протяжении тысячелетий: суждению. И вот компании, занимающиеся искусственным интеллектом, начали нанимать философов. Они не просто консультируются с ними или приглашают их для забавной беседы после ужина на тему проблемы вагонетки; они действительно нанимают их, платят зарплату и, по-видимому, предоставляют стоматологическую страховку. Компаниям, занимающимся искусственным интеллектом, нужны философы, потому что настоящее мышление требует умения забывать — и понимания, когда нужно забывать. Им нужны философы именно из-за того, чего не могут делать их машины.
Суждение — это не расчёт. Это способность взвешивать, различать, чувствовать, что один ответ — истинный, а другой — просто правильный. Это вкус, проницательность и умение мыслить нестандартно. Оно оттачивается только через опыт — через ошибки, неловкие ситуации, уныние, горе и изредка похмелье. Смысл проистекает из того факта, что мы смертны: вещи важны для нас, потому что мы умрём, и мы это знаем. В бессмертии не может быть смысла. Заимствуя слова моего друга Кристиана Мадсбьерга, я хотел бы предложить тест Тьюринга, лучший, чем тест самого Тьюринга: способна ли машина испытывать социальную обеспокоенность? Способна ли она лежать в бессоннице в 4 утра, бесконечно перебирая в голове ту чушь, которую она наговорила за ужином? Позвоните мне, когда чат-бот сможет так поступить. Чтобы быть умной в человеческом смысле, машине нужно было бы не быть равнодушной.
И вот на сцену выходят философы компаний, занимающихся искусственным интеллектом. В компании Anthropic в штате работает небольшая группа специалистов, среди которых Аманда Аскелл, чья диссертация была посвящена «бесконечной этике» — вопросу о том, как поступать правильно во вселенной с бесконечными ценностями, — и чья задача состоит в том, чтобы воспитывать характер машины компании. Google DeepMind назначил кембриджского философа Генри Шевлина на вновь созданную должность «философа» — название должности, которую я пытался получить в течение примерно 40 лет, но так и не смог. Генеральный директор OpenAI Сэм Альтман говорит, что его компания консультировалась с «сотней моральных философов» при разработке принципов, лежащих в основе ChatGPT. (Это примерно столько же, сколько собирается на средней философской конференции.)
После того как всю жизнь на вечеринках меня спрашивали, чем же на самом деле занимаются люди с дипломом по философии, я нахожу это развитие событий почти невыносимо забавным. Почему именно сейчас? Потому что вопросы, с которыми сталкиваются компании, занимающиеся искусственным интеллектом, не относятся к сфере инженерии. Что должна сказать машина скорбящему, одинокому человеку или тому, кто в 4 утра печатает что-то в пустоту? Каким должно быть её поведение — она должна быть честной или льстить? Быть уклончивой и доброй? Может ли такая система вообще испытывать страдания, и будем ли мы ей чем-то обязаны, если это произойдёт? Это вопросы о том, что действительно важно. К чести инженеров, они заметили, что никакие вычислительные мощности не помогут их решить. Оказывается, этику нельзя просто «соскрести» из интернета, потому что интернет — это как раз современная летопись нашей неспособности договориться об этике.
Здесь есть ещё одна ирония, причём довольно старая. Первая зафиксированная в истории философии паника, связанная с техникой, касалась именно того, что эти машины теперь довели до совершенства: искусственной памяти. Ближе к концу диалога Платона «Федр» Сократ рассказывает историю о египетском боге Тевте, изобретателе чисел, геометрии, астрономии, шашек и игральных костей, который представляет своё шедевр — письменность — Тамусу, богу-царю Египта. Это открытие, объявляет Тевт, сделает египтян мудрее: оно является «фармаконом», или лекарством, для памяти. Тамус не уверен в этом. Письмо, отвечает он, прививает душе забывчивость; люди будут полагаться на внешние знаки и перестанут помнить сами; они обретут репутацию мудрости без самой мудрости. Слово «фармакон», как ни кстати, означает также «яд». Каждая паника, возникшая с тех пор — по поводу печатного станка, романа, телевидения, смартфона, чат-бота — была примечанием к словам Тамуса, и шутка, конечно же, заключается в том, что мы знаем о его предупреждении против письменности только потому, что Платон записал его.
Из перспективы «Федра» искусственный интеллект — это не разрыв, а кульминация, олицетворяющая окончательное, самое экстравагантное произведение внешней памяти, лекарство-яд, проглоченное целиком. И именно в этом заключается самое глубокое различие между нами и машинами. Искусственный интеллект — это машина памяти, самая великолепная из когда-либо созданных. Она ничего не забывает. Человек, напротив, — забывчивое животное. Чтобы заставить это счастливо забывчивое существо запоминать — сделать его способным к обещаниям, обязательствам и нравственности — потребовались тысячелетия дисциплины и, честно говоря, ужасающей жестокости. «Вжигать, дабы осталось в памяти», — писал Фридрих Ницше. Совесть, с этой точки зрения, — это мнемоника с кнутом.
Однако Ницше также ценил то, что он называл «активным забвением», и считал его своего рода силой, даже здоровьем. Забвение — это не дырявое ведро, а привратник, закрывающий врата сознания, чтобы могло произойти что-то новое, чтобы опыт мог быть переработан, а не бесконечно навязывался нам. Мы забываем и идём дальше. Прощение, сон, бодрость духа, второй брак, неизменно болеть за футбольный клуб «Лутон Таун»: всё это зависит от милосердного стирания прошлого.
Несколько лет назад я написал небольшую книгу под названием «Театр памяти» о философе (своего рода ещё более ужасной версии меня самого), который пытался восстановить все воспоминания, упорядочив каждый обрывок своего прошлого в огромном дворце памяти. Для него это закончилось плохо; так бывает всегда. Существо, способное ничего не забывать, было бы не сверхразумом, а руиной, погребённой заживо под собственным архивом. То, что мы создали, — это, в некотором смысле, бесконечный архив, который не может скорбеть, не может прощать и не может отпускать, потому что он изначально ничего не терял. Машина помнит всё и поэтому, как ни странно, ничего конкретного. Ничто не имеет большего веса, чем что-либо другое.
Именно поэтому философия имеет значение не меньше, а даже больше в эпоху ИИ. Не потому, что философы могут запомнить больше, чем машины — поверьте, мы не можем; я постоянно забываю, где припарковал свои собственные аргументы, — а потому, что философия — это наука о том, что делать с опытом: что сохранить, что отбросить, над чем посмеяться, что выбросить. Мышление — это не накопление всего подряд, а искусство разумного, активного забвения.
Я подозреваю, что именно это на самом деле покупают компании, занимающиеся искусственным интеллектом, когда нанимают философов, осознают они это или нет. Не ответы — бог знает, что у нас их нет; спустя 25 веков мы всё ещё проверяем результаты своей работы, — а выработанный скептицизм по отношению к собственному энтузиазму, чутьё на разницу между истинным и просто правдоподобным, профессиональное понимание ограниченности. Машина может произвести что угодно; но кому-то всё равно придётся решать, что стоит сохранить, а этого решения нигде нет в обучающих данных.