Искусственный интеллект представляет прогнозы как факты, и это имеет глубокие этические последствия
В своей новой книге «Пророчество» философ Карисса Велиз исследует использование вероятностной психологии, базового инструмента искусственного интеллекта, как средства отправления власти
В 2020 году тридцатилетняя мексиканско-испанская философ ворвалась на мировую арену благодаря дискуссии о влиянии технологий. В своей книге «Конфиденциальность — это власть» (Destino) Карисса Велиз объяснила, почему неприемлемо, чтобы надзорный капитализм предполагал постоянное вторжение в частную жизнь. Ее свежий взгляд и строгость сделали эту работу основополагающей в данной области. Шесть лет спустя эта профессор философии Оксфордского университета вернулась на книжные рынки с новинкой - «Пророчество».
В своей новой книге она анализирует, как статистика и прогнозы, широко используемые в настоящее время искусственным интеллектом (ИИ), являются мощным инструментом, меняющим наш мир. «Прогнозы зачастую представляют собой диспозитив, замаскированный под поиск знаний. Вся экономика данных была создана потому, что мы хотим прогнозировать; иначе мы бы не тратили на это свое время и энергию», — объясняет он изданию EL PAÍS во время визита в Мадрид.
Что же такого привлекательного в пророчествах?
В последние годы я заметила рост внимания к прогнозированию, что непосредственно связанно с искусственным интеллектом. Машинное обучение способствует формированию вероятностного мышления, которое развивается параллельно с рынками прогнозов и представляет прогнозы как факты. Это имеет серьезные этические последствия.
Одним из искажений в отношений предсказаний является то, что их можно использовать для изменения мира, для того, чтобы заставить их сбыться.
Мы склонны быть очень наивными в отношении предсказаний, и моя гипотеза заключается в том, что это отчасти иллюзия языка, потому что предсказания звучат как факты, как описания мира, но когда вы анализируете их с философской точки зрения, вы понимаете, что это не так. В частности, предсказания о людях влияют на людей, потому что они влияют на наши ожидания, а ожидания, отчасти, формируют мир. Поэтому они обладают магнетической силой.
История математики насчитывает тысячелетия, но изучение вероятностей — довольно недавнее направление.
Да. Греки, например, были очень развиты в философском и математическом плане, но они не разработали математическую теорию вероятности. Мы не знаем почему, но одна из гипотез, которая кажется мне весьма правдоподобной, заключается в том, что она была несовместима с представлениями о богах и судьбе. Если у вас есть идея, что судьба предопределена и что боги принимают решения, то нет смысла рассматривать вероятность как нечто математическое.
Вы проводите параллель между появлением теории вероятностей и переписями населения, как оба эти явления были основными инструментами колониализма.
Я думаю, очень важно понимать истоки развития демографической статистики. Ее происхождение связано с Фрэнсисом Гальтоном. Это поистине удивительно, потому что мы открыли нормальное распределение двумя независимыми путями: один — это азартные игры, кости и игры на удачу, а другой — изучение звезд. Поскольку измерить расстояние между звездами сложно из-за облаков или движения неба, возникло понятие распределения погрешностей измерений. Удивительно, что кто-то догадался применить этот инструмент к социальным проблемам. И не просто каким-то старым способом, а очень нормативным, навязывая людям представления о норме. Если ты не соответствуешь норме, то ты — отклонение. Действительно, это связано с колониализмом, с тем, что сначала контролировали население, которому мы меньше доверяем, а затем и все население в целом.
Одна из идей вашей книги заключается в том, что истоки статистики во многом связаны с социальным контролем. И что она является инструментом власти. Почему?
Потому что, если убедить людей в том, что это будущее, сделать предсказание, которое звучит как факт, это на самом деле способ создать желаемое будущее. Есть утверждения, которые, кажется, описывают реальность, но на самом деле они отдают распоряжение. Когда мы слышим предсказание и принимаем его за факт, мы на самом деле подчиняемся.
Вы утверждаете, что категоризация людей устраняет индивидуальные особенности. И что искусственный интеллект доводит этот процесс до крайности.
Совершенно верно. Рассматривать людей как простые цифры — значит дегуманизировать их. Наступает момент, когда люди должны адаптироваться к определенным категориям, а не наоборот. Если посмотреть на профессии во Франции до появления статистики, они были очень гибкими и изменчивыми. Человек мог быть отчасти плотником, отчасти кузнецом или кем угодно. Но когда правительство устанавливает определенные категории и выделяет соответствующие субсидии, если вы не вписываетесь в категорию, вы начинаете страдать от последствий. Тогда плотник становится просто плотником, и статистика работает гораздо лучше, но это происходит за счет создания той реальности, которую вы должны описывать. Статистика никогда не бывает нейтральной.
Как возникла подобная бюрократия?
Мы доверяем цифрам, потому что не доверяем людям, и забываем, что именно люди выбирают и создают эти цифры. Более того, после упразднения монархии, оправданием которой была божественная благодать, бюрократы чувствуют себя уязвимыми, потому что им нужно доказывать свою состоятельность, свою правоту. В качестве оправдания они предлагают цифры. Опора на автоматизированные процессы приводит к снижению подотчетности, потому что больше не знаешь, к кому обратиться. Когда что-то идет не так, все прячутся за машиной. Эта безличная структура, которую мы создали, становится похожа на монстра со своей собственной жизнью, толкающего людей то в одну, то в другую сторону.
Вы критикуете тот факт, что утверждение, подкрепленное цифрами, кажется более убедительным, чем утверждение без них. Почему?
Если вы хотите прославиться в академических кругах, сделайте какое-нибудь предсказание и насовайте в него цифр, неважно, откуда вы их взяли. Зачастую наличие цифр не только не помогает, но и вводит в заблуждение, потому что создает впечатление, будто мы говорим о реальности, тогда как полностью сфабрикованные цифры лишь запутывают и дезинформируют общественность.
Искусственный интеллект основан на прогнозах, построенных на данных, которые зачастую также являются прогнозами. Следует ли рассматривать ИИ как гигантский карточный домик?
Безусловно. И чем глубже мы погружаемся в иллюзию предсказуемости всего происходящего и контроля над ситуацией, тем более слепыми мы будем в отношении неоспоримого факта, что ИИ также порождает собственные риски, и эти риски носят системный характер и не поддаются количественной оценке.
Как нам выбраться из этой ситуации?
Нам следует гораздо разумнее использовать прогнозирование. Я не говорю, что мы не должны его использовать. Мне хочется знать, какая погода будет завтра, но нам нужно понимать, что можно, а что нельзя предсказать. Нам следует гораздо больше сосредоточиться на построении устойчивого общества и меньше на прогнозировании. Например, мы знаем, что рано или поздно случится еще одна пандемия. Я не понимаю, почему нам не удалось улучшить вентиляцию в зданиях за эти годы. Вместо того чтобы тратить ресурсы на прогнозирование того, что нельзя предсказать, мы могли бы сосредоточиться на решении проблем, которые, как мы уже знаем, могут произойти.
Могут ли прогнозы что-либо сказать о мире или о наших знаниях о нём, или об их отсутствии?
Когда прогнозы сильно разнятся, как в случае с будущим ИИ, это признак того, что мы действительно ничего не знаем. Еще один важный момент: вы можете быть экспертом в чем-то, но это не делает вас экспертом в будущем этого чего-то. Будущее неизвестно, оно не предначертано! Я, например, знаю о конфиденциальности, но если вы спросите меня о будущем конфиденциальности, я знаю не больше, чем кто-либо другой. Нам не следует попадать в ловушку, думая, что есть эксперты по будущему, даже если говорящий — лауреат Нобелевской премии.
Что вы думаете об утилитаризме и эффективных альтруистах как винтиков в бюрократической машине?
Недавно я перечитала Чарльза Диккенса. Он очень не любил утилитаристов, и на то были веские причины. Им невероятно удалось убедить нас думать о морали определённым образом. Мы склонны интуитивно так думать, потому что на протяжении веков им удавалось внушать нам идею, что анализ затрат и выгод может превратить моральные привычки в уравнение. Критиковать утилитаристов очень важно, потому что они так долго оказывали огромное влияние на государственную политику. Эффективные альтруисты, которые утверждают, что этически приемлемо становиться невероятно богатыми, потому что затем они могут помогать большему количеству людей своими пожертвованиями, сейчас немного поутихли [одной из ведущих фигур в этой среде был Сэм Бэнкман-Фрид, криптомиллиардер, который с 2023 года отбывает 25-летний срок за мошенничество в отношении своих клиентов на 8 миллиардов долларов]. Но они вернутся. Это идеальная основа для оправдания того, почему миллиардеры делают то, что они делают.
тэги
читайте также