Улыбка вашего ребенка дороже вам, чем улыбка незнакомки, живущей на другом конце света. Конечно, это так. Человеческая жизнь так устроена, как и наши обязательства к ближним и любовь
Но идеология, господствующая среди многих представителей элиты Силиконовой долины, рассматривает это предпочтение близких и дорогих вам людей как эволюционный дефект. Вместо этого, согласно приверженцам данного мировоззрения, каждое разумное существо в любом месте и в любое время имеет одинаковые моральные права по отношению ко всем остальным. Эта философия известна как эффективный альтруизм (ЭА).
Скандалы в мире эффективного альтруизма, особенно крах криптовалютного предпринимателя Сэма Бэнкмана-Фрида, побудили в последнее время многих последователей этого движения его покинуть. Но идеи остаются актуальными. В 2025 году шесть организаций, связанных с эффективным альтруизмом, инвестировали 1,25 миллиарда долларов, и эта сумма, как ожидается, будет расти вместе с успехом ведущей мировой компании в области искусственного интеллекта, Anthropic, основанной на принципах эффективного альтруизма. Основатели компании обязались пожертвовать 80% своего состояния после IPO. Эти обещания пожертвовать средства, в сочетании с политикой компании по софинансированию пожертвований сотрудников, создадут миллиарды долларов благотворительного капитала, направляемого через институты эффективного альтруизма.
Эффективный альтруизм — это последний писк утилитаризма, этой викторианской философии расчетливых реформаторов, пересаженной в залы заседаний советов директоров Силиконовой долины и наделенной ложной жизнеспособностью многомиллиардных балансов. Поскольку он по своей природе слеп к тому, что делает цивилизацию достойной сохранения, его утопия будет подразумевать распад Америки во имя человечества.
Успех ЭА объясняется несколькими историческими факторами. Один из них — расцвет средств массовой информации, расширивший круг забот, который раньше мог охватывать только семью и соседей. К началу 1970-х годов телевизоры были почти в каждом американском доме. Кадры страданий людей за границей стали обычным явлением в американской жизни. В 1972 году философ Питер Сингер опубликовал статью «Голод, изобилие и мораль», которое стало идеологией ЭА. Его аргумент был прост: если мы можем предотвратить страдания с минимальными затратами для себя, мы должны это сделать, и с моральной точки зрения нет никакой разницы, помогает ли нам «ребенок соседа в десяти метрах от меня» или незнакомец на другом континенте.
Еще одним условием роста ЭА стала современная патологизация традиционных источников идентичности — нации, религии, семьи, традиций. Особенно после Второй мировой войны такие особые связи стали пониматься как причина фашизма. Последующие поколения, чье образование лишило их всего этого, были готовы принять программу ЭА.
В книге «После добродетели» (1981) Аласдер Макинтайр утверждал, что каждая культура определяется совокупностью «характеров», социальных ролей, воплощающих её моральные идеалы. «Характеры, — писал он, — это маски, которые носят моральные философии». Главным персонажем ХХ века был бюрократ, чья власть основывалась на, казалось бы, научном знании о человеческих делах, базирующемся на предполагаемой несоизмеримости фактов и ценностей. Бюрократ управляет, опираясь на факты, в то время как ценности обречены оставаться в частной сфере. Компетентность бюрократа неоспорима. Критерием его власти является эффективность.
Он сводит все блага к единому количественно измеримому измерению, преобразуя их в такие единицы, как спасенные жизни, предотвращенные страдания и стоимость результата. Кажущаяся нейтральность этих единиц скрывает целый ряд идеологических предположений. Человеческое «благо» становится функцией расчетов. Затем, притворяясь ценностно-нейтральным, ЭА осуждает предательство своих идеалов как отсталое, ненаучное и аморальное явление. Любая критика воспринимается как посягательство как на науку, так и на человеческое достоинство.
В последнее время беспристрастность сторонников ЭA распространилась далеко за пределы ныне живущих существ, охватив то, что «долгосрочные аналитики» представляют как 10 в 58степени + потенциальных будущих существ — людей и цифровых цивилизаций. Существование этих будущих существ зависит от предотвращения вымирания человечества. Долгосрочные аналитики считают ИИ главной экзистенциальной угрозой, а передовые разработки сосредоточены в нескольких американских лабораториях.
Некоторые довели этот аргумент до силового предела. Элиэзер Юдковски, самый влиятельный из пророков конца света, написал в журнале «Time», что страны должны «быть готовы уничтожить вышедший из-под контроля центр обработки данных с помощью авиаудара», несмотря на риск ядерной войны. А с 2022 года зизианцы, культ, отколовшийся от той же рационалистической религии из Сан-Франциско, считаются причастными уже к шести убийствам.
Конгресс должен относиться к благотворительному аппарату, занимающемуся разработкой передовых технологий в области ИИ, так же, как и к любой концентрации неподотчетной власти. Законодатели должны требовать раскрытия информации о сетях предоставления грантов, финансирующих лаборатории, которые имеют значение для национальной безопасности. Они должны ограничить федеральное финансирование условиями, которые были бы понятны любому оборонному подрядчику: раскрыть инструкции и системы оценки, заложенные в модели, сертифицировать системы, продаваемые правительству, как выполняющие законные приказы без вето инженера, и зарезервировать за правительством право на аудит.
Машины, которые закупает наше правительство, должны служить американскому народу, а не какому-то будущему человечеству. А стандарты закупок должны отдавать предпочтение моделям с открытым исходным кодом, которые любой может скачать, запустить и протестировать, чтобы страна никогда не зависела от информации, которую могут скрыть несколько лабораторий.