В серии закрытых выступлений в прошлом году Питер Тиль, миллиардер-инвестор и идеолог Кремниевой долины, заявил, что юная активистка Грета Тунберг олицетворяет дух Антихриста. Это было не просто гиперболическое оскорбление. Тиль выражал прометеевскую теологию, которая освящает технологию и экспансию. В его мировоззрении силы динамизма должны бороться со злом застоя, представленного левым энвайронментализмом Тунберг. «В двадцать первом веке Антихрист — это луддит, который хочет остановить всю науку», — сказал Тиль. Луддитами в девятнадцатом веке называли английских рабочих, которые разрушали машины, считая, что те лишают их заработка. Сегодня это слово используют для тех, кто, по мнению говорящего, сопротивляется технологическому прогрессу.
Философские допущения Тиля могут звучать странно для посторонних, но они, по-видимому, широко разделяются технологической элитой. «Искусственный интеллект и его возможности представляют нечто аналогичное Второму пришествию», — сказал в мае Джереми Никсон, основатель центра по развитию искусственного интеллекта. Технология, как верят некоторые титаны Кремниевой долины, позволит людям — по крайней мере некоторым людям — вырваться за пределы Земли и, возможно, даже за пределы неизбежности смерти. Она представляет освобождение от безнадёжности и упадка.
Стоит держать эту странную новую квазирелигию в уме, когда мы рассматриваем предупреждения от инсайдеров индустрии о том, что их изобретения могут вызвать массовую гибель людей. На этой неделе Джейкоб Коксон ушёл с исследовательской должности в компании «Антропик» и написал в социальной сети: «Люди, строящие искусственный интеллект, искренне верят, что он может убить нас всех к концу десятилетия». Его слова усилил Эван Хубингер, руководитель отдела науки о согласовании в «Антропик», чья работа — пытаться удерживать технологию в соответствии с человеческими целями. «Джейкоб здесь прав», — написал Хубингер, оценив вероятность того, что искусственный интеллект уничтожит людей в течение следующих десяти лет, более чем в десять процентов. По мере эскалации тревоги главный исполнительный директор «Антропик» Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта, и некоторые из его крупнейших конкурентов согласились.
Однако Амодеи написал, что при его предложении «прогресс всё равно будет казаться быстрым». Что поднимает очевидный вопрос: если эта технология может уничтожить человеческую жизнь на Земле, почему продолжать её строить? Часто ответ таков: поскольку её развитие неизбежно, ответственные игроки должны добраться до неё первыми. Это не нелепый аргумент — если вы действительно верите в впечатляющие возможности искусственного интеллекта, вы не хотите уступать единоличный контроль над ним своим противникам. Но как объяснение странно беззаботного отношения индустрии к апокалипсису оно неполно, потому что не учитывает мессианские мечты технологических лидеров.
Их фантазии о трансценденции принимают разные формы. Сэм Альтман, главный исполнительный директор «ОпенИИ», однажды сказал: «Я предполагаю, что мой мозг будет загружен в облако». Илон Маск планирует сбежать на Марс. «Мы хотим быть на пути к тому, чтобы сделать реальностью то, что мы читаем в научно-фантастических книгах и видим в кино, — говорит он в кадрах, показанных в новом документальном фильме Алекса Гибни. — Будущее, где мы навсегда заперты на Земле до какого-нибудь неизбежного события вымирания, менее вдохновляюще». Джефф Безос, оставивший пост главного исполнительного директора «Амазона» в 2021 году, чтобы больше времени уделять своей космической компании, писал: «Мы не хотим столкнуться с цивилизацией застоя, и это реальная проблема, если мы просто останемся на этой планете».
Некоторые воображают себя цифровыми сверхлюдьми. В 2023 году миллиардер-инвестор Марк Андреессен опубликовал «Манифест техно-оптимиста» с разделом под названием «Становление технологическими сверхлюдьми». В нём он заимствовал язык у итальянского футуриста — и фашиста — Филиппо Томмазо Маринетти, написав: «Технология должна быть насильственным штурмом сил неизвестного, чтобы заставить их склониться перед человеком». Он цитировал Фридриха Ницше, чтобы доказать, что без такого штурма жизнь становится бессмысленной и мелкой. В разделе под названием «Враг» Андреессен перечислил идеи, которые сдерживали бы импульс технологии, включая «техноэтику» и концепцию «экзистенциального риска».
Часть причины, по которой публика так быстро и решительно отвернулась от искусственного интеллекта, — это странное несоответствие между затратами, которые её просят нести, и наградами, которые она ожидает получить. Центры обработки данных уродуют ландшафт, искусственный интеллект низкого качества разрушает культуру, чат-боты помогают детям списывать в школе и иногда сводят людей с ума, а технологические руководители пророчат массовую безработицу. За это обычные люди получают улучшенные поисковые системы и помощь в написании писем. Большие выгоды могут быть на горизонте — нас постоянно уверяют, что искусственный интеллект обеспечит огромные медицинские достижения, — но их пока нет, чтобы оправдать опасности.
Для тех, кто наиболее вложился в искусственный интеллект, однако, невыносимый риск заключается в неудаче продвинуть технологию и, таким образом, остаться запертыми в оглупляющем, конечном обычном существовании. «Десятилетиями крупные технологические фирмы настаивали, что технологии, которыми они владеют и управляют, «неизбежны» и потому неостановимы, — пишут Наоми Кляйн и Астра Тейлор в своей новой книге. — Теперь они всё чаще претендуют на авторитет сверхъестественного: право открыть новую стадию человеческой эволюции, управляемую божествами их собственного создания». Как отмечают Кляйн и Тейлор, эти видения, столь очевидно производные от научной фантастики и видеоигр, могут быть трудны для восприятия всерьёз. Но неважно, верите ли вы в будущее кибернетического восхождения. Важно то, что люди, движущие революцию искусственного интеллекта, верят.
И если что-то пойдёт не так, у них есть запасные планы. Марк Цукерберг строит роскошный комплекс для выживания на Кауаи. Тиль пытался построить такой в Новой Зеландии и недавно перебрался в Аргентину — «потенциальный люк для спасения», как сообщала «Нью-Йорк таймс», от катастроф, включая ядерную войну и вышедший из-под контроля искусственный интеллект. Илья Суцкевер, один из основателей «ОпенИИ», якобы сказал сотрудникам, что компания построит бункер перед выпуском общего искусственного интеллекта — системы, которая может либо сравняться с человеческими способностями, либо превзойти их в широком диапазоне областей.
В интервью в прошлом году мой бывший коллега Росс Даутхат задал Тилю, казалось бы, простой вопрос: «Я думаю, вы предпочли бы, чтобы человеческий род выжил, верно?» Тиль помолчал некомфортно долго, прежде чем наконец, после некоторых колебаний, сказать «Да». Его следующее слово, однако, было «но», после чего Тиль начал разглагольствовать о трансгуманизме. «Идеалом было это радикальное преобразование, где ваше человеческое, естественное тело превращается в бессмертное тело», — сказал он.
Наши технологические олигархи, вероятно, хотели бы, чтобы человеческая цивилизация на этой планете процветала, но некоторые, похоже, не считают это критически важным. Важнее, чтобы они достигли своей постчеловеческой или межпланетной апофеозы. Если им придётся поставить на карту наши жизни, чтобы вызвать своего цифрового бога, это шанс, который стоит использовать.
