Джеффри Хинтон, лауреат Нобелевской премии по физике 2024 года и человек, которого называют «крёстным отцом» искусственного интеллекта, выступил с очередным предупреждением. По его словам, гонка за превосходство в сфере ИИ поставила «будущее человечества на кон». Хинтон, которому 78 лет, ушёл из Google в 2023 году, чтобы свободно говорить об опасностях технологии. Именно он в своё время предложил концепцию нейронной сети — системы, лежащей в основе современных моделей ИИ.
Выступая в Лондоне на премьере документального фильма «ИИ: вероятно, беспокоиться не о чем», Хинтон дал ряд резких оценок. Он сказал, что позволить пяти американским компаниям доминировать в этой сфере «особенно опасно из-за характеров некоторых людей — таких как Альтман, Маск и Цукерберг». И добавил: «Я бы не купил у них подержанную машину».
На вопрос, не кажется ли ему, что всё выходит из-под контроля, Хинтон ответил: «Думаю, это потому, что оно действительно выходит из-под контроля». Он объяснил, что движущей силой является конкуренция между странами и компаниями за создание всё более умных систем — в надежде заменить множество работников и получить много денег. «И это будущее человечества поставлено на кон», — сказал он.
По его оценке, почти все эксперты верят, что ИИ станет умнее нас. Разногласия только в сроках: одни говорят, что это случится в следующем году, другие — через пять лет, третьи — через десять. «Раньше я говорил 10–20, теперь говорю 10. Всё время приближается», — отметил Хинтон.
Он также усомнился в возможности «рубильника» — аварийного отключения, которое якобы позволит сохранить контроль. «Не думаю, что сценарий с рубильником существует. Когда ИИ станет умным, он будет очень хорош в убеждении. Даже если есть человек, который должен выключить его при сбое, ИИ сможет убедить его не делать этого». В качестве примера он привёл события 6 января в США, когда Трампу удалось добиться штурма Капитолия, не выходя из дома, — только за счёт слов.
Отдельно Хинтон высказался о правах для ИИ. «Нет. В 2023 году я понял, что эти цифровые интеллекты — гораздо лучшая форма интеллекта. Они могут делиться гораздо лучше нас. Не чуть-чуть, а колоссально». По его словам, если у вас много копий одной модели, они могут обмениваться усвоенным со скоростью триллионы бит в секунду, тогда как люди — со скоростью два-три бита в секунду, может, десять. «Так что мы были проходящим этапом в эволюции интеллекта. Мы создали эти вещи. Они возьмут верх. Они — лучшая форма интеллекта».
При этом Хинтон не считает, что людям стоит отказываться от борьбы. «Я гуманист. Мы люди, мы заботимся о людях. Мы должны попытаться создать эти вещи так, чтобы они были очень хороши для нас. Чтобы они заботились о нас больше, чем о себе, и имели меньше прав, чем мы».
Говоря о положительных сторонах, он отметил, что ИИ уже используется для изобретения новых материалов. Если бы ИИ мог создавать гораздо лучшие батареи, это позволило бы получать большую часть энергии от солнца и ветра. «Солнце даёт много энергии. Проблема в том, что она прерывиста. Если бы мы могли её хранить — это отличный способ иметь энергию. Тогда вам не понадобился бы термоядерный синтез. Способ построить термоядерный реактор — потому что они очень горячие — это держать его примерно в 145 миллионах километрах отсюда, позволить ему самому заправляться и просто собирать с него энергию. А если мы сможем разработать материалы для лучших батарей, это будет большим выигрышем».
Проблема, по его мнению, в том, как распорядиться ростом производительности. «Этот рост должен обеспечить огромное увеличение богатства. Но Альтман и Маск говорят о радикальном изобилии. Они не говорят, как именно богатство будет распределяться. У нас есть довольно хорошее представление, что они думают. И все они, похоже, верят в технофеодализм. Маск точно, поэтому он так одержим Марсом. Они считают, что мы должны избавиться от национальных государств и что государствами должны управлять генеральные директора, которые устанавливают все правила. А они — сверхлюди, и все остальные работают на них».
Хинтон также признал свою долю ответственности. «Мне следовало подумать о безопасности раньше. Я всегда верил, что это где-то очень далеко в будущем».
Но если отвлечься от конкретных цитат, возникает вопрос, который Хинтон и его коллеги обходят стороной. История знает немало примеров, когда появление новой технологии встречали паникой. Когда распространялось электричество, находились люди, утверждавшие, что оно погубит человечество. Когда появились автомобили, были те, кто требовал их запретить. Всегда находились противники прогресса. И не всегда ими двигала забота о человечестве. Иногда — страх потерять место, статус, финансирование. Учёные, годами осваивавшие бюджеты и не выдававшие результатов, сегодня видят, как ИИ делает открытия за считанные дни. Не в этом ли истинная причина тревоги? Не о судьбе человечества идёт речь, а о судьбе тех, кто привык быть незаменимым?
Возможно, Хинтон прав в своих предупреждениях. А возможно, мы наблюдаем очередной виток старой истории: те, кто теряет контроль над будущим, называют это будущее опасным. Где грань между подлинной угрозой и защитой собственных интересов — и не окажется ли, что настоящий «рубильник», который пытаются найти, должен выключать не ИИ, а тех, кто хочет остановить прогресс, потому что он их обгоняет?
