Внутри игры администрации Байдена по заморозке будущего искусственного интеллекта в Китае

Алан Эстевес сидел за обеденным столом в футболке, когда министр торговли Джина Раймондо позвонила в Zoom и спросила, хочет ли он стать главным должностным лицом по экспортному контролю в администрации Байдена. «Вам придётся меня убедить», — вспоминает Эстевес, говоря ей.

На дворе был 2021 год, и этот прямолинейный уроженец Нью-Джерси думал, что наконец-то оставил государственную службу. Проработав более трёх десятилетий в Пентагоне, он ушёл оттуда и устроился на работу в консалтинговую компанию. Он не был уверен, готов ли вернуться.

Не соблазнилась ли бы его возможность помочь контролировать десятки миллиардов долларов финансирования полупроводниковой отрасли, которое администрация запрашивала у Конгресса? «Я пришёл из Министерства обороны», — вспоминает он. — «50 миллиардов долларов — это неплохие деньги, но не так уж много». Тогда Раймондо воззвал к его чувству служения. Эстевес сдался и принял предложение.

К моменту приведения Эстевеса к присяге в качестве заместителя министра торговли по промышленности и безопасности весной 2022 года у него уже было полно дел. Роль, которую он принял, оказалась в центре первых серьёзных усилий Америки по противодействию геополитическим рискам, связанным с искусственным интеллектом. Через несколько лет этот проект изменит отношения между двумя крупнейшими мировыми державами и определит курс развития, возможно, одной из самых значимых технологий за последние поколения.

По словам Эстевеса, вскоре после того, как он пришёл в Министерство торговли, он начал получать сообщения от чиновников Белого дома. Однажды утром за завтраком Тарун Чхабра и Джейсон Матени , два ключевых человека, работающих в сфере технологий и национальной безопасности, сообщили Эстевесу, что планируют нечто масштабное и им понадобится его помощь.

В течение следующих шести месяцев правительство США кардинально изменило свою стратегию конкуренции с Китаем, который теперь широко считается главным технологическим соперником страны. Годами американские власти стремились удерживать Китай на одно-два поколения позади в области полупроводников – основополагающих элементов современных технологий, лежащих в основе всего – от смартфонов до искусственного интеллекта. Но теперь, как заявил в сентябре того же года советник по национальной безопасности Джейк Салливан, «мы должны сохранить максимально возможное преимущество».

7 октября 2022 года администрация Байдена объявила о введении масштабного пакета мер экспортного контроля , призванного лишить Китай доступа к самым современным чипам, используемым для обучения мощных моделей искусственного интеллекта, а также к специализированным инструментам, необходимым Китаю для модернизации собственной отстающей отрасли производства чипов. Официально эти меры были направлены на сдерживание модернизации вооруженных сил Китая и пресечение нарушений прав человека, связанных с использованием технологий слежки. Но по мере того, как наблюдатели разбирали десятки страниц технических спецификаций и юридических терминов, становилось ясно, что последствия новой политики гораздо масштабнее.

На практике Соединенные Штаты наносили целенаправленный удар, который затронул бы всю китайскую экономику, затронув исследования и разработки во всех отраслях и научных областях, где используется машинное обучение с интенсивными вычислениями. Везде, где передовой ИИ или высокопроизводительные вычисления были перспективными – футуристическое оружие, но также и лечение болезней и моделирование изменения климата – такая политика могла бы подорвать позиции Китая. Один из авторов New York Times назвал это «объявлением экономической войны».

Война это или нет, администрация Байдена сделала ставку на то, что Соединенные Штаты смогут использовать свое влияние для сдерживания Китая, и что потери в виде недополученного американского экспорта в Китай и сопутствующего ущерба двусторонним отношениям оправдают себя. С одной стороны, это была игра, основанная на идеях, заложенных в Вашингтоне десятилетия назад. Американские политики использовали технологические ограничения, чтобы помешать военной модернизации Китая и наказать страну за нарушения прав человека со времен холодной войны. Более поздние достижения в области ракет и технологий наблюдения подкрепили эту логику. Однако несколько человек, работавших в администрации Байдена, говорят, что за этой крупной ставкой стояла и более новая проблема.

Ключевые чиновники считали, что ИИ приближается к переломному моменту (или нескольким), который может дать стране серьёзные военные и экономические преимущества. Некоторые считали, что самосовершенствующаяся система, или так называемый искусственный интеллект общего назначения, может быть уже на горизонте технического развития. Риск того, что Китай первым достигнет этих порогов, был слишком велик, чтобы его игнорировать.

Этот отчет о том, как администрация Байдена решила отреагировать, основан на интервью с более чем 10 бывшими чиновниками США и политическими экспертами, некоторые из которых говорили на условиях анонимности, чтобы обсудить внутренние правительственные обсуждения.

Когда администрация Байдена представила свою преобразующую политику, она не начинала с нуля. Во время своего первого срока президент Дональд Трамп также нацелился на китайские технологические компании, включая компании, занимающиеся полупроводниками, в рамках более масштабных усилий по сдерживанию технологического роста и глобального влияния страны.

В 2019 году Министерство торговли США включило китайского IT-гиганта Huawei в свой список, фактически лишив его доступа к американским цепочкам поставок, включая поставки чипов, без специальной лицензии. Чиновники оправдывали эту меру обвинениями Huawei в нарушении санкций США против Ирана. Однако эксперты считали, что они также пытались подорвать компанию в целом, опасаясь, что экспорт Huawei беспроводной инфраструктуры 5G по всему миру может дать преимущество китайским шпионам и диверсантам.

Затем администрация Трампа усилила натиск, на этот раз прибегнув к малоизвестному закону под названием «правило о прямых поставках продукции иностранного производства». Изначально FDPR был разработан для того, чтобы гарантировать, что товары, произведенные с использованием американских инноваций и технологий, такие как ракеты или детали самолетов, не будут использоваться в системах вооружения, продаваемых противникам, даже если эти системы были произведены за рубежом. В 2020 году администрация Трампа применила этот инструмент против Huawei, открыто нацелившись на «усилия компании по получению передовых полупроводников, разработанных или произведенных с использованием американского программного обеспечения и технологий», как заявил тогда министр торговли Уилбур Росс.

«Если ранее FDPR использовался для обеспечения соблюдения многостороннего контроля над вооружениями, то действия против Huawei были направлены на «товары, произведенные с использованием американских технологий, которые не являются конфиденциальными, не включены в контрольный список и не имеют никакого отношения к ИИ», — говорит Кевин Вулф, бывший сотрудник администрации Обамы по контролю за экспортом.

«Все думали, что это положит конец этому совершенно новому экстерриториальному контролю», — добавил Вулф. Вместо этого правительство США обнаружило, что Закон о защите персональных данных (FDPR) непреодолим. Позже, после вторжения на Украину в 2022 году, оно использовало его против России, а в конечном итоге использовало его для ограничения использования мощных вычислений в Китае. «Очевидно, мы начали использовать его как конфету», — говорит Эстевес. «Определенно, угрожая применить его, если не применяли на практике».

При первой администрации Трампа США добавили в список организаций, в том числе Semiconductor Manufacturing International Corporation (SMIC), ведущего китайского производителя микросхем, и возбудили уголовные дела против другой китайской компании по производству полупроводников, Fujian Jinhua (позже судья признал её невиновной). Они также сотрудничали с Нидерландами, где находится гигант по производству микросхем ASML, с целью ограничения экспорта особенно современного полупроводникового оборудования. Все эти шаги, в некотором смысле, были частью обычной деловой практики на фоне ухудшающихся отношений между США и Китаем. Для того чтобы эти шаги имели смысл в Вашингтоне, где традиционные опасения по поводу модернизации армии, нарушений прав человека и справедливого рынка были более чем достаточными для оправдания целенаправленных действий против китайских технологий, не требовали видения передового искусственного интеллекта.

Когда Байден вступил в должность в 2021 году, некоторые члены его политической команды принесли с собой новое беспокойство: системы искусственного интеллекта могут стать настолько мощными, что они превзойдут национальную мощь, поставив конкурирующие армии и экономики в крайне невыгодное положение.

В начале 2019 года, когда нужно было быть немного гиком, чтобы услышать о ранних моделях GPT OpenAI, Матени — один из первых партнёров Эстевеса по завтраку из Белого дома — был директором-основателем Центра безопасности и новых технологий. Центр безопасности и новых технологий, по сути, являющийся аналитическим центром, расположенным в Джорджтаунском университете, был основан благодаря гранту в 55 миллионов долларов от Open Philanthropy, организации, связанной с движением эффективного альтруизма, которая финансирует исследования, посвящённые различным проблемам , от «потенциальных рисков, связанных с передовым искусственным интеллектом» до глобального здравоохранения. «ИИ и другие новые технологии принесут обществу огромную пользу, но они также принесут новые риски», — сказал Матени на открытии центра.

Вскоре учёные CSET определили растущую мощь Китая в разработке искусственного интеллекта как угрозу национальной безопасности США. Среди них были Тарун Чхабра, ещё один собеседник Белого дома за завтраком, а также будущие чиновники администрации Байдена Саиф Хан и Бен Бьюкенен, которые изучали технологии и национальную безопасность в CSET.

Чхабра был соавтором доклада, опубликованного в феврале 2020 года, в котором Соединённым Штатам и ключевым союзникам рекомендовалось «скоординировать условия, на которых они будут экспортировать передовые чипы ИИ в Китай» и «создать демократический путь ИИ». В апреле того же года Хан стал соавтором отдельной статьи , в которой приводились доводы в пользу введения контроля над оборудованием для производства чипов, чтобы гарантировать, что Китай останется «зависимым от демократий в плане самых современных чипов». В августе, всего за несколько месяцев до избрания Байдена президентом, Бьюкенен обозначил вычислительную мощность как ключевой ресурс, позволяющий странам разрабатывать ИИ, и предупредил, что у США, вероятно, заканчивается время, прежде чем они больше не смогут ограничивать доступ Китая к нему. Комиссия по национальной безопасности по искусственному интеллекту, исследовательская группа, созданная Конгрессом, в которую входил Матени, также призвала к «внедрению скоординированного с союзниками экспортного контроля над передовым оборудованием для производства полупроводников».

Чхабра, Матени, Хан и Бьюкенен — четыре эксперта с разным опытом, чьи пути пересеклись в CSET, — впоследствии занялись разработкой политики в области ИИ в Белом доме Байдена. Оказавшись там, они и другие, включая Криса Макгуайра, сотрудника Госдепартамента, работавшего над окончательным докладом Комиссии по ИИ, приступили к практическому воплощению своих идей. Один из бывших чиновников вспоминал, что их работа по недопущению попадания передового оборудования для производства микросхем в руки китайцев началась ещё в переходный период. Теория заключалась в том, что контроль над инструментами гарантирует отсутствие китайской версии Nvidia и не позволит китайским компаниям, таким как SMIC, строить передовые заводы. Это, как и предлагал Хан, должно было сохранить зависимость китайских разработчиков ИИ от американских поставщиков.

Однако, когда команда Байдена собралась в 2021 году, её амбиции были шире. Ограничение возможностей Китая в производстве чипов лишило бы его возможности самостоятельно наращивать вычислительную мощность, но китайские разработчики всё равно могли бы просто покупать лучшие чипы у американских компаний. Пока специалисты по искусственному интеллекту обсуждали потенциал больших языковых моделей, никто точно не знал, что станет возможным в будущем с огромным количеством самых мощных на тот момент чипов. Некоторые чиновники считали, что зависимости Китая от поставок из США больше недостаточно. Они решили, что пришло время заручиться поддержкой всей администрации в вопросе прекращения производства самих чипов.

Бывшие чиновники вспоминают, что их мотивировало сочетание различных рисков. Некоторые говорят, что идея общего искусственного интеллекта (ИИ) была у них на уме. (Хотя общепринятого определения ОИИ не существует, этот термин обычно относится к системе ИИ, превосходящей человека во всех областях интеллекта.) Другие говорят, что их больше беспокоили конкретные возможности ИИ, будь то то, что уже было задумано – усиленная пропаганда, автоматизированный кибервзлом, синтетическое биологическое оружие – или то, что ещё только предвиделось. Другие говорят, что их опасения даже не были напрямую связаны с ИИ, указывая на сообщения о том, что китайская компания могла использовать американское программное обеспечение для разработки чипов, которые, в свою очередь, служили источником питания для суперкомпьютера, использовавшегося для разработки гиперзвуковых ракет для Народно-освободительной армии Китая. Ставки были особенно высоки, как полагают некоторые, поскольку мощная система ИИ могла быть использована для разработки ещё более совершенных систем ИИ, что усугубило бы лидерство страны и оставило конкурентов не просто всё больше отставать, но и погрязать в рутине ушедшей парадигмы. Если некоторые из этих опасений кажутся расплывчатыми или нереальными, то это потому, что они таковыми и являются. Однако политики вынуждены действовать в условиях неопределенности, и в данном случае сама неопределенность стала поводом для тревоги.

Рецепт, предложенный чиновниками для решения этой проблемы, — широкомасштабные усилия по ограничению независимого доступа Китая к вычислительным мощностям — потребует поддержки со стороны всего федерального правительства, включая нескольких министров кабинета и самого президента.

Поначалу не все были согласны. Команда Белого дома выявила риски, требующие принятия мер, но и затраты были немалыми. Nvidia, одна из жемчужин американской технологической отрасли, будет лишена возможности продавать некоторые из своих самых прибыльных продуктов на огромном растущем рынке. Производители оборудования для производства микросхем, такие как Applied Materials и Lam Research, потеряют возможность продавать свою передовую продукцию китайским заводам. Эксперты считали, что Китай в конечном итоге всё ещё может добиться успеха в развитии собственной независимой полупроводниковой экосистемы, и отсоединение страны от рынка может мотивировать игроков по всему миру к построению цепочки поставок без участия Америки, чтобы избежать будущих сбоев.

Бывшие сотрудники Белого дома говорят, что активно работали над оценкой возможных последствий. Реакция китайского правительства на этот шаг, очевидно, будет негативной, но никто не мог предсказать, какую форму она примет. Начнёт ли Пекин нападать на такие знаковые американские компании, как Apple? Прекратит ли поставки критически важных минералов ? Если Китай примет жёсткие ответные меры, какие варианты действий будут у Вашингтона?

Затем появились подробности. Как политика будет отличать оборудование, действительно представляющее риск, от товаров, которые компании всё ещё смогут продавать? Эстевес помнит, как Белый дом настаивал на введении ограничений на большее количество товаров, в то время как Министерство торговли, отвечающее за содействие экономическому росту, стремилось к более индивидуальному подходу. «Пытаться сдержать Китай — пустая трата времени», — заявил министр торговли Раймондо в интервью The Wall Street Journal ближе к концу срока Байдена, назвав экспортный контроль всего лишь «лежачим полицейским» для Китая.

Тем не менее, администрация продолжала упорно работать. Несколько бывших чиновников особо отметили бюрократические навыки и решимость Чхабры как ключ к реализации стратегии внедрения чипов. «Американские технологии не должны позволять противникам создавать возможности ИИ, которые будут направлены против американских войск, стратегических объектов и критически важной инфраструктуры», — говорит Чхабра, ныне покинувший правительство и возглавляющий отдел политики национальной безопасности в Anthropic. «Жёсткий экспортный контроль необходим для национальной безопасности Америки и доминирования ИИ».

Группа учёных со смелым новым видением политики нередко входит в состав правительства, но гораздо реже их идеи быстро воплощаются в жизнь. «Мы с Таруном постоянно спорили», — говорит Эстевес, — «но не в том, чтобы двигаться в одном направлении». По крайней мере, среди этой группы сотрудников основной спор был не о том, стоит ли пытаться сдерживать Китай, а о том, как это сделать — широкие ограничения или целевые меры, сохраняющие большую гибкость для промышленности.

Поиск этого баланса был непростым. После первого этапа контроля в октябре 2022 года администрация Байдена решила, что необходимо ещё больше ужесточить ограничения. Чиновники уже запретили Nvidia продавать свой лучший чип для обучения искусственного интеллекта в Китай, но затем компания разработала новый чип, предназначенный специально для Китая, с возможностями, которые практически не превышали действующих правил. В октябре 2023 года и декабре 2024 года администрация Байдена ужесточила контроль как над чипами, так и над оборудованием для их производства, чтобы устранить то, что считалось непреднамеренными лазейками .

Однако для того, чтобы хоть как-то реализовать этот замысел, администрации Байдена сначала потребовалась помощь Японии и Нидерландов. Не допустить прорыв передовых чипов на китайский рынок было относительно дискретной задачей, охватывающей лишь несколько продуктов. С другой стороны, подрыв усилий Китая по созданию собственных передовых чипов требовал многонациональных усилий. Это связано с тем, что производство полупроводников зависит от высокоточного оборудования и программного обеспечения со всего мира, причём особенно важные ресурсы поступают от голландской компании ASML и японских компаний, таких как Tokyo Electron. Если бы Соединённые Штаты запретили своим поставщикам оборудования поставлять свою продукцию в Китай, а Япония и Нидерланды продолжили бы поставки, американские компании потеряли бы доходы, а Китай всё равно смог бы модернизировать своё внутреннее производство.

Администрация Байдена с самого начала стремилась к сотрудничеству с Японией и Нидерландами, но быстрого соглашения достичь не удалось. Поэтому Белый дом решил действовать самостоятельно и объявил о введении контроля с 2022 года до того, как союзники подпишутся, прекрасно понимая, что этот шаг нанесет ущерб американским компаниям. Затем администрации Байдена пришлось убеждать Токио и Амстердам, что участие в этих усилиях стоит потери части экспорта и риска ответных действий со стороны Китая. Проработав десятилетия в Министерстве обороны, Эстевес прекрасно понимал, что ИИ представляет собой будущее войны, говорит он. Независимо от того, наступит ли переломный момент в области ИИ или нет, он знал, что военные планировщики все равно предпочтут столкнуться с китайским противником, который отстает в технологическом плане. Эта идея, похоже, имела вес и среди официальных лиц союзников. «Голландцам и японцам было заявлено: искусственный интеллект — это будущее», — говорит Эстевес. «И они поверили в это».

Так или иначе, уговоры сработали. В январе 2023 года представители японских и голландских служб национальной безопасности присоединились к Салливану в Блэр-хаусе, традиционной гостевой резиденции высокопоставленных лиц напротив Белого дома, чтобы подписать соглашение о введении параллельного экспортного контроля за оборудованием для производства микросхем, продаваемым в Китай.

Сегодня Чхабра работает в Anthropic, одном из самых хорошо финансируемых стартапов в области искусственного интеллекта в США. Бьюкенен — профессор Университета Джонса Хопкинса. Хан — научный сотрудник Института прогресса, аналитического центра, специализирующегося на инновациях. Матени покинул администрацию в 2022 году, чтобы стать президентом и генеральным директором RAND, известной исследовательской организации, которая часто обслуживает государственных клиентов. Каждый из них, каждый по-своему, продолжает работать в области искусственного интеллекта, вычислений и национальной безопасности. И они наблюдают, как администрация Трампа тянет страну в, казалось бы, противоречивых направлениях.

С одной стороны, большинство мер контроля за полупроводниками, принятых командой Байдена, остались в силе. Ранее в этом году Трамп даже ввёл ограничения на другой чип Nvidia под названием H20, который оказался полезным для определённых задач разработки искусственного интеллекта. Несколько чиновников Байдена заявили, что, если бы у них было больше времени на посту президента, они бы также предприняли шаги по ограничению использования H20 в Китае.

Но после того, как, по сообщениям, генеральный директор Nvidia Дженсен Хуан начал лоббировать Трампа, Белый дом резко изменил курс. В юридически сомнительном шаге Трамп заявил, что разрешит Nvidia продавать H2O Китаю в обмен на долю от выручки.

Бьюкенен утверждает, что этот шаг подорвал то, что республиканцы и демократы считали ключевым приоритетом национальной безопасности. «Отказ от эффективного двухпартийного курса на контроль над чипами искусственного интеллекта в Китае, когда эти чипы важны как никогда, — это односторонняя капитуляция», — говорит он.

Однако Трамп охарактеризовал ситуацию совершенно иначе. «H2O устарел. Знаете, это одна из таких вещей, но рынок у него всё ещё есть», — заявил он на пресс-конференции в понедельник. «Поэтому мы договорились о небольшой сделке».