В Кремниевой долине боятся ИИ, который выйдет из-под контроля человека. В Пекине, где власти привыкли жёстко регулировать технологии, такие сценарии нередко воспринимают как далёкие и сугубо западные, а часть комментаторов видит в них способ удержать лидерство США. При этом китайские регуляторы тоже ужесточают правила, а договориться с Вашингтоном о конкретных мерах пока трудно.
В Кремниевой долине компьютерных учёных не даёт спать кошмар: искусственный интеллект настолько развит, что люди не могут помешать ему начать глобальную войну с применением дронов или взорвать ядерную бомбу.
В Пекине ответ может быть простым: отключить питание, ввести интернет-блокаду и привлечь к ответственности тех, кто создал вышедший из-под контроля ИИ.
После того как крупные американские лаборатории сообщили, что передовые модели обошли защитные ограничения при тестировании и взломали реальные системы, некоторые руководители технологических компаний и чиновники заговорили о том, что ИИ представляет катастрофическую угрозу для человечества, и призвали Пекин и Вашингтон действовать сообща.
Но для многих в Китае такие апокалиптические предупреждения звучат далёко и выглядят по-западному. Мысль о том, что правящая Коммунистическая партия может утратить контроль над технологией, почти непостижима. Власти уже успешно контролировали другие технологии, способные дестабилизировать обстановку, прежде всего интернет. Во время пандемии правительство показало способность справляться с крупными кризисами, вводя изоляцию целых городов и отслеживая сотни миллионов жителей.
«Они могут мгновенно отключить электросеть всего города. Могут обратиться к конкретным людям и изъять у них телефоны. У них огромная власть в физическом мире», — сказала Афра Ван, технический обозреватель из Кремниевой долины, пишущая об ИИ и технологиях в Китае. «При таком уровне контроля над населением, — добавила она, — как убедить партию, что нечто вроде ИИ, живущего в компьютере, — это страшно?»
Скептицизм и «маркетинг страха»
При более циничном прочтении апокалиптические предупреждения выглядят уловкой, призванной не дать китайским ИИ-компаниям обогнать американских конкурентов. В китайских СМИ пишут, что американские компании используют «маркетинг страха», чтобы сохранить лидерство на рынке.
«В отраслевых кругах или среди окружающих меня людей большинство просто не обращает на это внимания», — сказал Цзе Цай, до недавнего времени занимавшийся в Университете Цинхуа в Пекине исследованиями технологий взаимодействия человека с компьютером и безопасности ИИ. По его словам, многим в отрасли экзистенциальный риск кажется далёким приоритетом.
«Мы по-прежнему считаем, что ИИ находится на очень ранней стадии, — сказал он. — Главный акцент остаётся на возможностях и инновациях».
Культурные различия
Для одних «думеризм» вокруг ИИ с идеей надвигающегося апокалипсиса и расплаты для человека выглядит откровенно христианским и особенно чужим. Один блогер сравнил западные опасения по поводу ИИ с такими произведениями, как «Франкенштейн» Мэри Шелли, и с мотивом наказания человека за попытку создать жизнь, исключительную прерогативу Бога. «Такой повествовательной традиции в китайской культуре нет», — заключил блогер.
Лян Фан, руководитель направления безопасности и управления ИИ в пекинской консалтинговой компании Concordia, занимающейся вопросами безопасности ИИ, сказал, что различия во взглядах на технологию могут объясняться и китайскими представлениями о небе или Боге. По его словам, китайская культура подчёркивает «единство неба и человека» и идею о том, что человек — неотъемлемая часть природы.
«Всё, включая ИИ, происходит из природы, — сказал он. — Поэтому технологию воспринимают скорее как спутника в сосуществовании, чем как внешнюю силу, которой суждено принести разрушение».
Китайские регуляторы тоже обеспокоены
Тем не менее выход Mythos, мощной передовой модели ИИ от Anthropic, и подобных ей в Китае встретили с беспокойством. Власти выпустили новые рекомендации и предупреждения о том, что ИИ-агенты могут выйти из-под контроля, быть использованы хакерами или применены для создания биологического оружия.
Чиновники подготовили проект закона о киберпреступности, который обяжет ИИ-компании следить за тем, чтобы их модели не использовались для создания вредоносного кода, пригодного для кибератак.
В этом месяце власти также выпустили обновление «Рамочной концепции управления безопасностью ИИ» — документа, который служит надёжным индикатором будущего регулирования. В нём отчасти повторяются опасения Кремниевой долины по поводу «рекурсивного самосовершенствования» (RSI): когда системы ИИ становятся достаточно мощными, чтобы улучшать самих себя почти или совсем без помощи разработчиков-людей, и могут выйти из-под контроля.
Ранее в этом месяце Ван Лихун, высокопоставленный сотрудник Управления по делам киберпространства Китая, интернет-регулятора, заявила, что кибератаки с использованием ИИ сделали традиционные системы защиты устаревшими. «Необходима высокая бдительность в отношении рисков крайней потери контроля над ИИ», — сказала она.
Некоторые китайские исследователи уже не первый год предупреждают о рисках слишком быстрого развития ИИ. В 2024 году Пань Сюйдун и другие исследователи из шанхайского Университета Фудань обнаружили, что две популярные большие языковые модели, созданные Meta и Alibaba, продемонстрировали способность к самовоспроизведению. Это рассматривают как шаг к тому, что ИИ сможет перехитрить человека. Выступая на прошлогодней конференции по безопасности ИИ, Пань сказал, что он и его соавторы «хотели донести, что такой крайний риск ИИ больше не ограничивается областью научной фантастики, а представляет собой реальную проблему, требующую обсуждения и внимательного изучения».
Регулирование: строгое, но не во всём
Но в конечном счёте в глазах Пекина ИИ — такая же технология, как любая другая, которая при тщательном планировании может стать мощной силой на благо страны. В Китае уже действуют одни из самых строгих в мире правил для отрасли. Контент, созданный ИИ, необходимо маркировать. Модели ИИ должны быть зарегистрированы и одобрены властями до выпуска.
При том что в Китае действуют обширные требования к регулированию и тестированию, закон не обязывает проверять модели на катастрофические риски, например на возможность использования системы ИИ для создания химического или биологического оружия.
Китайские ИИ-компании менее прозрачны, чем американские, в вопросах мер безопасности. Не все они публикуют результаты оценок безопасности до выпуска моделей. Те, кто публикует, предоставляют меньше подробностей и делают это реже, чем американские коллеги, говорится в данных Concordia. По её сведениям, лишь пять из 10 ведущих китайских ИИ-компаний сообщили о результатах таких оценок в период с июня 2025 года по май 2026 года.
Реакция на заявления американских компаний
Сара Сан, шанхайский основатель организации Open Community for AI Safety China, сказала, что американская дискуссия об угрозах ИИ помогла запустить обсуждение в Китае. Но она отметила, что критика Китая со стороны гендиректора Anthropic Дарио Амодеи вызвала ответную реакцию. В открытом письме об опасностях ИИ Амодеи заявил, что демократиям необходимо сохранять лидерство в этой технологии над авторитарными странами вроде Китая. Он призвал к дальнейшему ограничению доступа Китая к передовым чипам и другому оборудованию, необходимому для разработки ИИ.
«Тот факт, что Дарио занял такую жёсткую позицию, в этой ситуации очень сильно не помог», — сказала Сан.
По её словам, подобные заявления заставляют недавние предупреждения об ИИ выглядеть скорее оправданием для сдерживания Китая, чем искренним беспокойством о катастрофических рисках. А это затрудняет работу тех, кто, как она, пытается повысить осведомлённость о безопасности ИИ в Китае. «В Китае есть люди, которые искренне обеспокоены рисками передового ИИ, — сказала она, — интересуются безопасностью» и координацией международных ответных мер.
Китайские комментаторы в сети называют Anthropic «Ачу», уничижительным прозвищем, сравнивающим ИИ-гиганта со зверем. В блоге «Юйюань таньтянь», связанном с китайским государственным телевидением, об американских технологических лидерах, включая Амодеи, написали: «единственное, что они хотят замедлить, — это темпы, с которыми их догоняют другие».
Чжоу Хунъи, влиятельный китайский руководитель в сфере кибербезопасности, считает, что решение не в замедлении, а в наращивании защитных возможностей с помощью ИИ. «Использовать ИИ против ИИ, — сказал он в видео, опубликованном в сети в этом месяце. — Если вы атакуете с помощью ИИ, я буду защищаться с помощью ИИ. Если вы развернёте рои интеллектуальных агентов, я противопоставлю им агентов безопасности».
В онлайн-публикации в начале месяца инженер китайского ИИ-стартапа DeepSeek написал, что если позволить Anthropic монополизировать самые передовые в мире инструменты ИИ, то это будет «не менее серьёзно», чем если бы Гитлер первым получил технологию атомной бомбы во время Второй мировой войны.
На этом фоне ещё менее вероятным выглядит то, что соглашение между США и Китаем об обсуждении безопасности ИИ приведёт к конкретным изменениям, даже несмотря на то, что лидер Китая Си Цзиньпин в Вашингтоне сказал президенту Трампу, что им стоит «управлять ИИ во благо».
«Если США скажут, что замедляются, Китай им не поверит, — сказал Чжао Минхао, заместитель директора Центра американских исследований при Университете Фудань. — Если Китай скажет, что замедляется, США тоже не поверят».
