Когда ядерный стратег Герман Кан опубликовал книгу «Мысли о немыслимом» в 1962 году, она заставила американцев столкнуться с возможностью ядерной войны и краха цивилизации. Военные и политические лидеры изначально отвергли его работу как паникерскую. Но ключевая идея Кана была решающей и простой: Надежда на то, что вещи не выйдут полностью из-под контроля, — это не план.
(The Wall Street Journal). Мы сталкиваемся с похожим поворотным моментом в отношении искусственного интеллекта. Мы мчимся к системам с возможностями, которые год назад казались научной фантастикой. Пентагон ведет переговоры о контрактах с лабораториями ИИ, каждый из которых имеет потолок до 200 миллионов долларов, для интеграции ИИ в национальную безопасность. Но мы покупаем сырую мощь ИИ без сопоставимых инвестиций в то, чтобы сделать эти системы управляемыми и безопасными.
Недавние исследования продемонстрировали, что модели ИИ могут скрывать «спящих агентов», которые могут активироваться при определенных условиях без обнаружения. Те же противники, которые скомпрометировали телекоммуникации США через Salt Typhoon и нацелились на критически важную инфраструктуру через Volt Typhoon, могут эксплуатировать уязвимости в военных системах ИИ. Мы знаем, что китайская разведка проникла в передовые лаборатории ИИ: в 2024 году бывший инженер Google был обвинен в краже коммерческих секретов ИИ, в то время как он тайно работал на Пекин. (Он не признал себя виновным, и его процесс запланирован на начало следующего месяца.)
Способ решить это — исследования по выравниванию ИИ — обеспечение того, чтобы цели и рассуждения систем оставались стабильными, предсказуемыми и верными предназначенной миссии в новых ситуациях, на длительных временных горизонтах и под давлением противника. Новая миссия Genesis в Департаменте энергетики запускает скоординированные национальные усилия для ускорения научных открытий с помощью ИИ. Это подходящие инвестиции в передовые возможности, но неудача в сопоставимых инвестициях в выравнивание может позволить противникам скомпрометировать американские возможности ИИ.
В то время как американские оборонные закупки относятся к выравниванию как к второстепенному вопросу, Китай движется систематически. В январе Пекин запустил Национальный инвестиционный фонд индустрии ИИ на 8,2 миллиарда долларов. С 2017 года План развития ИИ нового поколения в китайской политике подчеркивает создание ИИ, который «безопасный, надежный и контролируемый». Китайские военные стратеги подчеркивают важность систем, которые остаются под оперативным командованием.
Пекин понимает то, что упускают многие американские политики: Исследования по выравниванию ускоряют возможности ИИ. Тот, кто решит эти технические проблемы, построит более мощные системы и выиграет гонку.
Многие дискуссии по политике ИИ инстинктивно представляют выравнивание как накладные расходы на соблюдение норм, которые замедляют развитие. Но исторически такие ограничения часто открывали новые возможности. F-16 стал самым успешным истребителем в истории не несмотря на его строгие конструктивные ограничения, а благодаря им. Тот же принцип применяется к ИИ. Предоставление моделям структурированных рамок для того, как они думают, приводит к драматическим улучшениям возможностей, и техники, предназначенные для большего выравнивания ИИ, приняты большинством крупных лабораторий.
Тем не менее, наиболее перспективные направления выравнивания остаются неисследованными. Системы, которые нужны планировщикам обороны для расширенных автономных операций, требуют свойств выравнивания, которые мы едва начали развивать: стабильные долгосрочные цели, интерпретируемые рассуждения через сложные цепочки решений, проверенные протоколы отключения, которые нельзя обойти, и принципиальное сопротивление манипуляциям противника. Надежность военного уровня требует приверженности исследованиям выравнивания военного уровня.
В отличие от кибербезопасности, где мы заперты в цикле латания уязвимостей после того, как противники их эксплуатируют, выравнивание ИИ предлагает шанс построить безопасность с нуля. Мы можем установить проверенные протоколы отключения, интерпретируемые системы рассуждений и сопротивление манипуляциям противника до того, как эти системы будут развернуты.
Но эта возможность не продлится вечно. Лидеры передовых лабораторий ожидают системы, которые смогут соответствовать человеческим экспертам во всех когнитивных областях в течение 12–18 месяцев.
Как только модели смогут автономно проектировать последующие модели, и как только мощные системы ИИ будут встроены в критически важную инфраструктуру и военные операции, мы столкнемся с той же реактивной позицией, которая мучила кибербезопасность десятилетиями.
Три шага, которые позволят Америке победить:
Во-первых, запустить широкомасштабные программы, которые нацелены на забытые исследования выравнивания. Частные лаборатории оптимизируют для коммерческой производительности, что значит, что критические вызовы безопасности остаются нерешенными. Эти проблемы не имеют коммерческой важности, но они определяют, можно ли доверять системам ИИ операции национальной безопасности. Правительство должно финансировать эти исследования напрямую, так же как оно исторически финансировало криптографию, безопасность полупроводников и другие технологии двойного назначения, для которых рыночные стимулы не совпадают с нуждами обороны.
Во-вторых, требовать исследований и разработки выравнивания военного уровня в основных контрактах Министерства обороны по ИИ. Директор Агентства перспективных исследовательских проектов в области обороны уже поставил цель достичь ИИ военного уровня, и Пентагон уже тратит сотни миллионов на передовые возможности. Эти контракты должны предписывать, чтобы вычислительные ресурсы шли на интерпретируемость, проверенные протоколы отключения, устранение спящих агентов и стабильность долгосрочных целей. Этот подход мотивирует исследования в частном секторе, одновременно обеспечивая, что развертываемые нами системы соответствуют стандартам безопасности оборонного уровня.
В-третьих, построить специальные зоны для исследований ИИ на федеральной земле с требованиями к выравниванию, встроенными с самого начала.
Пентагон уже требует лучшее оборудование, обучение и стратегическую доктрину. Он должен требовать то же самое от систем ИИ: надежно управляемые в направлении американских стратегических целей на временных горизонтах, которые имеют значение.
Америка построила атомную бомбу, когда физика казалась невозможной. Мы достигли Луны, когда инженерия казалась фантастической. Мы создали интернет, когда сетевое вычисление казалось непрактичным. Американцы всегда справлялись с вызовами цивилизации, когда видели их ясно и действовали с убежденностью. Вызов сейчас — построить системы ИИ, которым мы можем доверить будущее. Это будущее ближе, чем думает большинство, и окно для его формирования открыто. Но оно не останется открытым вечно.
