Каким будет будущее у боевых дронов — поговорим об этом подробно.
Украинский производитель дронов Алексей Бабенко прекрасно понимает, что оснащение оружия искусственным интеллектом открывает ящик Пандоры — путь к автономным «роботам‑убийцам». Но, по его словам, выбор у Украины невелик: «Либо роботы убьют нас через 50 лет, либо русские — через год». Так он объяснил свою позицию на встрече разработчиков ИИ‑вооружений в Киеве.
Из всех сфер, которые меняет искусственный интеллект, ни одна не несёт таких последствий для человечества, как война. Алгоритмы, ещё недавно выполнявшие вспомогательные аналитические задачи, теперь становятся инструментами уничтожения.
«Будущие боевые действия будут в основном роботизированными. Они будут автоматизированы», — заявил бывший глава Google Эрик Шмидт, ныне инвестирующий в военные дроны. «Ими будут управлять законы войны».
С этим прогнозом спорят немногие. Но куда меньше уверенности в том, что законы прошлого века способны регулировать войны будущего.
Война в Иране и стремительный прогресс ИИ наглядно показали, насколько опасны последствия военной автоматизации — и для Вашингтона, и для всего мира. Белый дом пытается выработать политику, технологические компании и этические организации вмешиваются в дискуссию, но вопросов становится только больше.
В этом месяце президент Трамп подписал указ об использовании ИИ в сфере нацбезопасности. Документ требует агрессивного внедрения технологий, но подчёркивает, что они должны работать «в соответствии с законами и политикой правительства». Указ предписывает Пентагону обновить правила применения ИИ, принятые всего три года назад.
Этот шаг совпал с обострением конфликта администрации с компанией Anthropic, чьи системы использует Пентагон. Спор вспыхнул в январе вокруг того, кто имеет право ограничивать применение ИИ в боевых и разведывательных задачах, и только усилился в последние недели.
По словам отставного генерал‑лейтенанта ВВС США Джека Шанахана, руководившего первым крупным проектом Пентагона в области ИИ — Project Maven, сочетание ИИ и автономного оружия требует «совершенно нового подхода к анализу, снижению и принятию рисков».
История знает множество технологий, которые меняли правила войны — от пороха до авиации и химоружия. Но лишь атомная бомба создала дилемму, сопоставимую с нынешней. И, как и в случае с ядерным оружием, армии вступили в гонку автоматизации, не понимая, куда она ведёт.
Сегодня алгоритмы управляют не только отдельными системами, но и целыми военными сетями. Люди передают машинам всё больше полномочий, включая принятие решений в бою. Ещё тревожнее то, что армии фактически придумывают правила на ходу.
Наследие Maven: ИИ впервые вступает в бой
ИИ впервые применили в бою в 2017 году, когда команда Шанахана использовала его для выявления террористов ИГИЛ, атаковавших американские силы в Ираке. Успех Maven доказал потенциал алгоритмов. Затем разработки ушли в тень, пока США сокращали участие в зарубежных конфликтах.
Около 2023 года украинские производители дронов начали активно внедрять ИИ для автоматического захвата целей. Израиль после атак ХАМАС осенью того же года использовал ИИ для анализа огромных массивов разведданных. Пентагон внедрял ИИ‑системы для ускорения принятия решений. Китай и Россия также интегрировали ИИ в свои военные программы.
Сегодня ИИ‑управляемые боеприпасы могут самостоятельно наводиться на цель, выбранную оператором. Пока это касается небольших групп дронов с ограниченной мощностью. Но вскоре рои автономных аппаратов смогут преодолевать большие расстояния по воздуху, воде или суше и поражать цели без участия человека. Причём цели могут находиться далеко за пределами поля боя.
ИИ также меняет разведку: американские командиры говорят, что выбирают цели в десять раз быстрее, чем в Ираке. В украинском корпусе «Хартия» автоматизация утроила темпы операций.
Этика и реальность: человек «в контуре» или «над контуром»?
На практике автоматизация всё чаще определяется не правилами, а военными задачами. Россия сознательно атакует украинских гражданских, используя как современные, так и старые виды оружия. Украина, напротив, стремится максимизировать эффективность каждого удара, избегая лишних разрушений. Для Киева ИИ — способ повысить точность.
В подразделении «Лазарь», охотящемся на высокоценные цели, оператор с позывным «Сид» говорит: «Я понимаю, что поджигаю машину с экипажем внутри». Его не беспокоит, что автоматические системы удерживают цель в прицеле: «Кнопку всё равно нажимает человек».
Но именно этот момент — роль человека — вызывает наибольшие опасения. Где именно находится человек в цепочке принятия решений? Может ли он успевать за машиной? Термин «человек в контуре» уже сменился на «человек над контуром» — наблюдатель, а не участник.
Anthropic в этом году потребовала от Пентагона гарантий, что её ИИ не будет использоваться для массовой слежки или автономного оружия. Это вызвало резкую реакцию администрации.
Пентагон утверждает, что опасения преувеличены: оружие не полностью автономно, а чрезмерная осторожность может стоить жизней.
Гуманитарные риски: Красный Крест бьёт тревогу
Юрист Международного комитета Красного Креста Ноа Шройер сомневается, что меры безопасности достаточны. Она спрашивает: «Отменит ли автономный дрон миссию, если в зоне цели появится ребёнок?»
На стенде Красного Креста висит огромный плакат: «Humanity in War». Рядом — выдержки из Женевских конвенций и знак: «Не передавайте свою власть алгоритму».
Эти вопросы не теоретические. В начале ударов США по Ирану власти страны обвинили Вашингтон в попадании по школе, где погибли более 160 человек, многие из них дети. Пентагон расследует, был ли удар нанесён по ошибке и участвовал ли ИИ.
Подобные подозрения возникали и в отношении Израиля, когда СМИ утверждали, что армия использует системы Lavender и The Gospel для автоматического выбора целей. Израиль это отрицает, заявляя, что ИИ — лишь инструмент.
Кто отвечает за ошибку ИИ?
Даже если ИИ не заменяет аналитиков, он может влиять на их решения. Этим обеспокоен бывший пилот ВВС Нидерландов Рой Линделауф, ныне профессор науки о данных. Он говорит о «предвзятости автоматизации»: люди склонны доверять компьютерам, особенно если интерфейс выглядит убедительно.
Вопросы ответственности множатся. Советник Минобороны Эстонии Ева Сула говорит, что командиры НАТО постоянно спрашивают: «Если я ошибусь из‑за ИИ, кто виноват?» Ответа нет: «Военного преступления в цифровом пространстве ни одна страна не может расследовать — нет законов».
Будущее: человек и машина вместе — или машина вместо человека?
Украина принимает риски, потому что «этическая рамка только формируется», говорит глава центра ИИ‑войны Минобороны Даниил Цвок. Украинские бойцы учатся на практике: ИИ не справляется с нестандартными ситуациями, и «война остаётся искусством — интуицией».
В Пентагоне хотят создать «лучшую команду человек‑машина», учитывая ошибки обеих сторон.
Но эксперты опасаются, что возможности ИИ растут быстрее, чем способность общества их регулировать. Папа Лев XIV недавно выпустил энциклику об ИИ, а группа нобелевских лауреатов и технологов призвала запретить ИИ‑системам принимать решения о жизни и смерти.
Как сказал один из участников, Марко Тромбетти: «Если эти вещи начнут использовать в войне, остановить их будет невозможно».
