Введение в военные автономные системы. Центр Новой Американской Безопасности 2015 г. Извлечения из доклада
За последние несколько лет мы стали свидетелями подлинного взрыва в исследованиях, разработках и практическом применении автономных военных систем. Наряду с исследователями, конструкторами и технологами, программистами и разработчиками, кадровыми военными и экспертами в области национальной безопасности, эту тему активно обсуждают гражданские активисты, юристы, политологи, философы и специалисты по этике.
На фоне дискуссий важно понимать, что многие уже стоящие на вооружении боевые системы включают в себя элементы автономии. Часто встречающиеся в дискуссиях аргументы о том, что автономия – дело будущего, и можно предписывать разработчикам, конструкторам и технологам различного рода, в том числе этические, ограничения при развитии вооружений, не выдерживают столкновения с практикой. Уже существующие виды вооружений и методы ведения военных действий включают в себя фактор автономии. Уже поздно рассуждать на тему, хороша или плоха автономность боевых систем по отношению к человеку, допустима ли она по этическим и моральным критериям или нет. Автономность уже состоялась.
Автономность широко используется при решении военных задач, в том числе связанных с использованием боевого, латентного оружия. К числу военных задач, где наиболее широко используются автономные системы, относятся разведка, навигация, автоматические системы огня, системы маневрирования и самонаведения на цели, системы отложенного удаленного применения неподвижного (мины) или подвижного оружия и т. п.
По имеющимся сведениям в настоящее время автономные робототехнические системы (АРС) в военном деле используются в той или иной мере 30 государствами и несколькими негосударственными акторами. В подавляющем большинстве случаев АРС используются в качестве средств разведки, логистики, транспорта, автоматизированной доставки вооружений (самонаводящиеся ракеты) и т. п. Менее распространены Боевые Автономные Роботизированные Системы (БАРС), которые предусматривают автономное принятие решений об использовании огневой мощи или других типов поражающего оружия.
В настоящее время не существует согласованного на международном уровне, а тем более юридически обязывающего определения Автономного Оружия (АО), АРС и БАРС. Министерство обороны США, Международный Комитет Красного Креста, ООН и ее специализированные структуры используют достаточно близкие определения. Однако они далеки не только от юридически обязывающей формы, но даже и от терминологической стандартизации и четкости.
Еще более неопределенное значение АО придают различного рода активисты, выступающие за запрет «роботов-убийц». Этот термин они используют для обозначения АО. Причем под данную терминологию попадают у активистов практически все виды роботов, включая гражданских. Эти люди, как их предки несколько веков назад – луддиты, пытаются остановить технический прогресс, не допустить появления каких-либо роботов, которые могут быть использованы на производстве, в быту или в военных целях.
Отсутствие ясности и четкости в терминологии и общественном восприятии усугубляется тем, что некоторые политические и общественные силы призывают к юридически обязывающему внутреннему и международному регулированию или запрещению не только АО, но и АРС, не говоря уже о БАРС, еще до того, как будут приняты стандартные определения этих систем. Поэтому, прежде чем продвигаться вперед по юридическим и регулятивным тропам, необходимо на старте договориться, по крайней мере, о единой базовой терминологии.
Это достаточно сложная задача. Сегодня имеется не слишком много очевидных, бесспорных, ясных даже неспециалисту примеров АО, АРС и БАРС. Различного рода активисты и многие политические силы в своих предложениях опираются не на фактическое положение дел, а на свои прогнозы относительно будущего автономного оружия. Именно в будущем они черпают аргументы для запрета АО. Это требование проистекает из основной тенденции развития техники вообще, и робототехники в частности, предусматривающей постоянное увеличение автоматизации и все большее исключение человека из всех процессов функционирования техники, включая и принятие решений.
Предлагается, вместо того, чтобы оперировать примерами из фантастических романов и фильмов, тщательно проанализировать природу автономности и уже имеющиеся образцы АО, АРС, и на этой основе попытаться выработать стандартные определения.
Начать надо с ответа на три ключевых вопроса:
• Что такое автономия?
• Как автономия используется в оружии сегодня?
• Что такое АО?
Представленный материал не рассматривает подробно правовые, этические и политические вопросы, возникающие относительно оружия будущего. Цель материала иная – сформировать общепринятое понимание АО, АРС и БАРС, проанализировать, как автономность используется в уже имеющихся типах вооружений и в тех разработках, которые проводятся в настоящее время и в ближайшем будущем превратятся в оружие, включенное в арсенал вооруженных сил Соединенных Штатов.
Данный материал является итогом первого этапа работ в рамках проекта Американского Центра Новой Безопасности «Этика автономии». Мы надеемся, что он поможет всем размышляющим и пишущим на тему АО, АРС и БАРС использовать общую терминологию и видение. Мы также особо хотели подчеркнуть, что, хотя подавляющая часть автономных систем имеет отношение к робототехнике, строго говоря, автономные системы могут быть реализованы и помимо робототехники в электромагнитной среде при помощи программных средств, в том числе боевых компьютерных программ, вирусов и других форм небиологических активных систем.
Что такое автономность?
В настоящее время термин «автономность» разные исследователи используют по-разному. Его применение различается не только по странам, но и по дисциплинам, и даже отдельным исследователям. Особое разнообразие наблюдается при рассмотрении АО. Это характерно не только для науки. Не меньшее разнообразие содержится в фантастике. Там под одним и тем же термином «автономного робота» фигурируют разнообразные железные персонажи, начиная от дружелюбного домашнего робота-слуги Айзека Азимова, подчиняющегося трем законам робототехники, до грозного Терминатора и гибельного Скайнета. Нет согласия в применении термина «автономности» даже в государственных документах. В одних из них термин «автономность» имеет собственное содержание. В других – используется исключительно как характеристика уровня автоматизации.
Однако, несмотря на то, что нет терминологического согласия, словосочетание уже прочно вошло в лексикон военных руководителей и официальных документов. Так, осенью 2014 года заместитель министра обороны США по закупкам, технологиям и логистике Фрэнк Кендалл в своем официальном выступлении, посвященном Третьей оборонной инициативе, сказал, что она будет сосредоточена в том числе на «обеспечении широкого использования автономности на всех полях боевых действий, включая воздух, землю, воду, космос и киберпро-странство». НАТО в своих официальных документах конца 2014 года отметило «необходимость максимально полного использования потенциала АРС в боевых действиях». Южная Корея в бюджете на 2015 год предусмотрела графу по финансированию разработки автономных роботизированных средств наблюдения и контроля над демилитаризованной зоной с Северной Кореей. Министр обороны России С. Шойгу в конце 2014 года заявил о необходимости «разработки и принятия на вооружение армии автономных роботизированных систем, обеспечивающих охрану ключевых военных объектов, разведку и транспортировку грузов и боевых систем».
В своей простейшей форме автономность представляет собой способность машины выполнить задачу без вмешательства человека. Таким образом, автономная система является машиной, а точнее алгоритмизированным средством. Автономными системами могут быть как аппаратные средства, так и программное обеспечение или программно-аппаратные комплексы самого различного типа. Главное, чтобы они могли после своей активации функционировать и выполнять поставленные перед ними задачи самостоятельно, без вмешательства и участия человека, за исключением в некоторых случаев контроля и управления в условиях форс-мажора.
Автономные системы (АС) не ограничиваются роботами или автоматическими транспортными средствами, типа Гуглмобиля. На самом деле, автономностью обладают многие типы промышленного, складского и транспортного оборудования и систем. Большинство автомобилей включает в себя автоматическую антиблокировочную систему тормозов, тяги и контроля безопасности, аварийную автоматическую систему ремней и подушек безопасности, круиз-контроль и т. п. Для военных самолетов уже долгое время применяются не только автопилоты, но и автоматические системы маневра в воздухе при обнаружении других воздушных судов или объектов, угрожающих столкновением. Автоматизация и роботизация производства, транспорта и быта стали не фантастикой, а повседневностью. Они обеспечили значительный рост производительности, экономию средств, возможность решения задач в сложных, вредных и деградировавших средах и т. п.
Три размерности автономности
Различное понимание автономности и терминологическая путаница в немалой степени обязаны историческому использованию слова «автономия», для обозначения трех различных явлений и процессов:
• контроля и управления в человеко-машинных системах, где автономия является характеристикой разделения функций между человеком и машиной;
• сложности машины;
• уровня автоматизации решений.
Эти три подхода различаются между собой и отражают совершенно не связанные между собой концептуальные схемы. Однако, люди, как правило, смешивают их вместе и пытаются создать термин, пригодный на все случаи жизни. Для того, чтобы выработать с одной стороны устраивающее всех определение автономии, а с другой – не превратить его в пустую абстракцию и наделить собственным, понятным содержанием, внимательно рассмотрим все три понимания автономии.
Управление и контроль в человеко-машинных системах
Первый способ употребления термина «автономия» относится к взаимоотношениям между человеком и машиной в рамках гибридных человеко-машинных систем. В тех случаях, когда машины лишь частично выполняют функции управления, а частично это делает человек, их называют полуавтономными машинами. Еще используется термин «машина с человеком в петле» (имеется в виду петля прямой и обратной связей в системах управления).
Машины, которые полностью выполняют все функции, но включают человека как контролера, и предусматривают возможность вмешательства его в управление при форс-мажорной или какой-либо иной ситуации называют автономными машинами под человеческим контролем.
Те машины, которые выполняют все функции самостоятельно и не предусматривают вмешательство людей в выполнение функций, называют полностью автономными машинами, или машинами «без человека в петле». Подчеркнем, что данное понимание автономии, строго говоря, не предъявляет никаких требований к способностям машин и тем более не говорит о наличии у них искусственного интеллекта. Оно только фиксирует распределение между человеком и машиной управляющих и контрольных функций.
Автономность как сложность
Термин «автономия» часто используется применительно к машинам как синоним сложности. Часто, независимо от распределения командно-контрольных функций, автоматические и автоматизированные системы характеризуются как автономные, если они способны выполнять сложные и/или разнообразные задачи и функции.
Исторически получилось так, что автоматические системы выполняли и выполняют очень простые, элементарные функции. Например, автоматическими являются тостеры и механические термостаты. С другой стороны, автоматическими являются и Гугломобили, и роботы-сборщики на конвейерах электромобилей «Тесла». Поскольку не только специалисты, но и далекие от производства люди понимают, что это принципиально разные устройства, для обозначения вторых стал использоваться термин «автономные». Кроме того, в последние годы термин «автономные» все чаще применяют для обозначения систем, предполагающих использование программ машинного обучения, в том числе так называемых систем «обучения без учителя».
Некоторые исследователи и практики предлагают использовать термин «автономные» только для машин, наделенных интеллектом. Однако такой подход лишь запутывает дело. Сегодня никому не понятно, что такое не только искусственный, но и естественный разум.
Термин «искусственный интеллект» вовсю применяется для выделения из общего ряда таких суперкомпьютеров, как Deep Blue, Watson и т. п. Однако, поскольку никому не понятно, что такое человеческий разум, а тем более психика, сознание, подсознание, то эти категории не могут использоваться не только для выработки юридически обязывающих соглашений, но и для образования стандартных общепринятых терминов. Нельзя что-то неизвестное определить через другое неизвестное. В этом плане мы считаем совершенно бесперспективной дискуссию на тему: когда компьютеры или роботы обретут разум. Поскольку мы не знаем, что такое разум в строгом смысле этого слова, то мы не можем с уверенностью сказать, когда его обретут или уже обрели компьютеры и роботы. К тому же мы не можем сказать, является ли вообще разум свойством отдельного индивидуума, либо он может быть реализован, сформирован и функционировать только в определенной общности. Пример детей, воспитывавшихся у животных, заставляет сомневаться в том, что единичный разум существует вообще. Тогда вполне может оказаться, что каждый отдельный компьютер и робот никаким разумом и сознанием не обладали и не обладают, а в системе, вполне вероятно, уже являются сознательными и разумными. Другое дело, мы должны понимать: это будут не человеческие сознание и разум, которые не вполне сможет распознать человек, если на это не будет желания иного разума. Кстати говоря, как это ни парадоксально, по этому же критерию и сетевой машинный разум и психика могут не распознать человеческий разум и психику, и считать их в этом смысле неразумными, со всеми вытекающими последствиями.
Возвращаясь к рассматриваемому подходу, подчеркнем лишь, что при использовании автономии, как синонима сложности, мы не имеем сколько-нибудь внятного не только количественного, но и фактографически определяемого разграничения автономных и неавтономных систем. Это разграничение в данном подходе становится полем произвола и выбора самостоятельно для каждого исследователя или просто человека.
Тип автоматизированных функций
В конечном счете, бессмысленно использовать термины «автономный», «полуавтономный» и «неавтономный» без указания на задачи и функции, которые автоматизируются. Каждая из функций имеет не только свой уровень сложности, но и свой уровень риска и последствий. Понятно, что совершенно различные риски возникают, если мы используем полностью автономный тостер, и боевого робота, оснащенного мощным электромагнитным оружием.
По крайней мере, на сегодняшний день любая поддающаяся автоматизации функция, так или иначе, может быть выполнена человеком или зависит от него. Поэтому в строгом формальном смысле, полностью автономных систем пока не существует. Даже автоматизированный Гугломобиль, не требующий от пассажиров навыков вождения, и сам выбирающий маршрут, тем не менее, требует от человека задания исходной и конечной точек маршрута. Правда, необходимо помнить известную поговорку «никогда не говори никогда». Нет гарантий, что в итоге не появится в той или иной сфере, причем возможно и в военной, полностью автономная система, в формальном смысле, где единственной функцией человека окажется отключение системы или ее уничтожение.
Разбор термина «автономия»
На наших глазах происходит вторжение коллективного бессознательного в научную и инженерную культурную среду. Одним из свидетельств подобного стала практика рассмотрения автономии в рамках научно-фантастического мема «человек против машины». Между тем, всем профессионалам понятно, что следует говорить не о подобном противопоставлении, а о том, какие задачи и функции в рамках системы выполняет человек, а какие – машина. В недавнем политическом документе НАТО сделан близкий вывод. В нем рекомендуется главное внимание обратить не на создание «полностью автономных систем, а на автоно-мизацию определенных функций в транспортных и боевых системах».
На наш взгляд, это наиболее перспективный подход. Изучая вопрос автономии мы, прежде всего, должны выделить конкретные функции и задачи, применительно к которым мы и определяем, что выполняется машиной, а что делается человеком. Кроме того, важно посмотреть, а что происходит в военной сфере уже сегодня. При этом мы должны помнить, что в строгом формальном плане полностью автономных систем в настоящее время на вооружении армии США и ее союзников не стоит. Зато по большей части с точки зрения функций контроля и управления распространены частично автономные роботизированные системы.
В той или иной форме автономность в военных системах используется более 70 лет. Первые самонаводящиеся боевые системы применялись во Второй мировой войне. Примером тому Фау-1 и Фау-2. После Второй мировой войны автономные системы, в основном связанные с функциями самонаведения, наблюдения, разведки и т. п. использовались многими странами мира, и прежде всего, Соединенными Штатами Америки и Советским Союзом.
Анализ практики автономизации в военной сфере позволяет выделить три типа вооружений:
1. Человек «присутствует в цикле управления или принятия решения». Это, как правило, различного рода ракетные вооружения, где человек выполняет функцию коррекции курса и окончательного принятия решения о поражении того или иного объекта. В военном деле гораздо более известны самонаводящиеся ракетные системы с разделяемыми боеголовками.
2. «Человек в петле» – контролер за транспортировкой боезаряда. В этом случае человек контролировал полет ракет или иных автономных средств, и на протяжении всего полета мог принять решение о ликвидации ракеты. Эти системы были наиболее распространены в Соединенных Штатах Америки.
3. Полностью автономные системы вооружений, где человек исключен из цикла управления, за исключением момента приведения в действие системы. Такие автономные системы в основном применялись в ракетных войсках стратегического назначения США и СССР. В отличие от Соединенных Штатов Советский Союз в начале 80-х годов завершил создание первой и единственной в мире до сегодняшнего момента полной автономной боевой роботизированной системы в строгом формальном смысле слова. В этом плане система, слабо известная на Западе, может выступать в качестве эталона полной автономной системы. Речь идет о комплексной боевой автономной роботизированной системе «Мертвая рука». Система включала в себя баллистические стратегические ракеты в особо глубоких шахтах. Ракеты имели автоматизированную, исключающую человека, систему запуска. Ракеты обладали самонаводящимися блоками и системами подавления помех ПВО и ПРО стран НАТО. Каждая баллистическая ракета с разделяющейся боеголовкой стартовала вместе с несколькими, сопровождающими ее противоракетами, которые на рискованных участках баллистической траектории – на старте и на выходе на цель, были способны автоматически распознавать и поражать противоракетные системы США и их союзников. Подземная система автоматического управления стартом ракет была соединена с полностью защищенной системой датчиков, расположенных на поверхности территории Советского Союза.
Свое название система «Мертвая рука» получила, поскольку в случае нанесения поражающего удара и уничтожения политического и военного командования Советского Союза, а также основных его городов и промышленных центров и большей части населения, датчики уже после гибели командования, большей части вооруженных сил и населения, сигнализировали о нанесенном ударе и по сигналу отдавалась команда на автоматический старт ракет, чья мощность – от 6 до 12 раз превосходила количество потребных боезарядов для уничтожения всего военного и гражданского потенциала США.
Впервые массовое использование боевых систем, имеющих автономные функции, имело место во время Второй мировой войной. Первой такой системой стала немецкая самоуправляющаяся торпеда. После пуска с подводной лодки, либо корабля она быстро шла прямым курсом примерно полкилометра, затем активизировалась головка ее самонаведения, соединенная с расположенными на торпеде миниатюрными гидроакустическими датчиками. Эти датчики распознавали шум винта судна или подводной лодки на значительном удалении и направляли торпеду к распознанному объекту для его уничтожения. Союзники такого класса оружия в течение Второй мировой войны не имели.
В настоящее время существует множество типов управляемых боеприпасов. Они используются всеми ведущими странами мира. Также ими располагают многие негосударственные группы и формирования. При всех различиях, вооружения, объединяемые этим типом, имеют одну общую характеристику. В них присутствует электронный, акустический, механический или иной блок самонаведения, который позволяет обнаруживать цель и направить в нее боеприпасы. Участие человека здесь связано с тем, что он заранее одобряет применение данного вооружения против данного класса целей. На практике, во время Второй мировой войны и после, торпеды поражали не только военные, но и гражданские суда. Более того, в послевоенный период известно как минимум два случая, один – с ВВС США, другой – с противовоздушной обороной Украины, когда самонаводящиеся ракеты классов воздух-воздух и воздух-земля поразили соответственно итальянский и российский воздушные гражданские лайнеры с большим числом пассажиров на борту.
В отличие от самонаводящихся боеприпасов, не предназначенных для поражения заранее определенной цели в конкретном месте и в конкретное время, не так давно появились GPS-управляемые автономные боеприпасы. Они предназначены для поражения определенной точки в определенный момент времени на основе сигналов от глобальной спутниковой группировки. В основном в качестве таких систем применяются крылатые ракеты любых типов базирования. Кроме того, появились в наиболее технологически продвинутых армиях бомбы и ракеты с лазерным наведением, которые поражают цель в соответствии с командами, передаваемыми при помощи лазерной указки. К современным типам таких вооружений надо отнести и стратегические ракеты, способные выходить на цель не только по баллистической, но и сменяемой траектории в соответствии с командами космических спутниковых группировок.
Выявление, приоритизация и отслеживание эффективности поражения цели
Современные военные все шире используют различного рода автоматизированные и роботизированные системы для выполнения функций, связанных с разведкой. В этих целях используются не только хорошо известные радары и тепловизоры, но и самые разнообразные приборы, позволяющие обнаружить противника во всех средах с использованием всех частот электромагнитного спектра.
Высокая автоматизация функций распознания, обнаружения, наведения и даже детонации позволяет создавать и использовать высоко автономные системы, где за человеком остаются в основном функции, связанные с принятием решения о поражении боевой силы или техники.
Рассмотрим с этих позиций автономность типовой ракеты воздух-воздух, находящейся на вооружении вооруженных сил США. В настоящее время визуальное или электромагнитное обнаружение цели осуществляется в автоматическом режиме. Идентификация цели производится компьютером, который передает данные пилоту. Пилот принимает окончательное решение о запуске ракеты. Дальше ракета летит в автономном режиме. По сути, участие человека сводится к принятию решения о запуске ракеты. При этом надо иметь в виду, что в подавляющем большинстве случаев пилот не может проверить данные компьютера, поскольку распознавание происходит не оптическим путем, а на основе данных радаров. Помимо данных радара, пилот опирается на данные систем распознавания «свой-чужой», а также самостоятельную оценку общей боевой ситуации. В случае, если все показатели говорят о том, что запуск целесообразен, он нажимает соответствующую кнопку и далее ракета действует в автономном режиме. При этом он получает в случае поражения ракетой противника соответствующий сигнал, удостоверяющий в достижении цели. Таким образом действуют пилоты во всех странах, а не только в США.
Пока такой подход приносит успех. Однако подобная ситуация будет сохраняться лишь до тех пор, пока какая-то из стран не перейдет к полностью автономной боевой воздушной системе, где не будет места пилоту. В этом случае, согласно данным многочисленных экспериментов с пилотируемыми и беспилотными летательными аппаратами США, случится следующее. Беспилотник, который обнаружит при помощи тех или иных систем цель, примет решение быстрее, чем летчик. Могут сказать, что выигрыш может составить даже не секунды, а миллисекунды. Но в бою все решают именно эти миллисекунды. За это время беспилот-ник может нанести удар и изменить место дислокации. Таким образом, пилот с более замедленной, хотя возможно и более адекватной реакцией, окажется в проигрышном положении и есть вероятность, что его самолет будет сбит, а беспилотник не только уничтожит врага, но и сохранит живучесть. Иначе говоря, в данном случае наличествует типичная ситуация столкновения двух критериев. Уже сегодняшние боевые автономные роботизированные системы могут действовать и наносить удары быстрее, чем гибридные системы с «человеком в петле управления». В то же время гибридные системы имеют на сегодняшний день преимущества над полностью автономными по критерию качества решения. У них гораздо меньше ошибок. Однако, если одной из сторон неважны ошибки и их последствия, то в битве уже сегодняшних, а тем более завтрашних БАРСов и гибридных систем в воздухе и не только, победят БАРСы.
Высокоточное оружие увеличивает человеческий контроль над военными действиями
Одной из самых ранних известных систем контроля за распознаванием целей была автоматизированная идентификация целей в рамках операции «Лайнбакер» во Вьетнамской войне. Тогда впервые были созданы и использованы на полях сражений системы точного целенаведения. Они позволили американским вооруженным силам отказаться от ковровых бомбардировок и использовать высокоточные боеприпасы, поражающие не только здания вместо отдельных кварталов, но и отдельные этажи или участки зданий. Надо прямо сказать, что в ходе Второй мировой войны не только Германия, но и союзники, лишенные возможности использовать высокоточное оружие, осуществляли ковровые бомбардировки городов. В их ходе вместе с промышленными объектами и военными базами стирались с лица земли целые жилые кварталы. Многие до сих пор полагают, что это были преступные в юридическом смысле действия командования военно-воздушных сил и бомбардировочной авиации Великобритании и США.
С каждым следующим поколением вооружений повышалась точность оружия, и появлялись новые системы распознавания, контроля и наведения оружия на цель в размерности уже не на уровне зданий, а отдельных движущихся мишеней, типов автомобилей и даже отдельных людей. Несмотря на то, что некоторые активисты не только на Ближнем Востоке, но и в Соединенных Штатах и Европе выступают против такого рода высокоточных автономных систем, они делают войну не более жестокой, а более гуманной. Активисты приводят в пример дроны, поразившие в Афганистане мирные деревни. Однако в подавляющем большинстве подобных случаев ошибки были связаны не с электронными или автономными элементами системы, а с человеком-оператором, который в условиях эмоционального, когнитивного и поведенческого стрессов делал ошибки, выбирая неправильные цели. В подавляющем большинстве случаев не машина, а человек является уязвимым звеном гибридной системы. Данный вывод базируется не на страшилках средств массовой информации и домыслах ангажированных активистов, а на сухих фактах в опубликованных отчетах.
«Человек в петле» для выбора и идентификации конкретных целей
Уже отмечалось, что, по крайней мере, 30 стран в настоящее время в своих вооруженных силах используют в той или иной мере автономные боевые системы. В подавляющем большинстве случаев это не полностью автономные системы, а системы, где человек сохраняет функции надзора и принятия конечного решения о поражении цели. В основном в подобных БАРСах автоматы автономно выполняют все функции, кроме выбора цели и принятия решения об атаке.
В настоящее время такого рода системы включают в себя:
• противовоздушную и противоракетную систему обороны Америки, базирующуюся на ракетах морского базирования «Аргус» и наземного базирования «Пэтриот»;
• тактические и малой дальности ракетные, противоракетные, артиллерийские и иные системы, подобные системе «Голкипер»;
• активные системы противоракетной защиты для определенных территорий, типа французской системы «Акула» и российской системы «Периметр».
К числу 30 стран, которые имеют наиболее продвинутые, автономные боевые наступательные и оборонительные системы относятся Австралия, Бахрейн, Бельгия, Канада, Чили, Китай, Египет, Франция, Германия, Греция, Индия, Израиль, Япония, Кувейт, Нидерланды, Новая Зеландия, Норвегия, Пакистан, Польша, Португалия, Катар, Россия, Саудовская Аравия, Южная Африка, Южная Корея, Испания, Тайвань, Объединенные Арабские Эмираты, Соединенное Королевство и США.
Во всех этих случаях автоматизация и автоно-мизация используются, прежде всего, для защиты личного состава вооруженных сил и населения, наземных объектов и транспортных средств – от ракет и самолетов. Эти системы являются важным компонентом выживания в современной войне и уменьшения потерь среди мирного населения.
Однако на сегодняшний день автономные защитные системы используются недостаточно. Как правило, они ориентированы лишь на защиту от неодушевленных объектов – ракетных снарядов, ракет, самолетов, а не от действий людей. Однако, уже имеющиеся системы анализа и прогнозирования поведения групп людей и отдельных индивидуумов на основе Больших Данных позволяют своевременно распознавать не только действия, но и намерения именно людей и осуществлять против них целевые высокоточные превентивные меры. Из экзотической возможности данная область превращается в возможно самую актуальную и необходимую сферу применения автономных систем. Это связано с невиданным прогрессом за последние годы информационных технологий и связанных с ними опасностей проведения разрушительных кибератак, по своим возможностям равным последствиям применения оружия массового поражения.
Автономные роботизированные (человек вне «петли управления») системы наведения, доставки и поражения специальных целей
В настоящее время существует немного видов оружия, которые исключают человека из «петли управления» и автономно, при помощи программно-аппаратного блока, принимают решение о ее поражении цели. Более того, некоторые виды подобного оружия не включают человека и как контролера выбора и поражения цели.
Самым старым по времени и распространенным типом подобного оружия являются так называемые «неуправляемые боеприпасы». В отличие от управляемых боеприпасов, неуправляемые боеприпасы запускаются, и их дальнейшая траектория никак не зависит от человека. В то же время эти неуправляемые боеприпасы отличаются от традиционных, существующих уже столетия, артиллерийских снарядов, неуправляемых ракет, типа Фау-1 или русская «Катюша» и т. п. Неуправляемые автономные боеприпасы в основном представляют собой ракеты, которые имеют специальные датчики, распознающие действия радиолокационных станций и систем противоракетного оружия у противника. Они соответственно могут уклониться от таких станций, либо поражения их противоракетой. В то же время, они не поддерживают связь с человеком-оператором и, уклонившись, самостоятельно выбирают цель на основании встроенной системы распознавания образов, и поражают ее. При этом, учитывая, что подобные вооружения являются массовыми, а соответственно должны стоить достаточно дешево, в них используется простейшее, и потому далеко не самое эффективное, программное обеспечение, ответственное за распознавание целей. В отличие от высокоточного управляемого оружия, такие боеприпасы предназначены для поражения любой цели и соответственно действуют, что называется, в режиме коврового поражения.
Подобного типа экспериментальные неуправляемые автономные боеприпасы были разработаны для армии США в рамках программы малобюджетных автономных атакующих систем (LOCAAS). Пик разработки таких систем пришелся на 80-90 годы прошлого века. Несмотря на успешные испытания, на вооружение армии, флота и военно-воздушных сил США они так и не поступили.
В настоящее время в мире эффективно применяется для решения конкретных задач на поле боя только одна подобная система. Это – израильская система «Харпи». Харпи – это ракета, которая умеет уклоняться от радаров противника, заранее засекает пуск простейших ракет земля-воздух и обходит районы, где расположены такие установки. Наконец, она умеет распознавать определенные типы вооружений, такие как ракетные установки, стоящие на земле, или установленные на автомобилях и крышах домов. Распознав такие установки, она поражает их.
Ключевое отличие управляемых от неуправляемых автономных боевых систем связано со стоимостью и сложностью программного обеспечения и сенсорных датчиков. На неуправляемых боеприпасах стоит дешевое программное обеспечение и недорогие датчики, повышающие живучесть таких систем, но не обеспечивающих их высокую точность в поражении конкретных целей.
В настоящее время в технологически развитых армиях мира, прежде всего, в вооруженных силах США и их союзников и партнеров, используются высокоточные управляемые автономные роботизированные системы. В то же время на вооружении террористических сетей, типа Аль-Каиды и Талибана, а также террористических группировок, типа Хамас или Хезболла, имеются кустарно произведенные, неуправляемые автономные системы – ракеты малой дальности действия, рассчитанные на поражение любой цели.
Как правило, при обсуждении автономного оружия полностью исключается тема мин. Между тем мины, по сути, являются автономным неуправляемым оружием. Человек, за исключением дорогостоящих мин, предполагающих взрыв по команде оператора, исключен из «петли управления и контроля». Мина устанавливается, маскируется и приводится в действие посредством сенсоров, фиксирующих присутствие или передвижение любого мобильного объекта. В этом смысле мины относятся к неуправляемым автономным системам. Соответствующий заряд будет активирован датчиками вне зависимости от того, кто оказался на минном поле – солдат или ребенок, машина или слон.
Согласно многочисленным исследованиям, мины сегодня представляют самое распространенное автономное оружие. От них несут самые большие потери сухопутные войска США. В результате подрыва на минах в Ираке и в Афганистане погибло втрое больше солдат и офицеров, чем в результате огневого соприкосновения в ходе боев. Дополнительно надо отметить, что террористические сети и группировки не придерживаются международных соглашений и договоров, заключенных относительно разработки и применения мин, в том числе осколочных.
В этой связи едва ли не самой актуальной сферой использования БАРСов является АРСы-саперы. В Соединенных Штатах в настоящее время разработаны и прошли испытания полем боя семь различных автономных роботизированных систем по обнаружению и уничтожению мин различного типа.
Что такое автономное оружие?
Как уже упоминалось ранее, нет никакого международного согласованного определения для «автономного оружия». С позиции здравого смысла можно определить автономное оружие, как оружие, которое самостоятельно обнаруживает цель, транспортирует боезапас или блок, выполняющий те или иные функции до цели, а также самостоятельно обеспечивает выполнение целевой функции или решение боевой задачи. Соответственно, полуавтономным оружием является оружие, где человек присутствует в «петле управления» и выбирает конкретную цель, а также принимает конечное решение о ее поражении.
На наш взгляд, это лучшее из возможных и наиболее приемлемое для внутреннего и международного обихода определение автономного оружия. Мы считаем его наилучшим по нескольким причинам:
• во-первых, поскольку это определение соответствует большинству используемых на практике в Соединенных Штатах и за рубежом определений;
• во-вторых, оно позволяет идентифицировать не только уже существующие, но и будущие типы вооружений;
• в-третьих, так или иначе, это определение может быть развернуто с добавлением определенных свойств в терминологию, используемую в настоящее время министерством обороны США, ООН, Международным Комитетом Красного Креста и т. п.
Представляется, что данное определение позволит разработчикам, планировщикам, администраторам и военным говорить на одном языке. С технической точки зрения данное определение позволяет выделить основные направления развития автономии в военном деле. К ним относятся:
• автономные системы оружия, которые после своей активации действуют на всех фазах боевого цикла самостоятельно, без участия человека-оператора, и даже человека-контролера;
• системы автономного оружия, предполагающие контроль оператора. В этих системах участие оператора сводится лишь к возможности отменить миссию, обеспечив автономный возврат на места дислокации или принять решение об уничтожении автономного оружия;
• полуавтономные оружейные системы. В этом типе систем человек остается участником «петли управления и контроля» и выполняет те или иные функции в дополнительном или параллельном по отношению к программно-аппаратному блоку режиме. Человек может в силу каких-либо обстоятельств взять управление оружием на себя и т. п.
Необходимо отдавать себе отчет, что повышение уровня автономности одновременно может способствовать росту эффективности и жизнеспособности систем оружия и повышать риски его избыточного или нецелевого применения. Два эти процесса пока идут параллельно, и разделить их не удается.
Возможно, могут быть предложены и другие подходы к определению автономности оружия. Однако данный подход представляется наиболее оправданным не только с точки зрения его больших описательных возможностей, но и поскольку он анализирует оружие с единственно правильной точки зрения. А именно, с точки зрения человека-оператора и контролера.
Представляется, что в будущем даже при наличии технических возможностей создания полностью автономных военных систем в строгом, формальном смысле слова, надо много раз подумать и еще больше раз поэкспериментировать, прежде чем ставить такие системы на вооружение. С ростом интеллектуальности автономных систем и повышением их огневой и иной поражающей мощи, параллельно возрастают риски не только утраты контроля, но и вообще способности человека управлять и контролировать подобными системами.
Уже сегодня в вооруженных силах США применяются программно-аппаратные комплексы для анализа и прогнозирования, которые человек не контролирует. Т. е., он, конечно, контролирует их работу, именно человек пишет программу, но строго говоря, не только непосредственные потребители – военные, но и возможно разработчики и программисты не могут проконтролировать правильность рекомендаций, анализов и прогнозов, полученных аппаратно-программным комплексом. Уже сегодня в определенных случаях военные становятся заложниками компьютерных вычислений.
Представляется, что определение, базирующееся на здравом смысле и опирающееся на анализ распределения участия человека и автомата в решениях и действиях на разных фазах боевого цикла – от обнаружения цели до ее поражения, позволяет уйти от «мутных тем» искусственного интеллекта, человеко-машинного разума и свободы воли роботов. Оставим их писателям-фантастам, философам, психологам и т. п., а вместо этого сосредоточимся на конкретной работе, связанной с автономным оружием.
Выводы
Стремительное развитие информационных технологий означает, что возможности, сегодня кажущиеся труднореализуемыми, либо невероятными, завтра станут обыденностью и будут воплощены в конкретных системах, аппаратах, решениях и механизмах. Мы не думаем, что процесс развития информационных технологий является полностью управляемым. Более того, мы не думаем, что можно даже, понимая ту или иную опасность, остановить динамику. Например, всем понятны опасности, связанные с постоянно повышающейся автономностью в сочетании с ростом интеллектуальности вооружений. На эту тему очень много рассуждают различного рода активисты и политики. Они, вероятно, правы в своих опасениях. Но эта правота ничего не меняет. Каждая из потенциально враждебных сторон будет резонно полагать, что противоположная сторона стремится обеспечить свое преимуществ. Соответственно она не будет верить, что противоположная сторона займет сдержанную позицию по отношению к автономии интеллектуальных систем оружия. В итоге гонка в автономии, интеллектуальности и живучести вооружений неостановима до тех пор, пока будут иметься хотя бы две не доверяющие друг другу стороны.
Этот материал нацелен на выработку общего понимания автономии. Слишком часто в прошлом те или иные политические и административные решения принимались в нашей стране, за рубежом и в международном масштабе без понимания сути дела. Отдавая отчет в долговременной тенденции повышения автономности роботизированных систем, в том числе в военном деле, мы, с учетом этой тенденции и должны принимать различного рода законодательные и административные акты, формировать бюджет. Если они не будут соответствовать тенденции, при всех благих намерениях они не будут выполняться.
Видя опасность повышения автономности, интеллектуальности и живучести систем вооружений, мы должны отдавать себе отчет, что эти тенденции имеют и свою положительную сторону. Например, они позволяют резко снизить потери в вооруженных силах Соединенных Штатов, позволяют при использовании высокоточного оружия на порядки уменьшить жертвы среди гражданского населения в зонах вооруженных столкновений и конфликтов.
Общей тенденцией эволюции систем вооружений в будущем будет их нарастающая автономия, все более активный переход от полуавтономных БАРС и АРС различных типов к автономным системам и полностью автономным системам в формальном смысле. Целесообразно, прежде всего, отработать автономные системы, не несущие на себе летального оружия, а связанные с разведкой, транспортировкой, логистикой и применением нелетального оружия. Наработав опыт в этой сфере и приучив к такого рода системам общественное мнение, а главное, сделав их привычными для солдат и офицеров, можно переходить к следующей стадии – к БАРСам.
Мы полагаем, что в ближайшем будущем на вооружении США и их союзников и партнеров будут находиться в основном полуавтономные, а также небоевые АРС. Что касается врагов и противников Америки, то в ближайшем будущем их технологические возможности вряд ли позволят создать эффективные БАРС. Однако такой риск тем не менее сохраняется вследствие исчезновения барьеров между гражданским и военным секторами технологий, бизнеса и т. п. Поскольку враги, в том числе, негосударственные акторы, потенциально могут купить, получить или создать БАРС, уже сегодня Соединенные Штаты, их союзники и партнеры должны заранее сосредоточить усилия на создании БАРС, действующих исключительно против БАРСов противника.
Сосредоточившись на теме автономии вооружений, важно не забывать и о других характеристиках. Эти характеристики в определенных условиях могут быть не менее, а даже более важными, чем автономность.
Например, статическая система автономного оружия, расположенная вдоль границы страны, будет гораздо более уязвима, чем автономная мобильная система. Хорошо известно, что в годы Холодной войны самым страшным оружием Советов были неуловимые поезда, несущие на себе стратегические ракеты, запускаемые непосредственно с колесных платформ. В отличие от легко обнаруживаемых стратегических сил США, расположенных либо в шахтах, либо на подводных лодках, Соединенные Штаты до последних дней существования СССР не знали, где и когда может быть нанесен удар этими подвижными железнодорожными монстрами, не распознававшимися со спутников, для которых они выглядели также, как составы с песком или коровами.
Точно так же, как динамичность, огромное значение может иметь и среда использования автономного оружия. Например, автономные боевые системы, рассчитанные на поражение в подводной среде, как правило, на порядок дешевле подобных систем для сухопутной и даже воздушной среды. Дело в том, что для сухопутной и воздушной сред больших затрат требует создание средств тонкого распознавания с тем, чтобы по ошибке или необоснованно не атаковать мирную цель и не нанести потери гражданскому населению. В случае подводного оружия такой задачи нет.
Наконец, ключевым параметром является поражающая мощь. Даже школьнику понятно, что риски использования автономного роботизированного бомбардировщика с атомными крылатыми ракетами на борту на тысячи порядков выше, чем риск применения самонаводящегося, полностью роботизированного пулемета. Соответственно автономия должна рассматриваться вместе с другими важнейшими характеристиками оружия. Только комплексное рассмотрение позволит профессионально говорить о возможностях и рисках.
В настоящее время 30 стран используют в своих вооруженных силах автономные и полуавтономные системы. Во всех этих системах на сегодняшний день человек находится в «петле управления», выполняя, по крайней мере, функцию контролера. Кроме того, пока автономные военные системы используются в основном для разведки, транспортировки и логистики, а также позиционной обороны. Даже в случаях логистики и транспортировки, в основном эти системы применяются для перемещения и складирования грузов, боеприпасов и т. п., а не людей. Возможно, самым главным является тот факт, что во всех 30 странах пока люди не только выполняют функции контролера, но и во всех случаях имеют возможность вручную отключить систему в случае сбоя и т. п.
Однако принимая во внимание ускоряющиеся темпы развития систем робототехники, информационных и когнитивных технологий, возрастающую международную напряженность и неустойчивость мировой динамики, с высокой степенью вероятности можно прогнозировать, что будущее не будет линейным продолжением прошлого. Уже в ближайшем будущем кто-то из государственных или негосударственных акторов неизбежно перейдет зыбкую границу между автономными системами (с человеком-контролером и ликвидатором) и автономными системами в формальном смысле (без человека-контролера и ликвидатора, где человек выполняет только функцию активатора оружия). Более того, нельзя быть уверенным, что эта зыбкая граница уже кем-то где-то и когда-то не перейдена.
Бесспорно, необходимо вести публичные и закрытые дискуссии среди военных профессионалов, ученых, инженеров, юристов, специалистов по этике и активистов. Однако при ведении подобных дискуссий не надо обольщаться и считать, что их выводы и итоги могут что-либо изменить в контексте динамики автономии, интеллектуальности и живучести роботизированных и иных автоматических систем как в гражданской, так и особенно в военной сферах. Эти дискуссии важны для понимания, но совершенно бессмысленны, как способ ограничения развития. В нашем разделенном мире никакое соглашение относительно ограничений технического прогресса не будет выполняться. Всегда найдется тот, кто в силу обстоятельств, умысла или по любознательности нарушит любые соглашения. В этом смысле более оправдана позиция, исходящая из динамичности научно-технического прогресса и независимости его направленности и динамики от наших желаний, соглашений или опасений.