Нас будут атаковать роботы-убийцы?

Фантастические прорывы, которые наблюдаются последние годы в области роботостроения и искусственного интеллекта, говорят, что мир вплотную подошел к третьей военно-технической революции. Первой революцией считается изобретение черного пороха. Вторая революция — это создание ядерного оружия. И вот подоспела третья революция, цифровая: создание автономного «мыслящего» оружия, которое без участия человека будет решать, когда и по кому нанести удар.

Начало третьей революции в сфере вооружений провозгласили специалисты Бюро оценки технологии при немецком бундестаге. Впрочем, пишет немецкий журнал «Der Spiegel», анализ перспектив — как цифровизация изменит военную отрасль, ведется во всех развитых странах. В первую очередь — в США, Китае и России.

На днях американская экспертная Комиссия по национальной безопасности и искусственному интеллекту представила свои рекомендации Минобороны США. Речь идет о том, что в гонке совершенствования автономных боевых систем Соединенные Штаты должны занять место лидера. Уйти, так сказать, рывком далеко вперед, не стесняя себя рамками политеса, вроде международного соглашения по СНВ-3.

Члены комиссии по нацбезопасности считают, что глобальный мировой запрет умных боевых систем не имеет смысла, так как стратегические соперники все равно будут «крысятничать» и тайно его нарушать. Эксперты в США априори считают, что Китай и Россия не станут придерживаться никаких договоров и ограничений в области разработки военного искусственного интеллекта (ИИ). Особенно Китай. А значит, если революцию «мыслящих» систем вооружения нельзя предотвратить, ее надо возглавить. Разумеется, с благородной целью защиты безопасности страны и демократии.

В докладе говорится, что Америка должна инвестировать в ИИ боевых роботизированных военных систем денег по максимуму. Только так будет достигнуто превосходство над Россией и Китаем и сохранена мировая стабильность. Тот факт, что аналогичная идея (Скайнет) была обкатана в кинофраншизе «Терминатор», американских аналитиков не смущает, ибо «вы не понимаете, это совсем другое». Вооружение ради мира, пистолет под пуховой подушкой.

Впрочем, даже первый союзник Соединенных Штатов по НАТО — Германия, сомневается в целесообразности вкладываться в такое светлое интеллектуальное завтра. В частности, в берлинском Фонде «Наука и политика» (SWP) полагают, что военные США напрасно считают себя тузами в области технологий. Попытка Штатов заявить о себе как о лидере в области разработок боевых автономных систем приведет не к мировой стабильности, а лишь к гонке вооружений между США, Китаем и Россией.

Самое главное, пишет журнал «Der Spiegel», оружие с искусственным интеллектом заводит человечество в область правовой тьмы и административных туманов. Имеют ли право автономные боевые системы вести войну без участия человека? А начинать войну или подписывать мирные соглашения?

Политики, даже «сукины дети», могут поступаться своими интересами и договариваться, самые отъявленные негодяи все-таки понимают, что такое «гуманизм». Но, что может понять в хитросплетениях человеческого социума умный дрон? Где грань, которую робот не сможет переступить из моральных соображений?

Любой пользователь персонального компьютера знаком со сбоями в работе операционной системы, вирусами и сумбурными обновлениями, напоминает «Der Spiegel». Таким образом, сама идея, что военные машины будут способны на основе математических вычислений принимать решения о жизни и смерти людей — злой гротеск.

Как подозревают в Германии, американские специалисты из Комиссии по национальной безопасности и искусственному интеллекту небескорыстно навязывают армиям НАТО затратную концепцию автономного вооружения и цифровизации. По слухам, глава комиссии нацбезопасности США Эрик Шмид, вложил немалые инвестиции в несколько концернов, разрабатывающих «умную» военную технику. Впрочем, бундесвер также находится на перепутье. С одной стороны, оружие с ИИ вызывает опасения, с другой — ФРГ, Франция и Испания разрабатывают инновационную боевую систему FCAS. Система соединит в рое БПЛА возможности управляемых самолетов и дронов, и будет иметь высокую степень автономности.

В целом, в свете взрывного развития систем вооружения с искусственным интеллектом встает вопрос: реально ли ввести запрет на автономное оружие? Пока только 30 стран, в основном из Африки и Южной Америки, поддерживают международный запрет на разработку и применение систем «умного» вооружения. В ООН несколько лет мусолят эту тему, в рамках Конвенции о запрещении или ограничении применения видов обычного оружия. Однако, воз и ныне в ООН, ввиду сложности предмета. Можно ограничить количество танков и радиус действия ракет, но как ограничить радиус действия математических алгоритмов?

Надежда, что процесс не будет пущен на самотек, все же есть. Президент США Джо Байден в первые дни своего правления показал, что не заинтересован в бесконтрольном развитии вооружений в мире. Напомним, в феврале Байден договорился с Владимиром Путиным о продлении договора о сокращении ядерных вооружений СНВ-3. Впрочем, в данном случае речь идет о политическом контроле. Вопрос: как будут устанавливаться границы ответственности между человеческим разумом и искусственным интеллектом в будущих роботизированных системах вооружения — остается открытым.