|
Военные спешат заменить солдат-людей ИИ-роботами
|
|
|
|
В марте 2020 года, когда внизу бушевала гражданская война, группа беспилотных летательных аппаратов с квадрокоптерами атаковала колонну грузовиков Ливийской национальной армии. Дроны—камикадзе, предназначенные для подрыва взрывчатых веществ на вражеских объектах, выследили и уничтожили несколько грузовиков, которыми управляли люди. Поразительно, но дроны провели атаку полностью самостоятельно — никто из людей не отдавал приказа атаковать.
|
|
|
|
Появление вооруженных роботов, будь то на суше, на море или в воздухе, все больше вытесняет людей с передовой, заменяя их вооруженными роботами. Люди по-прежнему сохраняют абсолютный контроль над тем, может ли робот открывать огонь на поле боя, несмотря на это потенциальное несоответствие. Однако последние достижения в области искусственного интеллекта могут разорвать последнюю связь между человеком и машиной. Если это произойдет, холодная логика роботов с искусственным интеллектом станет единственным фактором, определяющим, кто будет жить, а кто умрет на поле боя. Неизбежен ли этот тревожный шаг и окажутся ли реальные люди где-нибудь рядом с линией фронта в следующей войне?
|
|
|
|
|
|
|
Современные военные беспилотники позволяют персоналу выполнять жизненно важные задачи, часто на расстоянии десятков и даже тысяч миль. В качестве знакового примера можно привести летчиков, которые сидят в виртуальных кабинах с кондиционерами на военно-воздушной базе Крич в Неваде и управляют вооруженными беспилотниками MQ-9 Reaper за полмира. Развитие искусственного интеллекта позволяет этим беспилотникам быть более автономными — способными принимать ограниченные решения о навигации и планировании маршрутов. Мы живем в эпоху, когда беспилотные автомобили с искусственным интеллектом читают знаки и управляют автомобилем, принимая важные решения, которые могут привести к травмам или гибели окружающих их людей. Предоставление роботам возможности принимать решения о жизни и смерти на поле боя на самом деле не кажется таким уж далеким прошлым.
|
|
|
|
“В какой-то момент, - говорит Сэмюэл Бендетт, старший научный сотрудник Центра новой американской безопасности, в интервью Popular Mechanics, - автономия военных станет достаточно эффективной с точки зрения затрат, чтобы их можно было использовать в больших количествах. В этот момент людям может быть очень трудно попытаться защититься от таких роботизированных систем, атакующих в нескольких областях — наземной, воздушной, морской, кибернетической и информационной, — что вынуждает защитников использовать свою собственную автономию, чтобы разобраться в обстановке на поле боя и принять правильное решение об использовании правильных систем. Люди по-прежнему будут играть важную роль, но некоторые ключевые функции на поле боя, возможно, придется передать агентам, не являющимся людьми”.
|
|
|
|
УДИВИТЕЛЬНО ПОСЛЕДОВАТЕЛЬНОЕ ПРАВИЛО ВЕДЕНИЯ ВОЙНЫ заключается в том, что по мере совершенствования оружия люди все больше отдаляются от процесса убийства. Древние люди были вынуждены сражаться с другими людьми с помощью ручного оружия, такого как дубинки, камни и ножи, участвуя в бою на том же уровне опасности, что и человек, с которым они сражались. Война требовала большого физического мужества, необходимости подвергать свою жизнь опасности, чтобы отнять чужую.
|
|
|
|
В современных армиях принято считать, что человек должен оставаться в центре процесса принятия решений... Человек может быть единственным, что стоит между нечеткими датчиками, глючным программным обеспечением, ошибочной логикой искусственного интеллекта, другими непредвиденными факторами и трагедией.
|
|
|
|
На протяжении тысячелетий развивалось оружие, позволяющее людям убивать друг друга на все большем расстоянии. Лук и стрелы, а позднее изобретение пороховых мушкетов, винтовок и пушек означало, что люди часто могли убивать своих врагов с относительно безопасных позиций, например, из-за дерева или изнутри здания. Изобретение двигателя внутреннего сгорания, ракетного двигателя, ядерного оружия и интегральной схемы с наддувом привело к дистанционному уничтожению, что привело к созданию оружия, способного убивать за тысячи миль одним нажатием кнопки. Благодаря технологиям, необходимость в физическом мужестве отпадает.
|
|
|
|
Достижения в области вооружений снова и снова нарушают ход военных действий, предоставляя огромные преимущества стране, которая первой приняла их на вооружение. Искусственный интеллект быстро проникает не только в гражданский сектор, но и в военный. Корабли, самолеты и наземные транспортные средства могут действовать самостоятельно. Роботизированные дроны, такие как MQ-4 Triton, следят за силами противника, роботизированные наземные транспортные средства перевозят снаряжение для солдат, а роботизированные вертолеты доставляют запасы дружественным войскам на большие расстояния.
|
|
|
|
Однако есть одно исключение из правил, которые могут выполнять автономные военные дроны: они должны дождаться четкого разрешения от человека-диспетчера, прежде чем открывать огонь. В современных армиях принято считать, что человек должен оставаться в центре процесса принятия решений. Человек должен изучить доступные изображения, данные радара и любые другие доказательства того, что цель является законной и враждебной, или при необходимости приказать беспилотнику отступить. Человек может быть единственным, что стоит между нечеткими датчиками, глючным программным обеспечением, ошибочной логикой искусственного интеллекта, другими непредвиденными факторами — и трагедией.
|
|
|
|
Однако этот человеческий брандмауэр может оказаться недолговечным. В бою побеждает тот, кто стреляет первым, и если заставить дрона ждать, пока человек примет решение, инициатива может перейти к противнику. Война по своей сути — это соревнование, которое влечет за собой тяжелые последствия для проигравших. Это затрудняет отказ от любого преимущества.
|
|
|
|
Бендетт объясняет, ЧТО АТАКА БЕСПИЛОТНИКОВ В марте 2020 года ВПОЛНЕ МОЖЕТ БЫТЬ ПРИЗНАКОМ ГРЯДУЩИХ СОБЫТИЙ: “В России военные уже почти десять лет обсуждают массовое применение роботизированных и автономных систем для вывода солдат из опасного боя и подавления обороны противника, что облегчает проведение последующих операций.- о забастовках.”
|
|
|
|
По словам Бендетта, боевые действия беспилотников против беспилотных летательных аппаратов уже имели место. “В ходе одного из ключевых сражений в марте 2024 года российские боевые беспилотные наземные машины приблизились к украинским позициям в рамках штурма, но были выбраны в качестве мишени и уничтожены украинскими беспилотниками с видом от первого лица. В этом столкновении системами обеих сторон управляли люди’операторы”.
|
|
|
|
Условия ведения боевых действий высокой интенсивности в Украине вынуждают все больше полагаться на автономное оружие. Украинская армия страдает от острой нехватки рабочей силы и при любой возможности использует беспилотники. “В Украине, - объясняет Бендетт, - волонтеры, работающие над разработкой отечественных беспилотников, неоднократно заявляли, что первыми должны сражаться роботы, а затем люди”.
|
|
|
|
Эксперты считают, что “человек в курсе событий” незаменим сейчас и в обозримом будущем как средство предотвращения трагедий, говорит Зак Калленборн, эксперт по роботам-убийцам, оружию массового уничтожения и беспилотным летательным аппаратам из Школы политики и государственного управления Schar. “Современные системы машинного зрения склонны к непредсказуемым и легким ошибкам”.
|
|
|
|
Ошибки могут иметь серьезные последствия, такие как выход конфликта из-под контроля, гибель людей в результате несчастных случаев и эскалация насилия. “Представьте, что автономное оружие стреляет в солдата, не являющегося стороной конфликта. Смерть солдата может втянуть его или ее страну в конфликт”, - говорит Калленборн. Или же автономное оружие может нанести непреднамеренный ущерб, особенно если речь идет об автономном ядерном оружии, добавляет он.
|
|
|
|
Некоторые поля сражений действительно выигрывают от большей автономии ИИ, поскольку там меньше возможностей нанести вред мирному населению. “Автономное оружие, защищающее корабль в море от приближающихся ракет, самолетов и беспилотных летательных аппаратов, на самом деле не представляет большого риска. Маловероятно, что тонна гражданских самолетов будет летать в разгар морского сражения посреди океана”, - объясняет Калленборн.
|
|
|
|
Хотя физическая смелость, возможно, и не обязательна для того, чтобы отнимать жизни, Калленборн отмечает, что человеческий фактор сохраняет еще одну форму мужества в акте убийства - моральную смелость. То, что люди должны нести окончательную ответственность за лишение жизни, является старым аргументом. “Во время гражданской войны люди возражали против использования наземных мин, потому что это был бесчестный способ ведения войны. Если вы собираетесь убить человека, имейте порядочность нажать на курок самостоятельно”. Если убрать человеческий компонент, останется только холодная логика искусственного интеллекта... и любые ошибки, которые могут быть скрыты в этой запрограммированной логике.
|
|
|
|
Если автономное оружие, разрешенное для открытия огня по людям, - это неизбежное будущее, как полагают некоторые армии и эксперты, станет ли ИИ когда-нибудь таким же опытным, как люди, в отличии вражеских комбатантов от невинных прохожих? Будут ли армии будущего просто мириться с жертвами среди гражданского населения в качестве цены за скорейшее окончание войны? Эти вопросы пока остаются без ответа. И у человечества может не быть много времени, чтобы ломать голову над этими вопросами, прежде чем будущее придет с применением силы.
|
|
|
|
Источник
|
