Плюсы и минусы искусственного интеллекта

Bоенно-морские силы продолжают наблюдать за международными торговыми маршрутами от Красного моря до Арабского залива при помощи обширной сети плавающих, летающих и подводных сенсоров.

Эти ценные «глаза» на воде, которые охотятся на контрабандистов, террористов и иных преступников, собирают миллионы снимков. Сортировка такого огромного объема данных становится настоящим испытанием для солдат и матросов. 

Новый партнер на поле боя – искусственный интеллект (ИИ) – предоставляет возможности сортировки и фильтрации во избежание аналитической перегрузки. 

В зависимости от параметров, заданных программистами-людьми, системы ИИ могут сократить миллионы изображений до нескольких сотен, на которых действительно видны угрозы на море. Это позволяет военным использовать суда и летательные аппараты более эффективно и целенаправленно. 

«Мы способны двигаться на скоростях, которые раньше были немыслимыми», – замечает заместитель командующего Центральным командованием вице-адмирал ВМС США Брэд Купер. 

Так же, как и коммерчески доступное производство электроэнергии в XIX веке, ИИ является технологией для общих целей и потенциально может иметь тысячи применений. Способность фильтровать большие объемы данных быстрее чем человеческий мозг находится в числе свойств систем искусственного интеллекта, приносящих пользу в военной сфере. 

Однако противники регионального и глобального уровней также поставили ИИ себе на службу, в основном при проведении кампаний дезинформации, нацеленных на дестабилизацию обществ и ослабление их решимости защищать себя. Поддельные аудио- и видеоматериалы, в некоторых из которых используются синтезированные голоса и изображения, становится все труднее отличить от настоящих. 

Деструктивная сила ИИ при использовании его в глобальной стратегической конкуренции стала темой конференции в Университете Южной Флориды в США в марте 2024 г. На этой конференции, спонсированной Институтом глобальной и национальной безопасности, американские военные командиры, эксперты в сфере ИИ и академические исследователи собрались вместе для обсуждения роли ИИ в международной безопасности.  

Преимущества ИИ

Цель ИИ – способность компьютеров обучаться, основываясь на обновленных данных и прошлом опыте – помощь в более разумном принятии решений для людей-пользователей. Это нашло применение и за пределами оборонной сферы, например, в военно-морских операциях в Красном море. В этом случае способность просеивать горы разведывательных отчетов могут помочь военным более точно выбирать цели. 

Эксперты пришли к единогласию относительно критериев полезности ИИ в военной области. Экономит ли он время? Делает ли он работу военного более безопасной? Обеспечивает ли он лучшие результаты? 

«Это единственные критерии измерения успеха», – пояснил в ходе конференции главный специалист по технологиям в Центральном командовании США Скайлер Мур. 

Военные руководители предупредили, что допустить автономное функционирование ИИ было бы ошибкой. Чтобы избежать трагических ошибок, человек-оператор должен оставаться задействованным. ИИ все еще не принимает сложных решений. В этом смысле это «тупая технология», она хороша ровно настолько, насколько хороши люди, спрограммировавшие ее. Ее полезность больше в количественном накоплении данных, чем в оценке их качества. В области защиты от баллистических ракет просчет ИИ имел бы катастрофические последствия. Зависимость от потока данных, генерируемых ИИ, во время боевых действий может привести к поспешным реактивным решениям, в то время, когда требуется спокойное стратегическое мышление, считает д-р Питер Бовет Эмануэль из Центра исследований специальных операций Военного университета Швеции. 

Модели ИИ являются полезным инструментом при прогнозировании намерений противника, но противники часто стараются действовать не в соответствии с этими моделями в конкурентной игре единоличного превосходства, и поэтому военные офицеры подчеркивают необходимость в человеческой интуиции, чтобы обнаружить неверные или вводящие в заблуждения результаты, выданные системой ИИ. 

Использование ИИ в дезинформации

Способность ИИ синтезировать язык, изображения и аудиоматериалы могут иметь серьезные последствия для национальной и международной безопасности. Некоторые страны стараются идти дальше в своих агрессивных целях, имитируя изображения и голоса военных командиров противника для того, чтобы ослабить сопротивление в войсках другой стороны. Рассматривая ситуацию в еще более крупном плане, сгенерированные ИИ когнитивные кампании с потоком фейковой информации могут уничтожить желание страны защищать себя еще даже до начала боевых действий. По мере развития технологий созданные при помощи ИИ статьи с фейковыми новостями зачастую почти невозможно обнаружить. Среди жертв были и президенты государств. 

«Мы увидим еще больше подобных примеров», – уверен д-р Тодд Хелмус, исследующий модели поведения ученый, который работал с американскими военными и изучал поведение боевиков и радикалов на Ближнем Востоке и в Южной и Центральной Азии. 

Осуществление надзора за злонамеренным использование ИИ представляет сложную задачу. Большинство инноваций в манипуляциях изображениями и аудиоматериалами рождаются у создателей контента, которые могут быть не связаны с каким-либо национальным правительством. 

В руках злоумышленников искусственно созданный медийный материал может стать «оружием цифровой массовой дестабилизации», – считает финский эксперт в области манипулирования ИИ д-р Вилма Луома-ахо. 

Хелмус описал мир, в котором при помощи автоматизированного ИИ непримиримые противники штампуют бесконечные потоки ложного контента. США и их партнеры должны опровергать вбросы наиболее опасной ложной информации, однако у этого вида защиты есть ограничения. Эксперты настойчиво предлагают странам основное внимание сосредоточить на обучении учащихся навыкам критического мышления. Это позволит людям самим проводить оценку потоков сгенерированной компьютерами ложной информации, которые на них неизбежно обрушатся. 

«Простое обнаружение такой информации не будет для нас спасением», – уверен Хелмус.

Прогнозирующая сила ИИ

Еще одной военной областью обширного применения ИИ являются военные учения, прогнозирование угроз и выработка мер борьбы с ними. Способность ИИ собирать и сортировать данные на любом языке позволяет осуществляющим планирование военным создавать модели и сценарии, тратя на это лишь малую часть того времени, которое требовалось для этого ранее. 

ИИ помогает организаторам учений предсказывать отдаленные угрозы и определить их приоритетность в зависимости о их степени серьезности. «Пять или шесть месяцев на разработку сценария – это слишком долго», – отметил Уолтер Кулзи, старший научный сотрудник по исследованиям операций в Университете им. Джонза Хопкинса в США. 

Вот этапы военных учений, которые планируются при помощи ИИ:

Сбор информации, угрожающей сложившемуся статус–кво. Эти «сигналы» и «разрушители» группируются в тренды. 

Генерирование сценариев на основе этих трендов и прогнозирование альтернативных результатов.  

Проецирование будущих последствий, адаптированных под нужды той организации, которой требуется прогноз. 

Оценка направлений действий в ответ на тренды и угрозы. 

Обеспечение принятия обоснованных решений – будь то решения относительно сценариев военных учений, приобретения новых вооружений и оборонных систем или увеличения или сокращения вооруженных сил. 

Как и с другими применениями ИИ в сфере безопасности, эта система хороша ровно настолько, насколько хорош надзор за ней со стороны человека. Эффективная система ИИ будет основана на доказательствах, что позволит осуществляющим планирование военным отследить обратный путь информации к ее первоисточнику, чтобы проверить ее надежность. Такая система также должна генерировать адекватные сценарии, повторяющие все сложности реального мира. 

«Люди важнее аппаратного обеспечения», – подчеркнул командующий командования специальных операций США генерал Брайан Фентон.