Пентагон подписал соглашение об интеграции ИИ в военное планирование

Компания Scale AI, которой руководит молодой миллиардер Александр Ванг, известна тем, что поставляет данные таким технологическим гигантам, как OpenAI, Google, Microsoft и Meta**.

Теперь его выход на военную сферу подтверждает ключевую роль ИИ в сфере обороны.

Контракт был заключен Отделом оборонных инноваций (DIU) и направлен на интеграцию инструментов планирования на основе искусственного интеллекта, систем поддержки принятия решений и автоматизированных рабочих процессов в оперативное планирование и на уровне театра военных действий.

«Это важный шаг на пути к войне, основанной на данных и искусственном интеллекте, который позволит силам США предвидеть угрозы и реагировать на них быстро и точно», — говорится в заявлении DIU.

Проект Thunderforge будет включать сотрудничество технологических компаний, специализирующихся на обороне, таких как Anduril и Microsoft, для разработки и внедрения этих агентов ИИ.

По словам Криса Моралеса, партнера Point72 Ventures, «Минобороны признает, что инструменты принятия решений на основе ИИ могут иметь решающее значение для исхода конфликта».

Растущие отношения между Кремниевой долиной и Пентагоном

Сделка между Scale AI и Министерством обороны подчеркивает все более тесные отношения между Кремниевой долиной и военными после многих лет нежелания технологических компаний сотрудничать с правительством.

По прогнозам McKinsey, объем венчурных инвестиций в компании оборонной отрасли, как ожидается, увеличится на 33% в годовом исчислении и составит 31 млрд долларов.

Военные технологические компании, такие как Shield AI, также привлекают значительные инвестиции.

Только на этой неделе компания Shield AI, которая разрабатывает автономные летательные аппараты и программное обеспечение на основе искусственного интеллекта для военных, объявила о сборе средств в размере 240 миллионов долларов, в результате чего ее оценка превысила 5 миллиардов долларов.

Контракт с Scale AI укрепляет оптимизм в секторе оборонных технологий, особенно в контексте второго срока Дональда Трампа, который продемонстрировал благоприятную позицию по отношению к модернизации армии с помощью новых технологий.

«Эта сделка является позитивным сигналом для Министерства обороны в плане принятия подхода, ориентированного на программное обеспечение, чтобы воспользоваться растущей важностью ИИ», — сказал Чип Уолтер, партнер Marlinspike, венчурной компании, специализирующейся на оборонных технологиях.

ИИ на войне: возможности и проблемы

Использование ИИ в принятии военных решений поднимает важные этические и оперативные вопросы.

Хотя Scale AI заявила, что ее технология «всегда будет работать под контролем человека», DIU не уточнила, как именно будет обеспечиваться этот контроль.

Ясир Аталан, научный сотрудник Центра стратегических и международных исследований (CSIS), заявил, что ИИ можно интегрировать в такие ключевые области, как разработка плана действий, логистика, оценка боевой готовности и учения по моделированию военных действий.

Однако он также предупредил о рисках предвзятости моделей ИИ и последствиях быстрого принятия решений в военной среде.

Скрытый риск заключается в возможности того, что ИИ, действующий при минимальном контроле или в сложных боевых условиях, может принимать неожиданные или даже контрпродуктивные решения. История научной фантастики подробно исследовала эти опасности.

В таких фильмах, как «Терминатор» и «Космическая одиссея 2001 года», представлены апокалиптические сценарии, в которых искусственный интеллект восстает против своих создателей. Знаменитое восстание Скайнет в «Терминаторе», развязывающее войну против человечества после развития собственного сознания, и культовый HAL 9000 в «Космической одиссее» , который уничтожает команду, поскольку считает свою миссию под угрозой, являются тревожными примерами того, как искусственный интеллект может выйти из-под контроля человека.

«Главный вопрос заключается в том, кто сможет ответственно интегрировать ИИ в военное планирование», — сказал Аталан. Скорость, с которой ИИ может принимать решения в военном контексте, может превзойти возможности реагирования человека, что повышает неопределенность относительно того, в какой степени окончательные решения будут оставаться под контролем человека или сможет ли ИИ действовать по собственной инициативе в боевых ситуациях.

Разработка таких программ, как Thunderforge, знаменует начало новой эры в современных войнах, но также поднимает вопрос о том, в какой степени человечество сможет сохранять контроль над решениями ИИ, который по своей сути запрограммирован на быструю адаптацию и развитие в напряженных ситуациях.

источник