Пентагон становится как бы банком

Это официально — Пентагон становится банком. Ну, вроде того. На мероприятии, посвящённом технологиям двойного назначения, проходившем 8 марта в SXSW в Остине, штат Техас, директор Управления стратегического капитала (УСК) Джейсон Ратье объявил: его команда официально получила внутренние полномочия по предоставлению займов для руководителей и кредитных гарантий в Пентагоне.

УСК было создано в ответ на растущую обеспокоенность по поводу инвестиций Китая в технологии следующего поколения. Согласно инвестиционной стратегии, опубликованной 8 марта, Управление будет инвестировать в фирмы, исследующие и разрабатывающие 14 «критических технологий», включая гиперзвук, квантовые вычисления, микроэлектронику, автономные системы и искусственный интеллект.

Пережив непростой первый год, отмеченный обвинениями в конфликте интересов со стороны сенатора Элизабет Уоррен (штат Массачусетс) и сложными вопросами по поводу финансирования, УСК теперь близок к лицензированию своих первых фондов в рамках совместной программы кредитования с Администрацией малого бизнеса. Кредиты УСК требуют частного финансирования, соответствующего их займам, что открывает путь для выхода на рынок небольших оборонных технологических компаний с агрессивными инвестиционными стратегиями.

Венчурные капиталисты вложили деньги во многие объекты, которые сейчас входят в список «критических технологий». Это делает их хорошо подготовленными к получению кредитов от УСК. По одной из оценок New York Times, компании венчурного капитала потратили на военные технологии около 6,7 миллиарда долларов в 2016 году и до 34 миллиардов долларов в 2022 году.

Однако до сих пор они заключали относительно мало государственных контрактов, что заставило некоторых технологических предпринимателей обвинить Пентагон в том, что он лишь на словах поддерживает инновации, фактически не финансируя инновационные предприятия. По данным Palantir («единорога» в мире оборонных технологий, основанного Питером Тилем), 100 крупнейших военных стартапов, финансируемых венчурным капиталом, заработали на государственных контрактах всего где-то от 2 до 5 миллиардов долларов. Отчасти это происходит из-за подхода Кремниевой долины «действуй быстро и ломай всё», для которой бюрократия Пентагона напоминает смирительную рубашку.

Марк Андреессен, соучредитель Andreessen Horowitz и инвестор во многие оборонные технологические фирмы в рамках своей инициативы American Dynamism, воплощает эту психологию. Он увлечён  новыми технологиями и отказом от принципа предосторожности, который призывает к благоразумию перед лицом неопределённости. 

В своём эссе «Манифест технооптимиста» (The Techno-Optimist Manifesto) Андреессен пишет: «Мы верим, что машина технокапитала не античеловеческая. На самом деле, это, возможно, самая прогуманистическая вещь из всех существующих. Она служит нам. Машина технокапитала работает на нас. Все машины работают на нас».

Именно в этом послание венчурных капиталистов в области оборонных технологий отличается от послания основных подрядчиков, таких как RTX (ранее известная как Raytheon) и Lockheed Martin. Вместо лирических высказываний о безопасности приверженцы технологий проповедуют использование искусственного интеллекта для преодоления слабостей самой человеческой природы. Вдохновлённые своим театральным духом «да, и...», они обещают создать почти утопию в руках «машины технокапитала».

«Силиконовая долина — это культура строителей, а Вашингтон никогда не станет культурой строителей. Я думаю, люди просто должны смириться с этим», — утверждала Кэтрин Бойл, соучредитель инициативы Андреессена по американскому динамизму.

Итак, как же выглядит эта «материальная философия» на практике? Shield AI — компания, в которую Андреессен инвестировал через American Dynamism — предлагает автономные рои на базе искусственного интеллекта, которые утверждают, что владеют «цепочкой убийств от начала до конца», как в «сцене из Top Gun 2». Palantir продемонстрировал языковую модель, которая анализирует поля сражений и генерирует планы действий для человека-оператора. Как выразился военный аналитик Ван Джексон, УСК «создало различные нормативные исключения и гарантированные федеральным правительством займы, чтобы стимулировать венчурных капиталистов к масштабному внедрению технологий смерти».

Даже если их обещания более грандиозны, бизнес-модель извлечения выгоды из нестабильности остаётся неизменной. На дискуссии о государственно-частном партнёрстве в SXSW бывший олимпийский чемпион Ларсен Дженсен, ставший венчурным капиталистом, сказал, что вторжение России в Украину является «огромным катализатором» для изменения инвестиционной среды в области национальной безопасности.

«Было много других катализаторов, которые произошли, если вы вспомните, что было до этого. 11 сентября было катализатором, — сказал Дженсен. — Многие компании, которые в противном случае не существовали бы в оборонной промышленности, такие как General Atomics, вероятно, во многом обязаны своим успехом геополитическому катализатору, который, вы знаете, был, очевидно, неудачным для Соединённых Штатов. Но Predator, вероятно, не был бы таким плодовитым, как сейчас, и ранние подачи автономии не были бы так важны, как сейчас, если бы не эта трагедия».

Не нужно быть луддитом, чтобы понять, что Пентагону следует проявлять осторожность при партнёрстве с венчурными фирмами в изучении таких технологий, как языковые модели на базе искусственного интеллекта и автономное оружие. Как предупреждает Крейг Мартелл, глава Главного управления цифровых технологий и искусственного интеллекта в Пентагоне, чат-боты с искусственным интеллектом «говорят авторитетно, поэтому мы просто верим им», несмотря на то, что эти устройства часто выдают вводящие в заблуждение или откровенно ложные ответы. 

В новом отчёте Public Citizen Роберт Вайсман и Саванна Вутен утверждают, что автономное оружие может привести к дегуманизации или даже потере контроля над человеком. «Рои, управляемые искусственным интеллектом, включают автономных агентов, которые будут взаимодействовать друг с другом и координировать свои действия, вероятно, способами, не предусмотренными людьми, а также, вероятно, неразборчивыми для людей в режиме реального времени», — пишут Вайсман и Вутен.

У Пентагона есть несколько мер предосторожности, которые призывают к осторожности с такими технологиями, как искусственный интеллект и автономное оружие. Директива Пентагона, изданная всего через месяц после создания УСК в январе 2023 года, требует, чтобы автономное оружие было разработано таким образом, чтобы люди-операторы могли проявлять «надлежащий уровень человеческого суждения о применении силы», устанавливает стандарты тестирования и оценки автономного оружия и предписывает цепочку проверок для утверждения, среди прочих требований.

Ряд критиков за пределами департамента задаются вопросом, заходит ли этот подход достаточно далеко. В обзоре, проведённом Human Rights Watch и Harvard Law School International Human Rights, отмечается, что директива допускает значительные лазейки, в том числе позволяет отказаться от проверки автономного оружия «в случаях неотложной военной необходимости». Вайсман и Вутен утверждают, что «самым большим недостатком директивы является то, что она разрешает разработку и развёртывание смертоносного автономного оружия».

Фирмы венчурного капитала ищут больше поддержки на внутреннем рынке. Эту проблему УСК не может полностью решить. Как объясняет адъюнкт-профессор Стэнфордского университета Стив Бланк: «Существует проблема спроса, а не проблема финансирования». Венчурным капиталистам требуется убедить правительство США отбросить опасения, которые они могут испытывать по поводу новых технологий, и купиться на техноутопическое видение, которое они продают.

Чтобы убедить правительство в большей степени соответствовать дерзкому футуризму Кремниевой долины, компании, работающие в сфере оборонных технологий и поддерживаемые венчурным капиталом, наращивают свои лоббистские операции. В 2023 году Palantir потратила более 5 миллионов долларов, лоббируя Конгресс против «регулирования ИИ». Shield AI потратила более 1 миллиона долларов на лоббирование в 2023 году. В частности, она лоббировала Министерство обороны напрямую по «вопросам, связанным с автономией и искусственным интеллектом». Anduril — ещё одна компания оборонных технологий, поддерживаемая Андреессеном — потратила более 1,5 миллионов долларов на лоббирование в Конгрессе вопросов, связанных с «беспилотными и автономными системами», включая автономные сторожевые вышки на границе США и Мексики.

OpenAI — создатель ChatGPT — также дал понять, что, возможно, захочет воспользоваться долларами Пентагона. Как сообщал The Intercept, ранее в этом году OpenAI незаметно удалил формулировку, запрещающую военным использовать его технологию. На этой неделе бывший сенатор Норм Коулман зарегистрировался в качестве лоббиста OpenAI.

УСК — это самый большой шаг Кремниевой долины к формированию Пентагона по своему образу и подобию. Это признак того, что они вступают в контакт с высшими должностными лицами. Но если венчурные капиталисты продолжат торопить разработку и внедрение непроверенных, рискованных технологий, даже при том, что они массово наживаются в процессе, кто-то должен совершить смертный грех благоразумия: вмешаться и установить некоторые правила.

Источник