Инструмент холодной войны для новой эпохи технологий
Отношения между Министерством обороны США и одной из ведущих в мире компаний в области искусственного интеллекта достигли критической точки. Министр обороны Pete Hegseth выдвинул Anthropic жесткий ультиматум: согласиться разрешить неограниченное военное использование своих AI-технологий к пятнице или столкнуться с полным исключением из оборонно-промышленной цепочки Пентагона.
Угроза прозвучала во время напряженной встречи в Вашингтоне во вторник, где Hegseth вызвал генерального директора Anthropic Dario Amodei на то, что источники описали как конфронтационное обсуждение отказа компании предоставить военным беспрепятственный доступ к своим моделям AI для засекреченных операций. Среди наиболее спорных требований были положения о возможностях внутреннего наблюдения и автономных боевых миссиях без прямого контроля человека.
Пожалуй, самым поразительным было обращение Hegseth к Закону о мобилизации промышленности, закону эпохи холодной войны, который дает президенту широкие полномочия принуждать отечественные промышленные предприятия служить приоритетам национальной обороны. Первоначально разработанный, чтобы гарантировать, что заводы смогут перейти на военное производство, этот закон никогда не использовался для принуждения AI-компании передать свою технологию — что делает эту угрозу беспрецедентной в истории американской политики в области технологий.
Подход Anthropic, ориентированный на безопасность, под давлением
Anthropic давно выделялась в индустрии AI благодаря своему акценту на исследования безопасности и ответственное внедрение. Компания, основанная бывшими исследователями OpenAI Dario и Daniela Amodei, построила свой бренд вокруг концепции constitutional AI — систем, разработанных со встроенными этическими барьерами, предназначенными для предотвращения неправомерного использования.
Эта философия приоритета безопасности теперь поставила компанию на курс столкновения с растущим аппетитом Пентагона к интеграции AI в военные операции. Хотя Anthropic не возражала против всех оборонных контрактов, она провела четкую границу вокруг определенных приложений, особенно тех, которые включают автономное летальное воздействие без значимого контроля человека и программы массового наблюдения, направленные на внутреннее население.
Позиция компании отражает более широкие дебаты в индустрии AI о том, где проводить этические границы. Другие крупные AI-компании, включая OpenAI и Google, также боролись с военными контрактами, хотя большинство были более готовы вести переговоры об условиях взаимодействия с оборонными агентствами. Более жесткая позиция Anthropic сделала её громоотводом в становящейся все более агрессивной попытке Вашингтона вооружить искусственный интеллект.
Закон о мобилизации промышленности: необычное оружие
Закон о мобилизации промышленности был подписан в 1950 году, на ранних этапах войны в Корее. Его первоначальная цель была простой: гарантировать, что американская промышленность может быстро перестроить производство для поддержки военных нужд. На протяжении десятилетий он использовался для всего — от производства полупроводников до сетей поставок медикаментов во время пандемии.
Но применение Закона о мобилизации промышленности для принуждения AI-компании к предоставлению доступа к своим моделям представляет принципиально другой вид вмешательства. В отличие от физических товаров, модели AI являются интеллектуальной собственностью, возможности и риски которой глубоко переплетены. Принуждение компании снять защитные механизмы безопасности с ее технологии поднимает вопросы, которые выходят далеко за рамки традиционных споров о закупках.
Юридические эксперты отметили, что такое использование Закона о мобилизации промышленности, вероятно, столкнется с немедленными судебными исками. Закон был разработан для производства и приоритетов цепочки поставок, а не для отмены внутренней политики безопасности компании относительно того, как развертывается ее технология. Любая попытка применить его может создать прецедент с далеко идущими последствиями для всего технологического сектора.
Реакции индустрии и более широкие последствия
Противостояние вызвало потрясение в Silicon Valley. Другие AI-компании внимательно следят за развитием событий, понимая, что исход может установить новые нормы того, как правительство взаимодействует с частным AI-сектором. Несколько руководителей отрасли приватно выразили обеспокоенность тем, что уступка требованиям Пентагона может подорвать исследования безопасности, которые многие считают необходимыми для предотвращения катастрофического неправомерного использования AI.
Реакции Конгресса были неоднозначны. Ястребы в комитетах вооруженных сил поддержали позицию Hegseth, утверждая, что национальная безопасность должна иметь приоритет над корпоративными предпочтениями безопасности. Другие, особенно члены Сенатского комитета по торговле, предупредили, что давление на AI-компании может вывести таланты и инновации за границу, в конечном итоге ослабляя конкурентные позиции Америки.
Европейский союз также обратил внимание на происходящее. Официальные лица ЕС указали на конфронтацию как на доказательство, подтверждающее их собственный более регулирующий подход к управлению AI, причем один старший дипломат отметил, что этот эпизод подчеркивает риски оставления решений о безопасности AI на усмотрение политических назначенцев.
Что дальше
Пятничный срок нависает угрозой. Если Anthropic откажется подчиниться, Hegseth может исполнить свою угрозу исключить компанию из каналов оборонных закупок, перекрыв значительный источник доходов и подав сигнал другим AI-фирмам. Вариант с использованием Закона о мобилизации промышленности остается на столе, но представлял бы гораздо более драматическое обострение с неопределенными правовыми последствиями.
Для Anthropic расчет экзистенциален. Капитуляция может подорвать принципы безопасности, которые определяют идентичность компании, и подорвать доверие работников, которые присоединились именно из-за этических обязательств компании. Сопротивление может стоить компании не только государственных контрактов, но и политической благодарности в то время, когда регулирование AI активно формируется в Вашингтоне.
Независимо от результата, конфронтация сделала одно ясным: медовый месяц между AI-компаниями и правительством закончился. Эпоха вежливого сотрудничества в области AI-политики сменяется жесткими переговорами, где ставки измеряются не квартальными прибылями, а фундаментальными вопросами о том, как будет управляться самая мощная технология в истории человечества.
Эта статья основана на материалах Ars Technica. Прочитайте исходную статью.
