Nástroj studené války pro novou technologickou éru
Vztah mezi americkým ministerstvem obrany a jednou z vedoucích společností umělé inteligence na světě dosáhl bodu zlomu. Ministr obrany Pete Hegseth vydal jednoznačný ultimátum vůči Anthropic: souhlaste s tím, aby byla vojenská používání vaší AI technologie neomezená do pátku, nebo se budete muset vypořádat s vyloučením z dodavatelského řetězce Pentagonu.
Hrozba padla během napjaté schůzky v Peterburgu v úterý, kde Hegseth svolal generálního ředitele Anthropic Daria Amodeia na to, co zdroje popsaly jako konfliktní diskusi o odmítnutí společnosti poskytnout vojenským složkám neomezený přístup k jejím modelům AI pro utajené operace. Mezi nejpornějšími požadavky byly ustanovení pro domácí bezpečnostní schopnosti a smrti autonomní mise bez přímé lidské kontroly.
Snad nejpříměřenější byla Hegsethova zmínka o zákoně o obraně výroby, zákonu z doby studené války, který dává prezidentovi rozšířené pravomoci nutit domácí průmysl sloužit cílům národní obrany. Původně navrhnutý k zajištění, aby továrny mohly přejít na válečný výrobní čas, zákon nebyl nikdy dříve použit k vynucení, aby společnost AI předala svou technologii — to dělá tuto hrozbu v historii americké technologické politiky bezprecedentní.
Bezpečnostní pozice Anthropic pod tlakem
Anthropic se dlouhodobě v průmyslu AI rozlišovala důrazem na bezpečnostní výzkum a odpovědné nasazení. Společnost, založená bývalými výzkumníky OpenAI Dariusem a Danielou Amodei, postavila svou značku kolem konceptu ústavní AI — systémů navržených s vestavanými etickými zábrany určenými k prevenci zneužití.
Tato bezpečnostně první filozofie nyní postavila společnost na kurz střetu s rostoucím apetitem Pentagonu pro integraci AI do vojenských operací. Zatímco Anthropic se nesnažila proti všem obranným smlouvám, společnost nakreslila pevné linie kolem určitých aplikací, zejména těch zahrnujících autonomní smrtící sílu bez významné lidské kontroly a programy hromadného sledování zaměřené na domácí obyvatelstvo.
Postoj společnosti odráží širší debatu v průmyslu AI o tom, kde nakreslit etické hranice. Další hlavní AI společnosti, včetně OpenAI a Google, se také potýkaly s vojenskými smlouvami, ačkoliv většina byla ochotnější vyjednávat podmínky zapojení s obrannou agenturou. Tvrdší linie Anthropic ji učinila hromosvodem v čím dál více agresivním tlaku Washingtonu na zbrojení umělé inteligence.
Zákon o obraně výroby: neobvyklá zbraň
Zákon o obraně výroby byl podepsán v roce 1950 na počátku války v Koreji. Jeho původní účel byl jednoduchý: zajistit, aby americký průmysl mohl rychle přeorientovat výrobu tak, aby podporoval vojenské potřeby. V průběhu desetiletí byl vyvolán pro všechno, od výroby polovodičů až po řetězce zdravotnického vybavení během pandemie.
Aplikace DPA na vynucení, aby společnost AI poskytla přístup k jejím modelům, představuje zásadně jiný typ zásahu. Na rozdíl od fyzických zboží jsou modely AI duševním vlastnictvím, jehož schopnosti a rizika jsou hluboce spletena. Nucení společnosti, aby odstranila bezpečnostní zábrany ze své technologie, vyvolává otázky, které sahají daleko za tradičních nákupní spory.
Právní odborníci poznamenali, že takové použití DPA by se pravděpodobně setkalo s okamžitými právními návrhy. Zákon byl navržen pro prioritami v oblasti výroby a dodavatelských řetězců, nikoli pro zrušení vnitřní politiky bezpečnosti společnosti týkající se nasazení její technologie. Jakýkoliv pokus jej vyvolat by mohl stanovit precedens s dlouhodobými důsledky pro celý technologický sektor.
Průmyslové reakce a širší důsledky
Konfrontace poslala otřesy přes Silicon Valley. Další AI společnosti pečlivě sledují, vědomé, že výsledek by mohl určit nové normy pro to, jak vláda komunikuje se soukromým sektorem AI. Několik průmyslových vůdců soukromě vyjádřilo obavu, že podvolení požadavkům Pentagonu by mohlo podkopat bezpečnostní výzkum, kterou mnoho lidí považuje za nezbytné k předcházení katastrofálnímu zneužití AI.
Odpovědi Kongresu byly smíšené. Jestřábů v komisích ozbrojených služeb podpořili Hegsethovo postavení, s argumentem, že národní bezpečnost by měla mít přednost před korporativními bezpečnostními preferencemi. Jiní, zejména členové Senátního výboru pro obchod, varovali, že tvrdý přístup vůči AI společnostem by mohl vést talenty a inovace do zahraničí, což by nakonec oslabilo konkurenční pozici Ameriky.
Také Evropská unie si toho všimla. Představitelé EU upozornili na konfrontaci jako důkaz podporující jejich vlastnější regulační přístup ke správě AI, přičemž jeden starší diplomat poznamenal, že epizoda zdůrazňuje rizika odevzdání rozhodnutí o bezpečnosti AI na vůli politických jmenovanců.
Co se bude dít dál
Pátek deadline se blíží. Pokud se Anthropic odmítne podrobit, Hegseth by mohl realizovat svou hrozbu odstranit společnost z kanálů obranného nákupu, přestřihnout významný proud příjmů a poslat zprávu ostatním AI společnostem. Možnost zákona o obraně výroby zůstává na stole, ale bude představovat mnohem dramatičtější eskalaci s nejistými právními výsledky.
Pro Anthropic je výpočet existenciální. Kapitulace by mohla podkopat bezpečnostní principy, které definují její identitu korporátu, a erodovat důvěru zaměstnanců, kteří se připojili konkrétně kvůli bezpečnostním závazkům společnosti. Odpor by mohl stát společnost nejen státní smlouvy, ale také politickou vůli v čase, kdy je regulace AI aktivně tvarována ve Washingtonu.
Bez ohledu na výsledek konfrontace učinila jasnou jednu věc: líbanka mezi AI společnostmi a vládou je skončena. Doba zdvořilé spolupráce na politice AI ustupuje místům tvrdých jednání, kde se sázky měří ne ve čtvrtletních ziscích, ale v zásadních otázkách, jak bude řídić nejvýkonnější technologie v historii lidstva.
Tento článek je založen na reportéži z Ars Technica. Přečtěte si původní článek.
