כלי מלחמת הקור לעידן הטכנולוגיה החדש
הקשר בין משרד ההגנה של ארצות הברית לאחת מחברות בינה מלאכותית המובילות בעולם הגיע לנקודת שבירה. שר ההגנה פיט הגסת הוציא אולטימטום ברור ל-Anthropic: הסכים לאפשר שימוש צבאי בלתי מוגבל בטכנולוגיית ה-AI שלך עד יום שישי, או תעמוד בפני הסרה מרשת הספקים של הפנטגון.
האיום הגיע במהלך פגישה מתוחה בוושינגטון ביום שלישי, שבה הגסת זימן את מנכ"ל Anthropic דריו אמודיי לדיון שמקורות תיארו כעימות לגבי סירוב החברה להעניק גישה צבאית בלתי מוגבלת לדגמי ה-AI שלה לפעולות סיווגיות. בין הדרישות השנויות במחלוקת ביותר היו הוראות ליכולות מעקב פנימי ותפקידים אוטונומיים קטלניים ללא פיקוח אנושי ישיר.
אולי המדהים ביותר היה התייחסות הגסת לחוק הייצור להגנה, חוק מתקופת מלחמת הקור המעניק לנשיא סמכויות רחבות לאלץ תעשיות מקומיות לשמש עדיפויות הגנה לאומית. שדגם תוכנן במקור כדי להבטיח שמפעלים יכולים לעבור לייצור זמן מלחמה, החוק לא הוצא לפועל אף פעם כדי לאלץ חברת AI להוציא את הטכנולוגיה שלה — מה שהופך את האיום הזה לחסר תקדים בהיסטוריה של מדיניות הטכנולוגיה האמריקאית.
העמדה המוקדשת לבטיחות של Anthropic תחת לחץ
Anthropic התבדלה זה מכבר בתעשיית AI דרך הדגש שלה על מחקר בטיחות והטמעה אחראית. החברה, שנוסדה על ידי חוקרים לשעבר של OpenAI דריו ודניאלה אמודיי, בנתה את המותג שלה סביב קונספט של AI חוקתית — מערכות שתוכננו עם מגבלות אתיות מובנות שנועדו למנוע שימוש לרעה.
פילוסופיה זו המעמידה בראש בטיחות שמה כעת את החברה בנתיב התנגשות עם הרצון הגובר של הפנטגון לשילוב AI בכל פעולות צבאיות. בעוד שAnthropicלא התנגדה לכל חוזקות הגנה, החברה הציבה קווים חדים סביב יישומים מסוימים, במיוחד אלה הכוללים כוח אוטונומי קטלני ללא שליטה אנושית משמעותית ותוכניות מעקב המוני המכוונות לאוכלוסיות מקומיות.
העמדה של החברה משקפת ויכוח רחב יותר בתעשיית AI לגבי היכן לשרטט גבולות אתיים. חברות AI עיקריות אחרות, כולל OpenAI ו-Google, גם קיבלו קרבות על חוזקות צבאיים, אם כי רובן היו מוכנות יותר לנהל משא ומתן על תנאי העסקה עם סוכנויות הגנה. הקו הקשה יותר של Anthropic הפכה אותה לפוגרום בדחיפה ההולכת וגוברת של וושינגטן לנשקל בינה מלאכותית.
חוק הייצור להגנה: נשק בלתי רגיל
חוק הייצור להגנה חתום על החוק ב-1950, בשלבים המוקדמים של מלחמת קוריאה. המטרה המקורית שלו הייתה פשוטה: הבטח שתעשיית אמריקה יכולה לשנות במהירות ייצור כדי לתמוך בצרכים צבאיים. לאורך עשורים, הוא הוצא לפועל על הכל מייצור סיליקון ועד רשתות אספקה רפואית בזמן מגיפה.
אך יישום DPA לאלץ חברת AI להעניק גישה לדגמים שלה מייצג סוג שונה מהותית של התערבות. בשונה מסחורה פיזית, דגמי AI הם רכוש רוחני שהיכולות והסיכונים שלו שזורים זה בזה. אילוץ חברה להסיר מגבלות בטיחות מטכנולוגיה שלה מעלה שאלות הרחק מעבר לסכסוכי רכש מסורתיים.
מומחים משפטיים ציינו כי שימוש כזה ב-DPA יתמודד כנראה בעימות משפטי מיידי. החוק תוכנן עבור עדיפויות ייצור ורשת אספקה, לא לביטול מדיניות בטיחות פנימית של חברה כיצד הטכנולוגיה שלה מיושמת. כל ניסיון להשתמש בו יכול להגדיר תקדים עם השלכות דורות עבור כל המגזר הטכנולוגי.
תגובות תעשייה והשלכות רחבות יותר
העימות שלח גלים דרך Silicon Valley. חברות AI אחרות צפויות מקרוב, מודעות לעובדה שהתוצאה יכולה להגדיר נורמות חדשות כיצד הממשלה משתפת פעולה עם המגזר ה-AI הפרטי. כמה מנהיגי תעשייה הביעו בפרטיות דאגה שהשלמה לדרישות הפנטגון יכולה לחתור מחקר בטיחות שרבים רואים כחיוני למניעת שימוש לרעה AI קטלני.
תגובות קונגרס היו מעורבות. נצים בעדות שירותים משוריינים תמכו בעמדתו של הגסת, וטענו כי ביטחון לאומי חייב להתחיל להעדיף בחזון בטיחות תאגידית. אחרים, במיוחד חברי הוועדה למסחר של הסנאט, הזהירו כי לחץ על חברות AI יכול להסיע כישרון וחדשנות בחו"ל, בסוף היום משתמע את מיקומה הכלכלי המתחרה של אמריקה.
גם האיחוד האירופי שם לב. גורמים בEU הצביעו על העימות כראיה תומכת את גישתה הרגולטורית יותר שלהם לשלטון AI, כשדיפלומט בכיר אחד ציין כי הפרק הזה מדגיש את הסיכונים של הותרה החלטות בטיחות AI לפי הקיפול של מממנים פוליטיים.
מה קורה עכשיו
הלוח זמנים של יום שישי קרוב. אם Anthropic תסרב לציות, הגסת עלול לעקוב אחרי איום שלו להסיר את החברה מערוצי רכישה הגנה, חתיכת הכנסה משמעותית וששולחת הודעה לחברות AI אחרות. הגישה לחוק הייצור להגנה נשארת על הטבלה אך מייצגת הסלמה הרבה יותר דרמטית עם תוצאות משפטיות לא ודאות.
עבור Anthropic, החישוב קיומי. הכניעה יכולה להחתור מעקרונות בטיחות המגדירים את הזהות התאגידית שלה ולשחוק ביטחון מעובדים שהצטרפו כדי שהחברה התחייבויות בטיחות. התנגדות יכולה לעלות לחברה לא רק חוזקות ממשלתיות אלא גם טוב דעת פוליטי בזמן כללי AI מעוצב באופן פעיל בוושינגטון.
לא משנה מה התוצאה, העימות ברור משהו: שנת הדבש בין חברות AI לממשלה נגמרה. תקופת שיתופי פעולה נימוסיים על מדיניות AI נעלמת בפני משא ומתן קשה בו מחירים נמדדים לא ברווחון רבעוני אלא בשאלות יסוד כיצד הטכנולוגיה הרבה ביותר עוצמה בהיסטוריית בני אדם תינהל.
מאמר זה מבוסס על דיווחים של Ars Technica. קרא את המאמר המקורי.
