NIST يتحرك لتقنين اختبار نماذج الذكاء الاصطناعي
أطلق المعهد الوطني الأمريكي للمعايير والتكنولوجيا منصة جديدة لتقييم الذكاء الاصطناعي تهدف إلى منح الباحثين والمطورين طريقة أكثر تنظيمًا لاختبار أداء النماذج وسلامتها. وقد أُعلن عن البرنامج، المسمى AI Technology Evaluation أو AITE، في 27 يوليو، وهو مصمم كأداة اختبار اختيارية تُقيَّم فيها النماذج داخل بيئة معزولة باستخدام بيانات عمياء.
تكتسب هذه المبادرة أهميتها لأنها تعالج مشكلة متنامية في حوكمة الذكاء الاصطناعي ونشره: فكثير من الادعاءات المتعلقة بقدرات النماذج يصعب مقارنتها عبر المختبرات والمورّدين وحالات الاستخدام المختلفة. ويمكن لتضخم المعايير، واختلاف ظروف الاختبار، واستخدام مجموعات بيانات عامة ربما تكون قد دخلت بالفعل في مسارات التدريب، أن يجعل أرقام الأداء العناوينية أقل دلالة مما تبدو عليه.
تهدف AITE إلى تقديم بديل أكثر ضبطًا. ووفقًا للنص المصدر، ستوفر المنصة بيانات ومقاييس ودرجات موحدة حتى يفهم المطورون بشكل أفضل كيفية أداء أنظمتهم. ولا يُقصد ببيانات الاختبار المقدمة عبر المنصة أن تصبح بيانات تدريب، وهو قرار تصميم مهم للحفاظ على استقلالية التقييمات.
ما الذي صُممت AITE للقيام به
يصف NIST النظام بأنه منصة اختبار معزولة يمكن فيها تقييم نماذج الذكاء الاصطناعي عبر مجموعة من الأوامر أثناء معالجة بيانات عمياء. ويهدف هذا الإطار إلى توليد رؤى موضوعية بشأن كل من القدرة والسلوك المرتبط بالسلامة. وبدلًا من الاعتماد فقط على معايير مفتوحة وواسعة الانتشار، تستخدم المنصة مجموعات بيانات غير متاحة للعامة.
والأثر العملي واضح: تقل احتمالية أن تُحكم النماذج على مواد ربما تكون قد رأتها من قبل، ويحصل الباحثون على أساس أكثر دفاعية لمقارنة النتائج. وفي تقييم الذكاء الاصطناعي، يُعد ذلك فرقًا مهمًا. يكون المعيار أكثر فائدة عندما يكشف كيف يتعامل النموذج مع مهام غير مألوفة حقًا، لا مدى قدرته على إعادة إنتاج أنماط من بيانات ربما تكون مدمجة بالفعل في أوزانه.
ستبدأ AITE بمهام تحليل الصور للنماذج الكبيرة للرؤية واللغة عبر ثلاثة مجالات: العلوم الكمومية، وعلم الجينوم، والسلامة العامة. ويقول NIST إن مهام إضافية ستُضاف لاحقًا. ويعكس التركيز الأولي خيارًا براغماتيًا. فأنظمة الرؤية واللغة تزداد أهمية في البيئات التجارية والحكومية على حد سواء، لكن معايير تقييم الأداء الخاص بكل مجال لا تزال غير متسقة.
لماذا تغيّر البيانات العمياء النقاش
قد يكون العنصر الأكثر تأثيرًا في المنصة هو استخدام مجموعات البيانات العمياء. ففي الذكاء الاصطناعي، تفيد المعايير العامة في التوحيد، لكنها تخلق أيضًا حوافز للتحسين المباشر من أجل الاختبار. ويمكن أن يطمس ذلك الفرق بين التعميم الحقيقي والضبط الخاص بالمعيار. ومن خلال استخدام مجموعات بيانات أصلية غير متاحة للجمهور، تهدف AITE إلى تقليل هذا التشويه.
ومن المتوقع أن يقدّم مزودو البيانات المشاركون في البرنامج مجموعات بيانات أصلية وغير عامة، إلى جانب مهام ذات معنى مناسبة لتلك البيانات. وفي المقابل، يقدّم مطورو النماذج نماذجهم لاختبارها مقابل تلك المواد. ويتمثل دور NIST في توفير البنية التحتية للاختبار وإطار درجات موحد.
لهذا الإعداد نتيجتان. أولًا، يمنح مالكي البيانات مسارًا للمساهمة بمواد تقييم خاصة بمجال معين من دون تحويلها إلى مورد تدريب عام. ثانيًا، يمنح مطوري النماذج طريقة للحصول على إشارات أداء من طرف ثالث قد تكون أكثر مصداقية من نتائج المعايير المعلنة ذاتيًا.
لكن هذا لا يجعل AITE حلًا شاملًا لتقييم الذكاء الاصطناعي. فالكثير يعتمد على جودة مجموعة البيانات، وتصميم المهمة، وما إذا كانت طرق التقييم المختارة تعكس أنواع الإخفاق المهمة عمليًا. ومع ذلك، بوصفها إطارًا، فهي تدفع التقييم نحو ظروف اختبار أكثر واقعية وأصعب.
دور اتحادي في البنية التحتية الطوعية لسلامة الذكاء الاصطناعي
يتماشى الإطلاق أيضًا مع استراتيجية اتحادية أوسع تركز على التعاون الطوعي مع كبرى شركات تطوير الذكاء الاصطناعي. ويصف النص المصدر AITE بوصفها الخطوة الأحدث في نهج إدارة ترامب لتعزيز سلامة النماذج عبر تقديم النماذج طوعًا. وهي تأتي بعد إعلان لوزارة التجارة في مايو عن ترتيب أعيد التفاوض بشأنه وشارك فيه Google DeepMind وMicrosoft وxAI لتقييم النماذج عبر مركز معايير وابتكار الذكاء الاصطناعي.
هذا السياق مهم. فالحكومة الأمريكية لا تكتفي بإصدار توجيهات من بعيد، بل تبني بنية تحتية مشتركة للاختبار تهدف إلى تشكيل كيفية قياس جودة النماذج وسلامتها. ويمكن للبرامج الطوعية أن تتحرك أسرع من التنظيم الرسمي، خاصة في مجال تتغير فيه معماريات النماذج وأنماط النشر بسرعة. وفي الوقت نفسه، تعتمد فعاليتها على ما إذا كان كبار المطورين سيختارون المشاركة، وعلى ما إذا كانت التقييمات الناتجة ستُعد موثوقة من قبل النظام البيئي الأوسع.
ويمنح الدور المؤسسي لـ NIST هذا الجهد وزنًا إضافيًا. فالوكالة كانت لفترة طويلة عنصرًا محوريًا في القياس والمعايير وأطر التقييم عبر المجالات التقنية. وتطبيق هذا التقليد على الذكاء الاصطناعي خطوة منطقية، خصوصًا مع بحث صانعي السياسات والوكالات والمشترين المؤسسيين عن أدوات أفضل لمقارنة الأنظمة بعيدًا عن الادعاءات التسويقية.
ماذا تشير إليه المرحلة الأولى
يوحي اختيار المجالات الأولية بكيفية نظر NIST إلى تحدي التقييم القريب المدى. فالعلوم الكمومية وعلم الجينوم كلاهما ينطوي على معرفة متخصصة وتفسير معقد للبيانات، ما يجعلهما حالتي اختبار مفيدتين لمعرفة ما إذا كانت نماذج الرؤية واللغة قادرة على الأداء الموثوق في السياقات الخبيرة. أما السلامة العامة فتضيف بُعدًا تشغيليًا أكثر، حيث قد تحمل الأخطاء عواقب فورية أكبر.
وبالبدء هناك، يبدو أن AITE لا تضع نفسها كمجرد مركز عام للمعايير، بل كمنصة لتقييمات خاصة بالمهام وأكثر حساسية من حيث المخاطر. وقد يكون هذا مهمًا للمشتريات الحكومية وتمويل الأبحاث، حيث تحتاج الجهات بشكل متزايد إلى أدلة على أن النموذج يمكنه الأداء ضمن ظروف مقيّدة وذات صلة بالمجال.
ومن المقرر أن تبدأ التقييمات الأولى في أغسطس 2026، لذا قد تصل النتائج الأولية قريبًا. وستحدد تلك النتائج على الأرجح ما إذا كانت AITE ستصبح برنامجًا تقنيًا متخصصًا، أم مرجعًا أكثر مركزية في الإشراف الأمريكي على الذكاء الاصطناعي ومقارنة النماذج.
ما الذي ينبغي مراقبته لاحقًا
السؤال الأول هو المشاركة. فأي إطار تقييم طوعي لا يكون مؤثرًا إلا بقدر جودة مجموعات البيانات المقدمة ومستوى النماذج التي يجذبها. وإذا رأى المطورون الكبار قيمة في التقييم المستقل للمهام العمياء، فقد تصبح AITE إشارة مهمة للمشترين والمنظمين والباحثين. وإذا كانت المشاركة محدودة، فقد يظل تأثيرها أضيق.
والسؤال الآخر هو التوسع. فقد قالت NIST إنها ستضيف مزيدًا من المهام بمرور الوقت. وإذا نما المنصة لتشمل مزيدًا من الوسائط والقطاعات، فقد تساعد في ترسيخ لغة مشتركة أكثر استدامة للحديث عن أداء النماذج. وسيكون ذلك مفيدًا خصوصًا في صناعة يُعلن فيها عن عبارة "الأحدث" بسهولة أكبر مما يُقاس بها فعليًا.
في الوقت الراهن، تمثل AITE تحولًا ملموسًا من النقاش الواسع حول سلامة الذكاء الاصطناعي إلى بنية تحتية تشغيلية للتقييم. وفي سوق مكتظ بالمعايير والادعاءات المتنافسة، قد تصبح منصة الاختبار ذات البيانات العمياء التي يديرها NIST واحدة من أهم التجارب لجعل تقييم الذكاء الاصطناعي أكثر صرامة.
هذه المقالة مبنية على تقرير من Defense One. اقرأ المقال الأصلي.
Originally published on defenseone.com
