طفرة الوكلاء تتحول إلى مشكلة إدارية
من السهل إطلاق وكلاء الذكاء الاصطناعي في المؤسسات، ومن السهل تكرارهم، ومن الصعب بشكل متزايد تتبعهم. هذا هو التحذير الأساسي الوارد في استطلاع جديد من Rubrik ZeroLabs أُبرز في المادة الأصلية، والذي وجد أن 23% فقط من مديري تكنولوجيا المعلومات يقولون إن لديهم سيطرة كاملة على الوكلاء العاملين داخل مؤسساتهم. وبصياغة أخرى، فإن نحو ثلاثة من كل أربعة لا يملكون ذلك.
الرقم لافت لأن النقاش الحالي حول وكلاء الذكاء الاصطناعي يركز غالبًا على السرعة والإنتاجية. وتطرح الشركات الموردة الوكلاء باعتبارهم برمجيات قادرة على العمل باستقلالية، وتحمل الأعمال المتكررة، وتقليل الحاجة إلى التدخل البشري المباشر. ويشير الاستطلاع إلى أن كثيرًا من الشركات تكتشف الجانب الأقل بريقًا من هذا الوعد: فبمجرد انتشار الوكلاء عبر الفرق والأدوات والموردين، قد تتخلف الحوكمة كثيرًا عن وتيرة التبني.
القلق لا يقتصر على الفوضى الإدارية. إذ يقول النص الأصلي إن 81% من المشاركين أفادوا بأن الوكلاء الخاضعين لإشرافهم يحتاجون وقتًا أطول في التدقيق اليدوي والمراقبة مقارنة بما كان يفترض أن توفره تلك الوكلاء عبر تحسينات سير العمل. وهذا يقلب ادعاء الأتمتة الأساسي رأسًا على عقب. فإذا كانت المؤسسات تنفق جهدًا أكبر في الإشراف على الوكلاء مما تستعيده من مكاسب الكفاءة، يصبح من الأصعب الدفاع عن الجدوى الاقتصادية.
من أداة إنتاجية إلى تعرض أمني
يصوغ الاستطلاع أيضًا انتشار الوكلاء بوصفه مشكلة أمنية. ووفقًا للنص الأصلي، يتوقع 86% من مديري تكنولوجيا المعلومات أن يتجاوز انتشار الوكلاء الضوابط الأمنية خلال العام المقبل، ويرى 52% أن هذه الفجوة قد تظهر خلال ستة أشهر. هذا ليس سيناريو خطر بعيدًا. بل يعني أن كثيرًا من القادة التقنيين يرون مشكلة السيطرة على أنها فورية.
الآلية مألوفة. إذ تقول المادة الأصلية إن المستخدمين قد يتحايلون على الضوابط، بما في ذلك إيقاف تشغيل شبكات VPN أو تجاوز الإجراءات الأمنية بطرق أخرى، من أجل تشغيل وكلاء يعملون كمساعدين. والنتيجة هي تزايد حجم تطبيقات الذكاء الاصطناعي غير المعتمدة، سواء داخليًا أو عبر موردين خارجيين. وبذلك، قد يعيد الوكلاء إنتاج نمط رأته تقنية المؤسسات من قبل: تبنٍ سريع من القاعدة أولًا، ثم تأتي بنية الحوكمة لاحقًا.
ويظهر هذا التشبيه مباشرة في المادة. فـ Kriti Faujdar، وهي مديرة منتجات أولى في Microsoft ومقتبسة في المقال، تقول إن النمط يشبه التبني المبكر للحوسبة السحابية، حين كانت الفرق تطلق الخدمات بشكل مستقل وبأطر وموردين مختلفين. وكانت النتيجة حينها التجزؤ وثغرات أمنية خفية. والقلق الآن هو أن وكلاء الذكاء الاصطناعي، لأنهم يستطيعون الفعل لا مجرد تخزين البيانات أو معالجتها، قد يضخمون تلك المخاطر.
لماذا يُعد “التحكم الكامل” معيارًا مرتفعًا جدًا
من المهم أن نكون دقيقين بشأن ما يبدو أن الاستطلاع يقيسه. فـ “التحكم الكامل” معيار صارم. فهو لا يعني فقط معرفة أن الوكلاء موجودون، بل فهم أماكن نشرهم، والبيانات التي يمكنهم الوصول إليها، والأنظمة التي يمكنهم التأثير فيها، ومن وافق عليهم، وكيف تتم مراقبتهم، وكيف يمكن التراجع عن أفعالهم.
وهذه النقطة الأخيرة مهمة بشكل خاص. فالمصدر يقول إن شبه جميع المشاركين يشيرون إلى أنهم يفتقرون إلى قدرات “التراجع” اللازمة لإلغاء أفعال الوكلاء غير المقصودة. في حوكمة البرمجيات التقليدية، تعد القابلية للعكس أمرًا أساسيًا. فإذا أساء النظام التصرف، يريد المشغلون سجل تدقيق واضحًا ومسار استعادة موثوقًا. ومع الوكلاء المستقلين أو شبه المستقلين، يصبح غياب خاصية التراجع أكثر خطورة لأن هذه الأنظمة مصممة أصلًا للعمل عبر سير العمل.
هذا هو الفارق بين روبوت محادثة يجيب عن الأسئلة ووكيل يُجري تغييرات في الأنظمة المتصلة. وبمجرد أن تبدأ التقنية بملامسة الاعتمادات والسجلات واتصالات العملاء أو العمليات الداخلية، تتوقف الحوكمة عن كونها خانة شراء وتصبح انضباطًا تشغيليًا.
ما تتعلمه المؤسسات في الوقت الحقيقي
الدرس الأوسع هو أن الذكاء الاصطناعي المؤسسي ينضج ليصبح مشكلة مؤسسية، لا مجرد مشكلة أدوات. وخلال العامين الماضيين، ركزت كثير من المؤسسات على التجريب. أرادت أن تعرف ما الذي يمكن للوكلاء فعله، ومدى سرعة بناء الفرق لهم، وأين قد تظهر مكاسب الإنتاجية. وهذه المرحلة تصطدم الآن بأسئلة تتعلق بالجرد، والمساءلة، والأمن، والعبء التشغيلي.
تشير أرقام الاستطلاع إلى أن بعض الوفورات المتوقعة يجري تعويضها بتكاليف الإشراف. هذا لا يعني أن الوكلاء يفشلون في كل مكان. بل يعني أن كثيرًا من المؤسسات لا تزال في مرحلة توسع غير مُدارة، حيث يتفوق النشر على الانضباط التشغيلي. وفي مثل هذه البيئة، يمكن للحماس أن يستمر لبعض الوقت، لكن الثقة تصبح أصعب في الحفاظ عليها.
ويقول النص الأصلي إن إدارة الوكلاء تحتاج إلى أن تصبح “انضباطًا من الدرجة الأولى”. وربما يكون هذا هو الإطار الأكثر فائدة في التقرير كله. فالشركات تتعامل بالفعل مع الهوية، ونقاط النهاية، والأصول السحابية، والوصول إلى البيانات باعتبارها مجالات حوكمة لها أدوات وإجراءات مخصصة. ويشير الاستطلاع إلى أن وكلاء الذكاء الاصطناعي يتجهون إلى المكانة نفسها.
المرحلة التالية من سوق وكلاء الذكاء الاصطناعي
إذا ترسخ هذا التحول، فقد يتغير سوق الوكلاء بسرعة. ولن يكون الفائزون بالضرورة هم البائعون ذوو العروض الأكثر إثارة للإعجاب فقط. بل قد يكونون أولئك الذين يجعلون النشر مفهومًا لفرق الأمن وتقنية المعلومات: ضوابط الجرد، وحدود الصلاحيات، وسجلات الأفعال، وخيارات التراجع، وسياسات التشغيل الواضحة.
وهذا سيمثل مرحلة أكثر اتزانًا في تبني الذكاء الاصطناعي المؤسسي. فبدلًا من السؤال فقط عما يمكن للوكلاء أتمتته، سيبدأ المشترون في السؤال عمّا إذا كان يمكن حوكمتهم على نطاق واسع. والاستطلاع لا يقول إن موجة الوكلاء تتراجع. بل على العكس، فهو يشير إلى أن التبني يتحرك بسرعة تجعل كثيرًا من المؤسسات تشعر بالفعل بأنها متأخرة.
التحول الأساسي هو أن النمو غير المنضبط لم يعد يُنظر إليه باعتباره إزعاجًا مؤقتًا. بل إنه يصبح أحد المخاطر المحددة للذكاء الاصطناعي المؤسسي. وقد تكون الشركات التي تحل مشكلة الانتشار والوضوح وقابلية التراجع هي التي تلتقط القيمة الحقيقية طويلة الأمد للوكلاء. أما التي لا تفعل ذلك، فقد تجد نفسها خلال العام المقبل منشغلة بتدقيق أنظمة كان من المفترض أصلًا أن توفر الوقت.
هذه المقالة مبنية على تغطية ZDNET. اقرأ المقال الأصلي.
Originally published on zdnet.com
