الذكاء الاصطناعي الوكالي يفرض على الشركات إعادة التفكير في الحوكمة وضوابط الأمن

أصبحت وكلاء الذكاء الاصطناعي مشكلة حوكمة، وليس مجرد أداة إنتاجية

مع استعداد الشركات لنشر وكلاء الذكاء الاصطناعي عبر سير العمل التجاري، تصبح الأمن والحوكمة عائقين أساسيين أمام توسيع استخدام هذه التقنية بأمان.

تجادل مقالة من MIT Technology Review Insights أُنتجت بالاشتراك مع Deloitte Microsoft Technology Practice بأن الذكاء الاصطناعي الوكالي يمكن أن يفتح سطح هجوم جديدا لدى الشركات. والمخاوف هي أن الوكلاء غير الآمنين قد يتم التلاعب بهم للوصول إلى أنظمة حساسة أو بيانات مملوكة أو أدوات تتجاوز دورهم المقصود.

هذه المادة برعاية وليست تقريرا تحريريا من MIT Technology Review، لكنها تتضمن أرقاما من استطلاع وأطروحة واضحة عن مخاطر المؤسسات. ووفقا لتقرير Deloitte AI Institute 2026 State of AI المشار إليه في المادة، فإن ما يقرب من 74% من الشركات تخطط لنشر الذكاء الاصطناعي الوكالي خلال عامين. بينما أفادت 21% فقط بأنها تمتلك نموذجا ناضجا لحوكمة الوكلاء المستقلين.

الهويات غير البشرية تتكاثر

تتمثل إحدى النقاط الرئيسية في المقالة في أن الشركات الحديثة تدير بالفعل عددا متزايدا من الهويات غير البشرية، مثل حسابات الخدمة، واعتمادات الأجهزة، وسير العمل المؤتمتة، والعوامل البرمجية. وقد يسرع الذكاء الاصطناعي الوكالي هذا الاتجاه لأن الوكلاء قد يحتاجون إلى أذونات، وإلى الوصول إلى البيانات، وإلى الوصول إلى الأدوات، وإلى القدرة على التصرف نيابة عن المستخدمين أو وظائف الأعمال.

وهذا يخلق ملف مخاطر مختلفا عن استخدام روبوتات الدردشة العادية. فالنظام التحاوري الذي يجيب عن الأسئلة شيء، أما الوكيل الذي يمكنه استرجاع الملفات، واستدعاء الأدوات الداخلية، والكتابة إلى الأنظمة، أو بدء الإجراءات، فهو شيء آخر. ويتعين على الحوكمة أن تحدد ما الذي يُسمح للوكيل بفعله، وبأي سلطة يعمل، وكيف تتم مراقبة سلوكه.

تقول المادة المصدر إن التنفيذيين أكثر قلقا بشأن خصوصية البيانات والأمن، بنسبة 73%. وتأتي اعتبارات القانون والملكية الفكرية والامتثال التنظيمي بعدها بنسبة 50%، بينما تُذكر قدرات الحوكمة والإشراف بنسبة 46%.

مفهوم طبقة التحكم ينتقل إلى عمليات الذكاء الاصطناعي

يصف Andrew Rafla، وهو شريك أول في Deloitte’s Cyber Practice، طبقة التحكم بأنها طبقة مركزية تنظم من يمكنه تشغيل أي وكلاء، وبأي أذونات، وتحت أي سياسات، وباستخدام أي نماذج وأدوات. ومن هذا المنظور، من دون هذه الطبقة، تحصل الشركات على تنفيذ غير مُدار بدلا من تشغيل مستقل قابل للتوسع.

تكتسب هذه الفكرة أهمية لأن الشركات نادرا ما تنشر التكنولوجيا بمعزل عن غيرها. فقد تتفاعل وكلاء الذكاء الاصطناعي مع أنظمة الهوية، ومستودعات المستندات، وسجلات العملاء، ومستودعات الشيفرة، ومنصات التحليلات، والخدمات الخارجية. وإذا كانت كل عملية نشر تدير الأذونات وقابلية التدقيق بشكل مختلف، تصبح الرقابة مجزأة.

وسيحتاج نظام حوكمة عملي إلى الإجابة عن أسئلة تشغيلية أساسية: ماذا فعل الوكيل، وبالنيابة عن من، وباستخدام أي بيانات، وتحت أي سياسة، وما إذا كان يمكن إعادة تنفيذ الإجراء أو إيقافه. وتعرض المقالة هذه الأسئلة بوصفها الحد الأدنى الضروري لاستخدام الوكلاء على مستوى المؤسسة.

الحوكمة تفصل بين التجارب والإنتاج

تجادل المادة بأن الحوكمة هي ما ينقل وكلاء الذكاء الاصطناعي من التجارب إلى الأتمتة المؤسسية القابلة للتكرار. ويمكن لمشروعات التجربة أن تعتمد غالبا على إشراف وثيق، أو بيانات محدودة، أو ضوابط يدوية. أما عمليات النشر الإنتاجية فتحتاج إلى ضوابط تعمل بثبات عبر الفرق وحالات الاستخدام.

ولا يقتصر الخطر على أن يرتكب الوكيل خطأ واحدا. بل إن نظاما سيئ الحوكمة للوكلاء قد يفشل بشكل غير متوقع وعلى نطاق واسع. وإذا كان لدى العديد من الوكلاء وصول واسع، أو مراقبة ضعيفة، أو مساءلة غير واضحة، فإن العيوب التصميمية الصغيرة قد تتحول إلى تعرض منهجي.

بالنسبة إلى الشركات، فإن الأثر القريب المدى هو أن نشر الوكلاء ينبغي أن يقترن بالتخطيط للهوية والأمن والامتثال وقابلية الرصد. وقد يجعل التعامل مع الحوكمة كإضافة لاحقة التجارب المبكرة أسهل، لكنه قد يترك المؤسسات من دون هياكل التحكم اللازمة للتوسع الأوسع.

ما الذي تشير إليه المقالة

تعكس هذه المادة تحولا أوسع في النقاش المؤسسي حول الذكاء الاصطناعي. فالسؤال لم يعد فقط ما إذا كان بإمكان وكلاء الذكاء الاصطناعي أتمتة أعمال مفيدة. بل أصبح ما إذا كانت المؤسسات قادرة على تحديد الحدود التي تعمل ضمنها هذه الوكلاء وفرضها.

وبما أن المصدر مادة برعاية، فيجب قراءة توصياته في هذا السياق. ومع ذلك، فإن فئات المخاطر التي يحددها ملموسة: الخصوصية، والأمن، والامتثال القانوني، والملكية الفكرية، والإشراف، والأذونات، وقابلية التدقيق. ومن المرجح أن تظل هذه العناصر مركزية مع انتقال الذكاء الاصطناعي الوكالي من العروض التوضيحية إلى الأنظمة التشغيلية.

تستند هذه المقالة إلى تقرير من MIT Technology Review. اقرأ المقال الأصلي.