تبدأ الشركات في حوكمة الوكلاء، لا النماذج فقط
قد تتمحور المرحلة التالية من إدارة الذكاء الاصطناعي في المؤسسات بدرجة أقل حول روبوتات الدردشة وإتاحة الوصول إلى النماذج، وبدرجة أكبر حول وكلاء برمجيين مستقلين يعملون عبر الأنظمة الداخلية. هذه هي الفرضية التي يقوم عليها KiloClaw، وهو منتج أُطلق حديثًا ويُوصف بأنه أداة حوكمة للوكلاء المستقلين واستجابة لانتشار الذكاء الاصطناعي الظلّي داخل المؤسسات.
يلخص العرض العام المشكلة بوضوح. فخلال العام الماضي، أنفقت الشركات جهودًا كبيرة لتأمين النماذج اللغوية الكبيرة وتطبيقات الذكاء الاصطناعي الرسمية، لكن خطرًا مختلفًا نما بالتوازي: موظفون وفرق ينشرون وكلاء غير معتمدين، وسير عمل، وأتمتة مدعومة بالذكاء الاصطناعي خارج نطاق الإشراف الرسمي. ويتموضع KiloClaw بوصفه إجابة على هذه المشكلة، واعدًا بطريقة لفرض الحوكمة على هذه الأنظمة الناشئة قبل أن تصبح متجذرة إلى حد يصعب تتبعه.
لماذا أصبح احتواء الذكاء الاصطناعي الظلّي أصعب
ليست تقنية Shadow IT مفهوماً جديدًا. فقد اعتمد العاملون منذ زمن طويل أدوات غير معتمدة عندما كانت الأنظمة الرسمية بطيئة جدًا أو جامدة جدًا أو محدودة جدًا. ما يتغير مع وكلاء الذكاء الاصطناعي هو مستوى الاستقلالية المعني. قد يخلق ماكرو في جدول بيانات أو أداة لمشاركة الملفات مشكلات حوكمة، لكن الوكيل المستقل قد يتخذ قرارات أيضًا، ويستدعي أدوات، وينقل المعلومات بين الأنظمة، أو يباشر إجراءات بإشراف محدود للغاية.
وهذا يرفع مستوى المخاطر بشكل كبير. فالوكيل الذي لا يخضع لحوكمة مركزية يمكن أن يسبب مشكلات أمنية وامتثالية وتشغيلية وسمعية أسرع بكثير من تطبيق غير معتمد بسيط. كما قد يكون اكتشافه أصعب، لأن الوكيل قد يعمل داخل سير عمل مشروع مع استمرار تشغيله خارج السياسة المعتمدة.
السوق يعترف بتحول في مخاطر المؤسسات
تكتسب عملية إطلاق KiloClaw أهميتها لأنها تعكس إدراكًا أوسع في الذكاء الاصطناعي المؤسسي: قد لا تكون أطر الحوكمة المصممة للنماذج والمحفزات كافية للأنظمة الوكيلة. يمكن تقييم النموذج، وإخضاعه لاختبارات هجومية، ومنحه الأذونات بطرق محددة نسبيًا. أما الوكيل المستقل فيضيف طبقة أخرى. يجب أن يُحكم بوصفه سلوكًا، لا مجرد وصول برمجي.
وهذا يعني أن المؤسسات تحتاج إلى إجابات عن أسئلة مختلفة. ما الذي يُسمح للوكيل بفعله؟ إلى أي أنظمة يمكنه الوصول؟ من وافق على نشره؟ كيف تتم مراقبته؟ ماذا يحدث إذا انحرف عن السلوك المتوقع أو بدأ يتصرف بناءً على تعليمات غير رسمية؟ هذه أسئلة كلاسيكية في التحكم المؤسسي، لكن الإلحاح حولها يتزايد لأن الأدوات الوكيلة أصبحت أسهل في النشر.
لماذا قد تنمو هذه الفئة بسرعة
حتى من المادة المصدرية المحدودة، من السهل رؤية المنطق الاستراتيجي وراء KiloClaw. من غير المرجح أن تتسامح المؤسسات مع عالم تنتشر فيه الوكلاء المستقلون عبر الأقسام من دون رؤية واضحة. وكلما وعدت أدوات الذكاء الاصطناعي بالمبادرة والأتمتة أكثر، بحثت الشركات أكثر عن برامج تستطيع اكتشاف هذه الأنظمة وتصنيفها وتقييدها وتدقيقها. ومن هذا المنظور، ليست الحوكمة فرامل أمام التبني، بل أصبحت إحدى المتطلبات الأساسية للتبني على نطاق واسع.
وقد يؤدي ذلك إلى نشوء فئة برمجية جديدة كبيرة. ففي العام الماضي، تركز الإنفاق على الوصول إلى النماذج، والمساعدين البرمجيين، والبنية التحتية، وأغلفة الأمان. وقد تركز الموجة التالية على طبقة التحكم التشغيلية للوكلاء: فرض السياسات، وحدود الأذونات، وإدارة دورة الحياة، والاستجابة للحوادث المصممة خصيصًا للأنظمة التي تتصرف بدلًا من مجرد الإجابة.
الاستقلالية تغيّر حديث الامتثال
هذا مهم بشكل خاص في القطاعات المنظمة، حيث يمكن لوكيل مستقل أن يثير أسئلة تتجاوز بكثير عمليات شراء تقنية المعلومات المعتادة. إذا كان الوكلاء يتعاملون مع بيانات حساسة، أو يطلقون عمليات أعمال، أو يؤثرون في تفاعلات العملاء، فستحتاج المؤسسات إلى إثبات من خوّل هذه السلوكيات وكيف تتم مراقبتها. لذلك فطبقة الحوكمة لا تتعلق فقط بمنع إساءة الاستخدام، بل أيضًا بالحفاظ على المساءلة.
تعبير «الذكاء الاصطناعي الظلّي» يلخص المشكلة بوضوح لأنه يشير إلى كل من الخفاء والسرعة. غالبًا ما تكتشف المؤسسات الأدوات غير الرسمية فقط بعد أن تصبح مفيدة بما يكفي للانتشار. ومع الوكلاء، قد يكون هذا النمط أكثر اضطرابًا، لأن الأنظمة المعنية قد تكون تعمل بالفعل عبر تطبيقات متعددة بحلول الوقت الذي تلاحظها فيه فرق الأمن أو الامتثال.
إشارة إلى اتجاه الذكاء الاصطناعي المؤسسي
قد يصبح KiloClaw منصة رئيسية وقد لا يصبح، كما أن المادة المصدرية المتاحة لا تقدم مستوى التفاصيل التقنية اللازم للحكم على التنفيذ. لكن الإطلاق يظل دالًا. فهو يشير إلى أن مخاوف الذكاء الاصطناعي المؤسسي تنتقل من سؤال ما إذا كان الموظفون يستطيعون الوصول إلى النماذج إلى السؤال الأصعب: كيف تحكم المؤسسات الفعل الذي يبدأه الآلة.
هذا تحول مهم. كانت المرحلة الأولى من طفرة الذكاء الاصطناعي التوليدي تتعلق بالتجريب. أما المرحلة الثانية فكانت على نحو متزايد تتعلق بالدمج. وقد تكون المرحلة الثالثة الناشئة متعلقة بالتحكم: كيف نسمح للأنظمة المستقلة بالعمل داخل الشركة من دون أن تتحول إلى طبقة غير مُدارة من العمل الرقمي. وتقع أطروحة KiloClaw مباشرة في هذا التحول، وهذا وحده يجعل المنتج جديرًا بالمتابعة.
يعتمد هذا المقال على تقرير من AI News. اقرأ المقال الأصلي.
Originally published on artificialintelligence-news.com
