أماندا أسكل من Anthropic حول أخلاقيات الذكاء الاصطناعي الوكيل

تقول Anthropic إن الذكاء الاصطناعي الوكيل يطرح نوعًا مختلفًا من المشكلات الأخلاقية

مع انتقال أنظمة الذكاء الاصطناعي إلى ما هو أبعد من الدردشة ودخولها في أشكال أكثر استقلالًا من العمل، تتغير الأسئلة الأخلاقية المرتبطة بها. ووفقًا لأماندا أسكل، وهي عضو في الفريق التقني لدى Anthropic، فإن التحدي لم يعد يقتصر على ما إذا كان النموذج قادرًا على مناقشة الصواب والخطأ بطريقة مقنعة. بل أصبح الأمر أكثر ارتباطًا بكيفية تصرف نظام الذكاء الاصطناعي عندما يُطلب منه أن يعمل على مدى فترات أطول، وأن يتخذ قرارات متكررة، وأن يعمل مع إشراف بشري مباشر أقل.

في مقابلة مع Fast Company، وصفت أسكل هذا الانتقال بأنه تحول كبير في مشكلة الأمان المحيطة بالذكاء الاصطناعي. فهناك فرق بين روبوت دردشة يجيب عن سؤال أخلاقي، وبين نظام يُفوَّض فعليًا للتعامل مع شؤون المستخدم.

من النصيحة إلى الفعل

يضع مثال أسكل خطًا واضحًا بين نوعين من الاستخدام. في سيناريو، يسأل شخصٌ نموذجًا عما إذا كان من الأخلاقي الاستثمار في شركة دفاعية. وفي سيناريو آخر، يمنح الشخص النظام نفسه سلطة إدارة الاستثمارات مع إشراف يومي محدود جدًا. الأول محادثة. أما الثاني فهو حكم مُفوَّض.

هذه التفرقة مهمة لأن الأنظمة المستقلة تخلق نقاط قرار أكثر. فبمجرد السماح للنموذج بالسعي إلى هدف بمرور الوقت، قد يحتاج إلى ترتيب الأولويات بين المقايضات، أو تفسير التعليمات الغامضة، أو الاستجابة لظروف غير متوقعة. وكل واحدة من تلك اللحظات تصبح جزءًا من مشكلة التصميم الأخلاقي.

وقالت أسكل إنه مع ازدياد “استقلالية” النماذج واتخاذها إجراءات “على آفاق زمنية أطول”، يتعين على المطورين رسم خريطة لعدد أكبر من نقاط القرار هذه مسبقًا. وعمليًا، يعني ذلك أن عمل السلامة يجب أن يقترب من الواقع التشغيلي لأنظمة الذكاء الاصطناعي بدلًا من البقاء عند مستوى المبادئ المجردة.

بوصلة أخلاقية لا تتجاوز المستخدم

يرتبط نهج Anthropic تجاه هذه المشكلة بما تسميه دستورًا: مجموعة مكتوبة من القيم والمبادئ تهدف إلى توجيه سلوك Claude. وقالت أسكل إن هذا الإطار يركز حاليًا على أفكار مثل السلامة والمساعدة، إلى جانب إرشادات لحل التعارضات بينهما.

لكن النقطة الأكثر دلالة في تعليقاتها هي كيفية صياغتها لدور المساعد نفسه. فبدلًا من تقديم Claude كنظام يفرض رؤية أخلاقية واحدة للعالم، تشير إلى أنه ينبغي أن يكون متجاوبًا مع المستخدمين وأن يفهم قيمهم بطريقة أقرب إلى رفيق موثوق. وفي وصفها، الهدف هو تجنب منح النموذج أجندة أخلاقية غريبة خاصة به، مع إبقائه قادرًا على التعامل مع الحالات المعقدة بمسؤولية.

هذا موقف دقيق لكنه مهم في النقاش الأوسع حول الذكاء الاصطناعي. فهو يوحي بأن المواءمة لا تعني فقط تقييد المخرجات الخطيرة. بل تعني أيضًا تصميم أنظمة يمكنها التكيف مع أهداف المستخدم دون أن تصبح جامدة أخلاقيًا أو متساهلة بتهور.

قد تتوسع الدستورية، أو قد تتقلص

أحد الجوانب الأكثر إثارة في تعليقات أسكل هو أن دليل قواعد Anthropic لا يُعرض بوصفه ثابتًا. فقد قالت إن الدستور مكتوب ويتطور. ومع ازدياد قدرة أنظمة الذكاء الاصطناعي، قد يتوسع ليشمل فئات جديدة من السيناريوهات. لكنها قالت أيضًا إن العكس قد يحدث: فقد تتقلص الوثيقة إذا أصبح Claude أكثر مهارة في التعامل مع الحالات المعقدة.

يشير ذلك إلى أن Anthropic ترى المواءمة هدفًا متحركًا لا طبقة امتثال ثابتة. فالمزيد من القدرات قد يتطلب إرشادًا أوضح في المدى القريب. وفي الوقت نفسه، قد تؤدي الكفاءة الأكبر في النهاية إلى تقليل الحاجة إلى قواعد إجرائية مطولة إذا أصبح النظام أفضل في الاستدلال عبر السياقات الصعبة من تلقاء نفسه.

هذا التوتر هو جوهر المرحلة الحالية من تطور الذكاء الاصطناعي. فالصناعة تحاول بناء أنظمة أكثر فائدة عمومًا وأكثر قدرة على العمل باستقلالية، مع ضمان بقائها قابلة للتوقع بما يكفي للثقة بها في المهام المهمة.

حتى باحثو Anthropic يتعاملون مع Claude بقيود

تحدثت أسكل أيضًا عن كيفية تغيّر عملها مع ظهور الذكاء الاصطناعي الوكيل. وقالت إنها تستخدم Claude بانتظام، بما في ذلك لاختبار أفكارها من خلال red-teaming وكشف الحالات الطرفية. وهذه التفاصيل لافتة لأنها تُظهر حلقة التغذية الراجعة الشائعة الآن داخل مختبرات الذكاء الاصطناعي: إذ يستخدم الباحثون بشكل متزايد الأنظمة التي يقيّمونها نفسها كأدوات داخل عملية التقييم ذاتها.

وفي الوقت نفسه، يبقى معيار الثقة لديها حذرًا. وقالت إن معيارها الحالي ليس اعتبار Claude أكثر موثوقية من مساعد شخصي بشري. وهذه إشارة مفيدة في سوق يمكن أن تتجاوز فيه الرسائل التسويقية الواقع التشغيلي بسهولة.

هذه الملاحظة لا تقلل من فائدة النظام. بل تضع الذكاء الاصطناعي الوكيل الحالي في فئة أكثر واقعية: مفيد، ويزداد قدرة، لكنه ليس بعد شيئًا ينبغي منحه سلطة غير مشروطة. بالنسبة للشركات التي تفكر في نشر وكلاء ذكاء اصطناعي، قد تكون هذه هي الخلاصة الأكثر عملية من المقابلة.

لماذا يهم هذا أبعد من Anthropic

تمتد أهمية تصريحات أسكل إلى ما هو أبعد بكثير من شركة واحدة. فجزء كبير من قطاع الذكاء الاصطناعي يتحرك نحو أنظمة يمكنها تنفيذ المهام، وتنسيق الأدوات، والسعي إلى الأهداف مع قدر أقل من التوجيه البشري. ومع استمرار هذا التحول، تنتقل مشكلة الحوكمة من ضبط المحتوى فقط إلى تصميم السلوك.

وهذا يعني أن مطوري النماذج سيضطرون إلى الإجابة عن أسئلة أصعب حول التفويض، والمساءلة، وتفسير القيم. ماذا يعني أن يعمل الذكاء الاصطناعي بما يخدم مصلحة المستخدم؟ كيف ينبغي أن يتصرف عندما تكون التعليمات غير مكتملة أو تتعارض مع قيود السلامة؟ وكم مقدار الحرية الأخلاقية التي ينبغي أن يمتلكها النظام قبل أن يتوقف عن كونه مساعدًا ويصبح وسيطًا غير خاضع للمساءلة؟

لا تدّعي Anthropic أنها حسمت هذه الأسئلة. لكن إطار أسكل يوضح لماذا لن تُعرَّف المرحلة التالية من المنافسة في الذكاء الاصطناعي بالمعايير والميزات وحدها. بل ستتشكل أيضًا بحسب ما إذا كانت الشركات قادرة على جعل الأنظمة المستقلة مفيدة من دون أن تجعلها غير قابلة للتوقع.

أهم النقاط

• تقول Anthropic إن التحدي الأخلاقي يتغير عندما ينتقل الذكاء الاصطناعي من الإجابة عن الأسئلة إلى اتخاذ إجراءات بمرور الوقت.
• توجّه الشركة Claude عبر دستور مكتوب ومتطور يركز على قيم مثل السلامة والمساعدة.
• تقول أماندا أسكل إن مستويات الثقة الحالية في Claude يجب ألا تتجاوز ثقتنا في مساعد شخصي بشري.

هذه المقالة تستند إلى تقرير من Fast Company. اقرأ المقال الأصلي.