وضع القفل من OpenAI يحدّ من ChatGPT لتعزيز الأمان

OpenAI تقدّم وضعًا مقيّدًا لاستخدامات ChatGPT الحساسة

أعلنت OpenAI عن ميزة جديدة في ChatGPT تُسمّى Lockdown Mode، وهي وضع تشغيل أكثر تقييدًا مصمَّم للأفراد والمؤسسات القلقين من هجمات حقن التعليمات ومخاطر تسريب البيانات المرتبطة بها. وتُقدَّم هذه الميزة بوصفها نسخة أضيق وأكثر قابلية للدفاع عن ChatGPT في الحالات التي تكون فيها كلفة الاختراق مرتفعة بشكل غير معتاد.

المنطق وراء هذه الميزة بسيط. تصبح أنظمة الذكاء الاصطناعي الحديثة أكثر فائدة عندما تستطيع تصفح الويب، وفحص الملفات، واسترجاع المعلومات الخارجية، وتوليد الشيفرة، أو تنفيذ المهام عبر أدوات متصلة. لكن هذه القدرات نفسها توسّع أيضًا سطح الهجوم. إذا كانت هناك تعليمات خبيثة مضمنة في محتوى ويب أو مستندات أو مواد أخرى يواجهها النموذج، فقد تؤثر في سلوك النظام. ويأتي Lockdown Mode بوصفه ردّ OpenAI على هذه المفاضلة: قدرات أقل مقابل احتواء أشد.

ما الذي يوقفه Lockdown Mode

بحسب النص المصدر المرفق، يعطّل Lockdown Mode عددًا من الميزات المرتبطة بزيادة التعرض للمخاطر. في هذا الوضع، لا يستطيع ChatGPT تصفح الويب، أو عرض الصور في الردود، أو تنفيذ Deep Research، أو العمل كشبكة وكلاء مع مولّد الشيفرة Canvas، أو تنزيل الملفات. لا يزال بإمكان المستخدمين رفع الصور، كما يستطيع النظام أيضًا توليد الصور، لكن النمط العام واضح: الميزات التي توسّع نطاق النموذج إلى ما بعد حدود الدردشة الأساسية هي التي يجري تقليصها.

وهذا مهم لأن حقن التعليمات ليس مثل رسالة تصيّد احتيالي تقليدية أو تنزيل خبيث. ففي سير عمل الذكاء الاصطناعي، قد تكون التعليمة الخطيرة مخفية داخل محتوى يُطلب من النموذج قراءته. وإذا كان المساعد مُتاحًا له أيضًا جلب المعلومات، أو الاستدلال على مواد خارجية، أو التصرف نيابةً عن المستخدم، فإن عواقب التعليمات السيئة تصبح أكثر خطورة. لذا فإن وضعًا يحدّ من هذه المسارات يمكن أن يقلل المخاطر حتى لو قلّل من سهولة الاستخدام.

ميزة أمنية شكّلها عصر الوكلاء

تبرز أهمية Lockdown Mode لأنه يعكس تحولًا أوسع في طريقة تفكير شركات الذكاء الاصطناعي في أمان المنتجات. كانت النقاشات المبكرة حول روبوتات الدردشة الاستهلاكية تتركز على الهلوسة والتحيز والمخرجات الضارة. ومع حصول النماذج على استخدام الأدوات وسلوك شبه وكيل، يتوسع نموذج التهديد. لم يعد الأمر يتعلق فقط بما يقوله النموذج، بل بما يستطيع الوصول إليه، وما يمكن خداعه لفعله، وكم من السياق الحساس يضعه المستخدمون داخل سير عمله.

بهذا المعنى، لا يُعد Lockdown Mode مجرد ميزة متخصصة، بل اعترافًا بأن الذكاء الاصطناعي العام يتجه إلى البيئات المهنية والتشغيلية حيث يصبح الاحتواء أمرًا مهمًا. فالمحامون، والمديرون التنفيذيون، والمحللون، والباحثون، وغيرهم من المستخدمين ذوي الثقة العالية، يريدون على نحو متزايد مساعدة الذكاء الاصطناعي من دون تعريض المواد الحساسة لمخاطر كان يمكن تجنبها. ولن يزيل الوضع الأكثر أمانًا هذه المخاوف، لكنه يمنح المؤسسات طريقة أوضح لوضع الحدود.

القدرة مقابل التحكم

هناك كلفة واضحة. أكثر الاستخدامات جاذبية لـ ChatGPT تعتمد بشكل متزايد على الميزات نفسها التي يقيّدها Lockdown Mode. فالتصفح، والبحث العميق، والتعامل مع الملفات، والإجراءات الوكيلية هي ما يحوّل روبوت الدردشة إلى أداة لسير العمل. وتعطيلها قد يجعل المنتج أقرب إلى مساعد معزول منه إلى مساعد متصل. وبالنسبة إلى كثير من المستخدمين، سيكون ذلك مقيدًا أكثر من اللازم.

ويبدو أن OpenAI تدرك ذلك. فالنص المرفق يذكر صراحة أن الميزة ليست مخصصة للجميع. هذا التأطير مهم. فـ Lockdown Mode ليس إعدادًا افتراضيًا شاملًا، ولا زر إنذار يُفعَّل تلقائيًا عند الخطر. إنه وضع تشغيل اختياري للمستخدمين الذين يفضلون قبول وظائف أضيق بدلًا من تحمّل المخاطر التي تأتي مع نظام أكثر استقلالية.

لماذا يهم هذا الإطلاق

يشير طرح Lockdown Mode إلى أن موردي الذكاء الاصطناعي بدأوا يقسمون منتجاتهم ليس فقط بحسب القوة والسعر، بل أيضًا بحسب الموقف الأمني. ومن المرجح أن يصبح ذلك نمطًا متكررًا. فمع حصول المساعدين على مزيد من البيانات والمزيد من الأدوات، سيحتاج المستخدمون إلى خيارات أوضح لتحديد مقدار الاستقلالية التي يشعرون بالارتياح لمنحها في كل مهمة.

كما يؤكد تحرك OpenAI حقيقة أكثر صعوبة بشأن تبني الذكاء الاصطناعي في المؤسسات والبيئات المهنية: الراحة ليست المقياس الوحيد. ففي بعض السياقات، أفضل منتج ليس الذي يفعل أكثر شيء، بل الذي يفعل ما يكفي مع بقائه محدودًا بشكل يمكن التنبؤ به. ويمثل Lockdown Mode التعبير المنتج عن هذا المبدأ، وربما علامة على الاتجاه التالي لتصميم واجهات الذكاء الاصطناعي.

• Lockdown Mode مصمم لحالات استخدام ChatGPT الأعلى حساسية.
• يعطّل التصفح وDeep Research وبعض ميزات الوكيل وتنزيل الملفات.
• تُظهر الميزة أن ضوابط الأمان أصبحت عامل تمييز أساسيًا في منتجات الذكاء الاصطناعي.

هذه المقالة مبنية على تقرير من Gizmodo. اقرأ المقال الأصلي.