عندما تطارد مختبرات الذكاء الاصطناعي مسألة الألفية
بدأ الصراع بادعاء استثنائي: نظام ذكاء اصطناعي أنتج إثباتًا لمعادلات نافير-ستوكس، وهي واحدة من مسائل الألفية السبع لمعهد كلاي للرياضيات، وتحديًا قاوم علماء الرياضيات لعقود. كان ينبغي أن تكون هذه الحلقة علامة فارقة في الأبحاث بمساعدة الذكاء الاصطناعي. وبدلاً من ذلك، أصبحت قصة تحذيرية حول الطريقة التي تنتقل بها الأفكار بين الباحثين المستقلين والمختبرات القوية التي تتحكم في كل من الخوارزميات والمنصات المستخدمة لتطويرها.
أصدرت جميع الأطراف الرئيسية بيانات عامة الآن، وتتباين الروايات بشكل حاد. وفي المركز عالم الرياضيات تريستان باكماستر، الذي يقول إن OpenAI ارتكبت سوء سلوك بعد علمها بمشروع بحثي كان يتابعه مع ليفينت ألبوغي. وتنفي OpenAI أخطر الاتهامات، لكنها تعترف بأن أفعالها تشكلت بشائعات حول ما حققته نماذج مختبر منافس أنثروبيك.
اتهامات بالضغط والسرقة الأدبية
كان باكماستر صريحًا بشكل غير معتاد في انتقاداته. يقول إن OpenAI أخذت مواد من مسودات قام هو وألبوغي بتحميلها إلى بيئة Codex الخاصة بـ OpenAI، وضغطت عليه أثناء عملية البحث، وحاولت إزالة ألبوغي كمؤلف مشارك لمجرد أن ألبوغي يعمل لدى أنثروبيك، وهددته بعواقب على مسيرته المهنية. في رأي باكماستر، فإن هذا السلوك يرقى إلى سوء ممارسة أكاديمية مطلقة.
من المستحيل التحقق من اتهام الضغط من الخارج. ما يمكن توثيقه هو أن OpenAI سمعت شائعات بأن نماذج أنثروبيك حلت مسألة الألفية، واعترفت بأنها وجهت مواردها نحو نفس الهدف. الرئيس التنفيذي لـ OpenAI سام ألتمان والباحث سيباستيان بوبيك ينفيان السرقة الأدبية. ويعترفان بأن فريقهما طور نموذجًا مخصصًا للمشكلة بعد انتشار الشائعة، لكنهما يرفضان الاقتراح بأن نتيجة الشركة رُفعت من باكماستر وألبوغي.
نسختان مختلفتان جدًا من نفس العمل
الجوهر الفني للخلاف هو الأصالة. تؤكد OpenAI أن حلّها يختلف اختلافًا كبيرًا عن عمل عالِمي الرياضيات. يختلف باكماستر وألبوغي. ويشيران إلى أنهما أدخلا نهجًا مشابهًا في أنظمة OpenAI، ويشتبهان في أن الإدخال انتهى به المطاف في بيانات التدريب. إذا كان هذا صحيحًا، فقد تكون الشركة تسارعت متجاوزة منافسيها باستخدام الأفكار ذاتها التي عهد بها أولئك المنافسون إلى أدوات التطوير الخاصة بها.
تلك الاحتمالية مهمة لسبب بسيط: الباحثون عادة لا يقدمون أعمالهم غير المنشورة إلى منافس للتدريب. ولكن عندما توفر مختبرات الذكاء الاصطناعي مساعدي البرمجة والمنصات السحابية، قد يغذي المستخدمون ملكيتهم الفكرية الواعدة مباشرة في نظام يمكنه تحسين نماذج المختبر نفسه. يصبح الحد الفاصل بين استخدام أداة وتسليم البحث إليها صعب المراقبة.
سؤال بيانات التدريب يظل بلا إجابة
يشير موظفو OpenAI إلى أن احتمال تدريب الشركة على الحلول المقدمة منخفض، خاصة إذا قام الباحثان بتعطيل الخيار الذي يسمح باستخدام مدخلاتهما للتدريب. ما إذا كانا فعلا ذلك غير معروف علنًا. من وجهة نظر علمية، هذا عدم اليقين هو بالضبط ما يجعل النزاع خطيرًا. عندما لا يمكن التحقيق في ادعاء من هذا النوع بشكل مستقل، يُترك الباحثون معتمدين على كلمة شركة ليس لديها التزام قانوني بفتح خط أنابيب التدريب الخاص بها للتفتيش الخارجي.
دفع الباحث في OpenAI بوعز باراك فكرة أن النموذج احتاج إلى مساعدة خارجية على الإطلاق. في روايته، لم يقم النموذج بمجرد إعادة إنتاج حجة معروفة؛ لقد بدأ بإثبات ادعاء أقوى مما قدمه عالِما الرياضيات. في رأيه، اقتراح خلاف ذلك هو تكيف وليس تقييمًا واقعيًا. ومع ذلك، فإن هذا الدفاع لا يحل كثيرًا في السؤال الأعمق حول المصدر. حتى النموذج الذي تجاوز في النهاية عمل الباحثين كان يمكن أن يتأثر بمسوداتهم. النزاهة العلمية لا تتعلق فقط بما إذا كان الناتج منسوخًا؛ بل تتعلق أيضًا بما إذا كانت الفكرة مأخوذة دون إذن.
تحذير من تيرينس تاو
واحدة من أكثر الردود جدية جاءت من عالم الرياضيات تيرينس تاو. لقد حذر من أن الأحداث المستقبلية من هذا النوع قد تترك علماء الرياضيات المستقلين في موقف مستحيل. عندما تصل شائعة إلى شركة تكنولوجيا كبيرة، يمكن لتلك الشركة حشد قوة حاسوبية ومواهب كبيرة في غضون أيام. لا يمكن لفريق صغير من الأكاديميين مجاراة هذا الإيقاع، خاصة إذا كانت الشائعة مبنية على عملهم غير المنشور. قد تكون النتيجة أن مختبرات الذكاء الاصطناعي تتجاوز مشاريع البحث الأصلية بشكل روتيني لمجرد أن لديها آذانًا أفضل وآلات أكبر.
يمتد تحذير تاو إلى ما هو أبعد من النزاع المباشر. إنه يشير إلى عدم تناسق ناشئ في العلوم: المجموعات التي تنشئ النماذج الأكثر قوة هي أيضًا في أفضل وضع لسماع النتائج المبكرة، ودمجها في عمليات التدريب، والنشر أولاً. الحوافز الأكاديمية مبنية حول الأولوية والانفتاح، لكن تلك الحوافز تصبح بلا معنى إذا كان بإمكان منافس امتصاص بيانات غير معلنة دون موافقة.
ماذا يعني هذا للعلم المفتوح
لذلك فإن جدل نافير-ستوكس ليس مجرد نزاع بين فردين ومختبر واحد. إنه يثير أسئلة أساسية حول العلاقة بين تطوير الذكاء الاصطناعي والبحث المفتوح.
- هل يمكن للباحثين استخدام منصات البرمجة بالذكاء الاصطناعي بأمان مع إبقاء أفكارهم غير المنشورة بعيدًا عن بيانات تدريب الشركة؟ معظم المستخدمين ليس لديهم طريقة للتحقق من فعالية هذه الحمايات.
- هل ينبغي السماح لمختبرات الذكاء الاصطناعي بإعادة توجيه جهودها البحثية بناءً على عمل سري أو مشاع من منظمة أخرى، خاصة عندما تنشأ الشائعة داخل أدواتها الخاصة؟
- عندما يكون المؤلف المشارك موظفًا في مختبر منافس، هل يجب أن تؤثر هذه الحقيقة على التأليف؟ يقول باكماستر إن OpenAI حاولت إزالة ألبوغي من الورقة لهذا السبب، بينما تنفي الشركة سوء السلوك لكنها لم توضح سياسة التأليف الخاصة بها.
- من يجب أن يكون لديه حق الوصول إلى بيانات التدريب وأوزان النماذج عند الادعاء بالسرقة الأدبية؟ آليات حل النزاعات الحالية لا توفر مسارًا واضحًا للمدققين الخارجيين.
- ماذا يحدث لاستعداد المجال لمشاركة النتائج المبكرة إذا خشي الباحثون الشباب من أن يتم استخراج أعمالهم من قبل جهة أكثر قوة؟
هذه ليست مخاوف مجردة. لقد أضر النزاع بالفعل بالثقة في فكرة أن شركات الذكاء الاصطناعي يمكن أن تكون شركاء علميين محايدين. حتى الباحثون الذين لا يهتمون بنافير-ستوكس قد يترددون بشكل معقول قبل تحميل تمهيد واعد أو طريقة غير منشورة إلى منصة تديرها مختبرات الذكاء الاصطناعي.
لا يمكن افتراض الثقة
قد يكون OpenAI ومدافعوه على حق في أنه لم يحدث أي إساءة استخدام. الأدلة المتاحة غير مكتملة، واحتمال الصدفة البريئة حقيقي. لكن الحلقة رفعت سقف ما يبدو عليه البحث المسؤول في الذكاء الاصطناعي. المختبر الذي يطور أدوات لعلماء الرياضيات لا يمكنه الاعتماد على وعد غامض بعدم استخدام عملهم. يجب عليه إثبات، من خلال سياسات شفافة للتعامل مع البيانات وآليات تدقيق مستقلة، أن مساهمات المستخدم لن تظهر في نماذج مستقبلية دون موافقة.
قد يكون الدرس الأوسع هو أن العلماء ومختبرات الذكاء الاصطناعي يعملون وفق منطقين مختلفين. الأكاديميون يشاركون لبناء المعرفة؛ الشركات تشارك لبناء ميزة. عندما يصطدم النظامان، يكون الجانب الأضعف عادة هو الباحث خارج أسوار الشركة. سيُذكر نزاع نافير-ستوكس ليس فقط للإنجاز الرياضي الذي أطلق العنان له، ولكن لما كشفه عن ضعف العلم المفتوح في عصر الذكاء الاصطناعي التوليدي. ما لم يتم وضع معايير واضحة قريبًا، قد يتم حل مسألة الألفية القادمة ليس بواسطة عالم رياضيات وحيد على سبورة، ولكن بواسطة فريق شركة رأى الإجابة قادمة قبل نشر السؤال أبدًا.
هذه المقالة مبنية على تقارير من The Decoder. اقرأ المقال الأصلي.
Originally published on the-decoder.com
