ওপেনএআই-এর মিলেনিয়াম প্রমাণ বিতর্ক এআই গবেষণায় বিশ্বাস নিয়ে কঠিন প্রশ্ন তোলে

যখন একটি এআই ল্যাব একটি মিলেনিয়াম সমস্যা অনুসরণ করে

দ্বন্দ্ব শুরু হয়েছিল একটি অসাধারণ দাবি দিয়ে: একটি এআই সিস্টেম নেভিয়ার-স্টোকস সমীকরণের একটি প্রমাণ তৈরি করেছিল, যা ক্লে ম্যাথমেটিক্স ইনস্টিটিউটের সাতটি মিলেনিয়াম সমস্যার একটি এবং একটি চ্যালেঞ্জ যা কয়েক দশক ধরে গণিতবিদদের প্রতিরোধ করেছে। এই পর্বটি এআই-সহায়ক গবেষণার জন্য একটি মাইলফলক হওয়ার কথা ছিল। পরিবর্তে এটি স্বাধীন গবেষক এবং শক্তিশালী ল্যাবগুলির মধ্যে ধারণাগুলি যেভাবে স্থানান্তরিত হয় সে সম্পর্কে একটি সতর্কতামূলক গল্প হয়ে উঠেছে যা অ্যালগরিদম এবং প্ল্যাটফর্ম উভয়ই নিয়ন্ত্রণ করে।

সব প্রধান পক্ষ এখন প্রকাশ্য বিবৃতি দিয়েছে, এবং বিবরণগুলি তীব্রভাবে পৃথক। কেন্দ্রে রয়েছেন গণিতবিদ ট্রিস্টান বাকমাস্টার, যিনি বলেছেন যে ওপেনএআই লেভেন্ট আলপোগের সাথে তিনি যে গবেষণা প্রকল্পটি অনুসরণ করছিলেন তা জানার পরে অসদাচরণে জড়িত ছিল। ওপেনএআই সবচেয়ে গুরুতর অভিযোগ অস্বীকার করেছে, কিন্তু স্বীকার করেছে যে এর কর্মকাণ্ড প্রতিদ্বন্দ্বী ল্যাব অ্যানথ্রপিকের মডেলগুলি কী অর্জন করেছে সে সম্পর্কে গুজব দ্বারা আকৃতি পেয়েছিল।

চাপ এবং চুরির অভিযোগ

বাকমাস্টার তার সমালোচনায় অস্বাভাবিকভাবে স্পষ্টবাদী ছিলেন। তিনি বলেছেন যে ওপেনএআই তার এবং আলপোগের ওপেনএআই-এর কোডেক্স পরিবেশে আপলোড করা খসড়া থেকে উপাদান নিয়েছে, গবেষণা প্রক্রিয়া চলাকালীন তাকে চাপ দিয়েছে, আলপোগেকে সহ-লেখক হিসাবে অপসারণের চেষ্টা করেছে কারণ আলপোগে অ্যানথ্রপিক দ্বারা নিযুক্ত, এবং তার কর্মজীবনের জন্য পরিণতির হুমকি দিয়েছে। বাকমাস্টারের দৃষ্টিতে, আচরণটি সম্পূর্ণ একাডেমিক অপকর্মের সমান।

চাপের অভিযোগ বাইরে থেকে যাচাই করা অসম্ভব। যা নথিভুক্ত করা যেতে পারে তা হল ওপেনএআই শুনেছিল যে অ্যানথ্রপিকের মডেলগুলি একটি মিলেনিয়াম সমস্যা সমাধান করেছে এবং তার নিজের স্বীকারোক্তি অনুসারে, একই লক্ষ্যে তার সংস্থান নির্দেশ করেছে। ওপেনএআই সিইও স্যাম অল্টম্যান এবং গবেষক সেবাস্তিয়ান বুবেক চুরি অস্বীকার করেছেন। তারা স্বীকার করেছেন যে তাদের দল গুজব ছড়ানোর পরে সমস্যার জন্য বিশেষভাবে একটি মডেল তৈরি করেছে, কিন্তু তারা এই পরামর্শ প্রত্যাখ্যান করেছে যে কোম্পানির ফলাফল বাকমাস্টার এবং আলপোগের থেকে তোলা হয়েছিল।

একই কাজের দুটি খুব ভিন্ন সংস্করণ

বিরোধের প্রযুক্তিগত মূল হল মৌলিকতা। ওপেনএআই বজায় রাখে যে এর সমাধান গণিতবিদদের কাজ থেকে উল্লেখযোগ্যভাবে পৃথক। বাকমাস্টার এবং আলপোগে ভিন্নমত পোষণ করেন। তারা উল্লেখ করেছেন যে তারা ওপেনএআই-এর সিস্টেমে একটি অনুরূপ পদ্ধতি প্রবেশ করিয়েছিল এবং তারা সন্দেহ করে যে ইনপুটটি প্রশিক্ষণ ডেটাতে শেষ হয়েছিল। যদি সত্য হয়, কোম্পানিটি তার প্রতিযোগীদের ছাড়িয়ে যেতে পারে সেই ধারণাগুলি ব্যবহার করে যা প্রতিযোগীরা তার উন্নয়ন সরঞ্জামগুলিতে অর্পণ করেছিল।

এই সম্ভাবনাটি একটি সাধারণ কারণে গুরুত্বপূর্ণ: গবেষকরা সাধারণত তাদের অপ্রকাশিত কাজ প্রশিক্ষণের জন্য প্রতিযোগীর কাছে জমা দেন না। কিন্তু যখন এআই পরীক্ষাগারগুলি কোডিং সহায়ক এবং ক্লাউড প্ল্যাটফর্ম সরবরাহ করে, ব্যবহারকারীরা তাদের সবচেয়ে প্রতিশ্রুতিশীল বৌদ্ধিক সম্পত্তি সরাসরি একটি সিস্টেমে খাওয়াতে পারে যা ল্যাবের নিজস্ব মডেলগুলিকে উন্নত করতে পারে। একটি সরঞ্জাম ব্যবহার এবং গবেষণা আত্মসমর্পণের মধ্যে সীমানা পুলিশ করা কঠিন হয়ে পড়ে।

প্রশিক্ষণ ডেটা প্রশ্ন উত্তরহীন রয়ে গেছে

ওপেনএআই কর্মচারীরা উল্লেখ করেছেন যে কোম্পানিটি জমা দেওয়া সমাধানগুলিতে প্রশিক্ষণ দেওয়ার সম্ভাবনা কম, বিশেষত যদি দুই গবেষক তাদের ইনপুট প্রশিক্ষণের জন্য ব্যবহার করার অনুমতি দেয় এমন বিকল্পটি অক্ষম করে থাকেন। তারা তা করেছিলেন কিনা তা প্রকাশ্যে জানা যায়নি। বৈজ্ঞানিক দৃষ্টিকোণ থেকে, এই অনিশ্চয়তাই বিরোধকে বিপজ্জনক করে তোলে। যখন এই ধরণের একটি অভিযোগ স্বাধীনভাবে তদন্ত করা যায় না, গবেষকরা একটি কর্পোরেশনের কথার উপর নির্ভর করে থাকেন যার বাইরের পরিদর্শনের জন্য তার প্রশিক্ষণ পাইপলাইন খোলার কোনও আইনি বাধ্যবাধকতা নেই।

ওপেনএআই গবেষক বোয়াজ বারাক এই ধারণাটিকে প্রত্যাখ্যান করেছেন যে মডেলটির বাইরের সাহায্যের প্রয়োজন ছিল। তার বর্ণনায়, মডেলটি কেবল একটি পরিচিত যুক্তি পুনরুত্পাদন করেনি; এটি গণিতবিদদের চেয়ে শক্তিশালী দাবি প্রমাণ করে শুরু করেছিল। অন্যথায় পরামর্শ দেওয়া, তার মতে, বাস্তবসম্মত মূল্যায়নের পরিবর্তে মোকাবিলা করা। তবুও এই প্রতিরক্ষা উত্সের গভীর প্রশ্নের সমাধান করতে সামান্যই করে। এমনকি একটি মডেল যা শেষ পর্যন্ত গবেষকদের কাজকে ছাড়িয়ে গেছে তা তাদের খসড়া দ্বারা প্রভাবিত হতে পারে। বৈজ্ঞানিক অখণ্ডতা কেবল আউটপুট অনুলিপি করা হয়েছিল কিনা তা নয়; এটি সমানভাবে গুরুত্বপূর্ণ যে একটি ধারণা অনুমতি ছাড়া নেওয়া হয়েছিল কিনা।

টেরেন্স তাও থেকে একটি সতর্কতা

সবচেয়ে sobering প্রতিক্রিয়াগুলির একটি এসেছে গণিতবিদ টেরেন্স তাও থেকে। তিনি সতর্ক করেছেন যে এই ধরণের ভবিষ্যতের ঘটনাগুলি স্বাধীন গণিতবিদদের একটি অসম্ভব অবস্থানে ফেলতে পারে। যখন একটি গুজব একটি বড় প্রযুক্তি সংস্থায় পৌঁছায়, সেই সংস্থা কয়েক দিনের মধ্যে যথেষ্ট কম্পিউট এবং প্রতিভা সংগ্রহ করতে পারে। একটি ছোট একাডেমিক দল সেই গতির সাথে মেলে না, বিশেষত যদি গুজবটি তাদের নিজস্ব অপ্রকাশিত কাজের উপর ভিত্তি করে থাকে। ফলাফল হতে পারে যে এআই ল্যাবগুলি নিয়মিতভাবে মূল গবেষণা প্রকল্পগুলিকে ছাড়িয়ে যায় কারণ তাদের কান ভাল এবং মেশিন বড়।

তাও-এর সতর্কতা তাৎক্ষণিক বিরোধের বাইরে প্রসারিত। এটি বিজ্ঞানে একটি উদীয়মান অসমতার দিকে নির্দেশ করে: সবচেয়ে শক্তিশালী মডেল তৈরি করা গ্রুপগুলিও প্রাথমিক ফলাফল সম্পর্কে শোনার, প্রশিক্ষণ রানে সংহত করার এবং প্রথমে প্রকাশ করার সেরা অবস্থানে রয়েছে। একাডেমিক প্রণোদনা অগ্রাধিকার এবং উন্মুক্ততার চারপাশে নির্মিত, কিন্তু সেই প্রণোদনাগুলি অর্থহীন হয়ে যায় যদি একটি প্রতিদ্বন্দ্বী সম্মতি ছাড়াই অপ্রকাশিত ডেটা শোষণ করতে পারে।

ওপেন সায়েন্সের জন্য এর অর্থ কী

নেভিয়ার-স্টোকস বিতর্ক তাই কেবল দুটি ব্যক্তি এবং একটি ল্যাবের মধ্যে বিরোধ নয়। এটি এআই উন্নয়ন এবং উন্মুক্ত গবেষণার মধ্যে সম্পর্ক সম্পর্কে মৌলিক প্রশ্ন উত্থাপন করে।

• গবেষকরা কি তাদের অপ্রকাশিত ধারণাগুলি কোম্পানির প্রশিক্ষণ ডেটার বাইরে রাখার সময় নিরাপদে এআই কোডিং প্ল্যাটফর্ম ব্যবহার করতে পারেন? বেশিরভাগ ব্যবহারকারীর কাছে যাচাই করার কোনও উপায় নেই যে এই জাতীয় সুরক্ষা কার্যকর।
• এআই ল্যাবগুলিকে কি অন্য সংস্থার গোপনীয় বা গুজব কাজের উপর ভিত্তি করে তাদের গবেষণা প্রচেষ্টা পুনর্নির্দেশ করার অনুমতি দেওয়া উচিত, বিশেষত যখন গুজবটি তাদের নিজস্ব সরঞ্জামের ভিতরে উদ্ভূত হয়?
• যখন একজন সহ-লেখক একটি প্রতিদ্বন্দ্বী ল্যাব দ্বারা নিযুক্ত হন, তখন কি সেই সত্যটি লেখকত্বকে প্রভাবিত করবে? বাকমাস্টার বলেছেন যে ওপেনএআই সেই কারণে আলপোগেকে কাগজ থেকে অপসারণের চেষ্টা করেছিল, যখন সংস্থাটি অসদাচরণ অস্বীকার করেছে কিন্তু তার লেখকত্ব নীতি স্পষ্ট করেনি।
• যখন চুরির অভিযোগ করা হয় তখন কার প্রশিক্ষণ ডেটা এবং মডেল ওজন অ্যাক্সেস করা উচিত? বর্তমান বিরোধ নিষ্পত্তি প্রক্রিয়া বাইরের নিরীক্ষকদের জন্য কোনও স্পষ্ট পথ সরবরাহ করে না।
• ক্ষেত্রের প্রাথমিক ফলাফল ভাগ করার ইচ্ছার কী ঘটবে যদি জুনিয়র গবেষকরা ভয় পান যে তাদের কাজ আরও শক্তিশালী অভিনেতা দ্বারা খনন করা হবে?

এগুলি বিমূর্ত উদ্বেগ নয়। বিরোধটি ইতিমধ্যে এই ধারণার উপর আস্থা ক্ষতিগ্রস্ত করেছে যে এআই সংস্থাগুলি নিরপেক্ষ বৈজ্ঞানিক অংশীদার হিসাবে কাজ করতে পারে। এমনকি গবেষকরা যাদের নেভিয়ার-স্টোকসে কোনও আগ্রহ নেই তারা একটি এআই ল্যাব দ্বারা পরিচালিত একটি প্ল্যাটফর্মে একটি প্রতিশ্রুতিশীল লেমা বা একটি অপ্রকাশিত পদ্ধতি আপলোড করার আগে যুক্তিসঙ্গতভাবে দ্বিধা করতে পারেন।

বিশ্বাস অনুমান করা যায় না

ওপেনএআই এবং এর রক্ষকরা সঠিক হতে পারে যে কোনও অপব্যবহার ঘটেনি। উপলব্ধ প্রমাণ অসম্পূর্ণ, এবং একটি নির্দোষ কাকতালীয় সম্ভাবনা বাস্তব। কিন্তু এই পর্বটি দায়িত্বশীল এআই গবেষণা কেমন দেখায় তার মান বাড়িয়েছে। একটি ল্যাব যা গণিতবিদদের জন্য সরঞ্জাম বিকাশ করে তাদের কাজ ব্যবহার না করার অস্পষ্ট প্রতিশ্রুতির উপর নির্ভর করতে পারে না। এটি অবশ্যই স্বচ্ছ ডেটা-হ্যান্ডলিং নীতি এবং স্বাধীন নিরীক্ষা প্রক্রিয়ার মাধ্যমে প্রদর্শন করতে হবে যে ব্যবহারকারীর অবদান সম্মতি ছাড়া ভবিষ্যতের মডেলগুলিতে উপস্থিত হবে না।

বৃহত্তর পাঠটি হতে পারে যে বিজ্ঞানী এবং এআই ল্যাবগুলি বিভিন্ন যুক্তির অধীনে কাজ করে। একাডেমিকরা জ্ঞান তৈরি করতে ভাগ করে; সংস্থাগুলি সুবিধা তৈরি করতে ভাগ করে। যখন দুটি সিস্টেম সংঘর্ষ হয়, দুর্বল দিকটি সাধারণত গবেষক যিনি কর্পোরেট দেয়ালের বাইরে। নেভিয়ার-স্টোকস বিরোধটি কেবল গাণিতিক অর্জনের জন্যই নয় যা এটি ট্রিগার করেছিল, তবে জেনারেটিভ এআই যুগে উন্মুক্ত বিজ্ঞানের দুর্বলতা সম্পর্কে কী প্রকাশ করেছিল তার জন্যও স্মরণ করা হবে। শীঘ্রই স্পষ্ট নিয়ম প্রতিষ্ঠিত না হলে, পরবর্তী মিলেনিয়াম সমস্যাটি একটি চকবোর্ডে একাকী গণিতবিদ দ্বারা নয়, বরং একটি কর্পোরেট দল দ্বারা সমাধান করা যেতে পারে যা প্রশ্নটি প্রকাশের আগেই উত্তরটি দেখেছিল।

এই নিবন্ধটি দ্য ডিকোডারের রিপোর্টিংয়ের উপর ভিত্তি করে তৈরি। মূল নিবন্ধটি পড়ুন।