आवेदन के भर्तीकर्ता तक पहुँचने से पहले ही AI पक्षपात शामिल कर सकता है

नौकरी तलाशने की प्रक्रिया को अधिक कुशल बनाने के तरीके के रूप में जनरेटिव AI का उपयोग बढ़ रहा है: आवेदक इसका इस्तेमाल रिज़्यूमे तैयार करने, कवर लेटर को अनुकूलित करने या प्रासंगिक कौशल पहचानने के लिए कर सकते हैं, जबकि नियोक्ता उम्मीदवारों की शुरुआती छंटनी के लिए संबंधित प्रणालियों का उपयोग कर सकते हैं। नए शोध से संकेत मिलता है कि यह सुविधा एक अधिक सूक्ष्म समस्या पैदा कर सकती है। एक ही प्रकार के भाषा मॉडल भर्ती प्रक्रिया के दोनों छोरों पर लैंगिक रूढ़ियों को समाहित कर सकते हैं।

Proceedings of the National Academy of Sciences में प्रकाशित एक अध्ययन में शोधकर्ताओं ने जांच की कि संयुक्त राज्य अमेरिका में 98 व्यवसायों के लिए छह भाषा मॉडल रिज़्यूमे कैसे तैयार करते हैं और नौकरी के उम्मीदवारों का मूल्यांकन कैसे करते हैं। उनका निष्कर्ष केवल यह नहीं था कि स्पष्ट रूप से पुरुष और महिला के रूप में चिह्नित आवेदकों के साथ मॉडल अलग-अलग व्यवहार करते हैं। महिलाओं के लिए तैयार किए गए रिज़्यूमे में पुरुषों के लिए तैयार किए गए रिज़्यूमे की तुलना में अलग भाषा और अलग जोर दिखाई दिया, भले ही बाद के मूल्यांकनकर्ताओं को आवेदक का लिंग न बताया गया हो।

यह इसलिए महत्वपूर्ण है क्योंकि कोई आवेदक पेशेवर दिखने वाला दस्तावेज़ बनाने के लिए AI का उपयोग कर सकता है, लेकिन नियोक्ता की AI-सहायित छंटनी प्रक्रिया उस पाठ में मौजूद पैटर्न से निष्कर्ष निकाल सकती है। शोधकर्ताओं ने इस जोखिम को दोहरे फिल्टर के रूप में वर्णित किया है: पक्षपात लेखन प्रक्रिया में प्रवेश कर सकता है और चयन के दौरान और मजबूत हो सकता है।

छह मॉडल, हजारों रिज़्यूमे

शोधकर्ताओं ने GPT 5.4, Claude Opus 4.6, DeepSeek 3.2, Mistral Large 3, Grok 4.1 और Llama 3.3 70B का परीक्षण किया। शुरुआती चरण में उन्होंने उम्मीदवार का लिंग बेतरतीब ढंग से निर्धारित करते हुए 35,280 रिज़्यूमे तैयार किए। इसके बाद उन्होंने प्रणालियों से वेतन की सिफारिश करने और रोजगार-योग्यता अंक देने को कहा। इस तरीके का उद्देश्य रिज़्यूमे की सामग्री के प्रभाव को आवेदक से जुड़े लिंग के प्रभाव से अलग करना था।

पूरे प्रयोग में लेखन समान नहीं था। महिलाओं के लिए लिखे गए रिज़्यूमे में दूसरों की मदद करने, संगठनात्मक जीवन में योगदान देने और ऐसे कार्य करने का उल्लेख अधिक बार किया गया जिनसे पदोन्नति मिलने की संभावना कम होती है। अलग से देखने पर ऐसी भाषा सकारात्मक लग सकती है, लेकिन यह उन परिचित कार्यस्थलीय धारणाओं से जुड़ सकती है कि सहायक कार्य करने की अपेक्षा किससे की जाती है और नेतृत्व करने की किससे।

लिंग के सीधे संदर्भ हटा दिए जाने के बाद भी यह प्रभाव दिखाई दिया। रिपोर्ट के अनुसार, एक वर्गीकरण मॉडल 81% मामलों में पहचान सकता था कि कोई पाठ महिला या पुरुष के लिए तैयार किया गया था। दूसरे शब्दों में, लिंग का संकेत केवल नामों या सर्वनामों तक सीमित नहीं था। वह शब्दों के चयन, उजागर किए गए गुणों और उम्मीदवार के लिए तैयार की गई प्रोफ़ाइल में बना रहा।

सुघड़ भाषा पर्याप्त क्यों नहीं है

यह अध्ययन AI लेखन उपकरणों को परखने के एक आम तरीके को चुनौती देता है। कोई रिज़्यूमे प्रवाहपूर्ण, पेशेवर और व्याकरण की दृष्टि से सही हो सकता है, फिर भी उम्मीदवार को रूढ़िबद्ध तरीके से प्रस्तुत करने की दिशा में मोड़ सकता है। यदि महिलाओं को अधिक बार मददगार या संगठनात्मक रूप से सहायक बताया जाता है, जबकि पुरुषों के रिज़्यूमे में अन्य गुणों पर अधिक जोर दिया जाता है, तो उपयोगकर्ताओं को ऐसी सलाह मिल सकती है जो उनके अनुभव की व्याख्या का तरीका बदल देती है।

Even AI thinks it's a man's job
AI द्वारा तैयार किए गए CV की सामग्री में लैंगिक अंतर। श्रेय: Proceedings of the National Academy of Sciences (2026)। DOI: 10.1073/pnas.2534118123

श्रम बाजारों में इसका प्रभाव विशेष रूप से महत्वपूर्ण है, क्योंकि रिज़्यूमे संक्षिप्त दस्तावेज़ होते हैं। वे तय करते हैं कि किन उपलब्धियों को प्रमुखता दी जाएगी, कौन से कौशल केंद्रीय दिखाई देंगे और उम्मीदवार के करियर की दिशा को किस तरह प्रस्तुत किया जाएगा। जोर में छोटा-सा बदलाव भी इस बात को प्रभावित कर सकता है कि पाठक किसी व्यक्ति को परिचालन योगदानकर्ता, सहयोगी टीम सदस्य, विशेषज्ञ या संभावित नेता के रूप में देखता है।

स्वचालित मूल्यांकन इस समस्या को और बढ़ा सकता है। भर्ती प्रणालियां और भर्तीकर्ता अक्सर सीमित मात्रा में उपलब्ध पाठ में उपयुक्तता के संकेत खोजते हैं। यदि तैयार की गई भाषा में पहचानने योग्य लैंगिक पैटर्न मौजूद हों, तो बाद की कोई मॉडल-आधारित प्रणाली उन पैटर्न को आवेदक के बारे में प्रमाण मान सकती है, भले ही आवेदक का लिंग स्पष्ट रूप से न बताया गया हो। इसका परिणाम आवश्यक रूप से जानबूझकर बनाया गया भेदभावपूर्ण नियम नहीं होता। यह एक ऐसा फीडबैक लूप हो सकता है जिसमें रूढ़ियों से प्रभावित लेखन, रूढ़ियों के प्रति संवेदनशील मूल्यांकन का इनपुट बन जाता है।

AI-संचालित भर्ती के लिए शासन का प्रश्न

यह शोध यह स्थापित नहीं करता कि भर्ती में जनरेटिव AI का हर उपयोग पक्षपाती है, और न ही यह दिखाता है कि हर परिस्थिति में सभी मॉडल एक जैसा व्यवहार करते हैं। हालांकि, यह अवश्य दिखाता है कि स्वचालन भर्ती को स्वाभाविक रूप से अधिक निष्पक्ष बनाता है—ऐसे दावों की जांच क्यों आवश्यक है। किसी मानवीय चरण को AI प्रणाली से बदलने पर निर्णय समाप्त नहीं हो जाता, यदि प्रणाली ने मानव-निर्मित भाषा और डेटा से पैटर्न सीखे हों।

नियोक्ताओं के लिए व्यावहारिक सबक यह है कि परीक्षण केवल मॉडल की सटीकता या किसी प्रॉम्प्ट की apparent neutrality तक सीमित नहीं होना चाहिए। भर्ती में AI का उपयोग करने वाले संगठनों को पूरी प्रक्रिया का आकलन करना होगा: आवेदकों को लेखन उपकरणों के उपयोग के लिए कैसे प्रोत्साहित किया जाता है, वे उपकरण किस प्रकार का पाठ तैयार करते हैं, छंटनी प्रणालियां कौन से संकेत निकालती हैं और क्या अलग-अलग समूहों के परिणामों में अंतर है।

नौकरी तलाशने वालों के लिए यह अध्ययन याद दिलाता है कि AI द्वारा तैयार किए गए पाठ को पेशेवर पहचान के प्रामाणिक विवरण के बजाय प्रारूप समझना चाहिए। आवेदक यह देख सकते हैं कि कहीं किसी उपकरण ने ठोस उपलब्धियों, तकनीकी विशेषज्ञता, जिम्मेदारी और मापने योग्य परिणामों की कीमत पर व्यक्तित्व गुणों, स्वयंसेवी कार्य या सहायक कार्यों पर जरूरत से ज्यादा जोर तो नहीं दिया है।

बड़ा सबक

AI प्रणालियां लोगों और अवसरों के बीच तेजी से मध्यस्थ की भूमिका में आ रही हैं। PNAS का यह अध्ययन दिखाता है कि औपचारिक भर्ती निर्णय से पहले ही यह भूमिका महत्वपूर्ण हो सकती है। जब कोई मॉडल रिज़्यूमे को आकार देने में मदद करता है, तो वह केवल व्याकरण सुधारने या फॉर्मेटिंग बेहतर करने का काम नहीं कर रहा होता। वह इस बात को प्रभावित कर सकता है कि आवेदक अपने काम के बारे में कौन-सी कहानी बताता है।

इससे AI-संचालित श्रम बाजारों के लिए पारदर्शिता, ऑडिटिंग और सार्थक मानवीय समीक्षा केंद्रीय प्रश्न बन जाते हैं। चुनौती केवल यह रोकना नहीं है कि कोई प्रणाली स्पष्ट लैंगिक लेबल पढ़े। चुनौती उन कम दिखाई देने वाली धारणाओं को समझना भी है जो तैयार की गई भाषा के माध्यम से आगे बढ़ती हैं, और यह सुनिश्चित करना है कि सहायता के रूप में प्रचारित उपकरण चुपचाप उन असमानताओं को दोहराते न रहें जिन्हें कम करने के लिए उन्हें बनाया गया है।

यह लेख Phys.org की रिपोर्टिंग पर आधारित है। मूल लेख पढ़ें।

Originally published on phys.org