एल्गोरिथम प्रबंधन: क्या कोई एल्गोरिथम आपके प्रदर्शन का मूल्यांकन कर सकता है?

कर्मचारियों की निगरानी, ​​मूल्यांकन और मार्गदर्शन के लिए कृत्रिम बुद्धिमत्ता (AI) प्रणालियों का उपयोग करने वाला एल्गोरिथम प्रबंधन नीदरलैंड में अनुमत है, लेकिन केवल सीमित दायरे में। एक एल्गोरिथम प्रदर्शन मूल्यांकन में सहायक हो सकता है; यह बर्खास्तगी, पदावनति या बोनस अस्वीकृति जैसे आपके जीवन पर महत्वपूर्ण प्रभाव डालने वाले निर्णयों का एकमात्र आधार नहीं हो सकता, क्योंकि GDPR का अनुच्छेद 22 ऐसे निर्णयों को एक ऐसे व्यक्ति के लिए आरक्षित रखता है जो वास्तव में उनकी समीक्षा करे। इसके अलावा, यूरोपीय संघ का AI अधिनियम कर्मचारियों की निगरानी और मूल्यांकन के लिए उपयोग की जाने वाली प्रणालियों को उच्च जोखिम वाली श्रेणी में रखता है, और कार्यस्थल पर कर्मचारियों की भावनाओं का अनुमान लगाने के लिए AI के उपयोग पर पूर्णतः प्रतिबंध लगाता है।

एल्गोरिथम प्रबंधन वास्तव में क्या है

एल्गोरिथम प्रबंधन वह स्थिति है जिसमें पर्यवेक्षक के बजाय सॉफ्टवेयर अवलोकन, मापन और अक्सर निर्णय लेने का कार्य करता है। यह गोदामों और वितरण केंद्रों, ग्राहक संपर्क केंद्रों, प्लेटफॉर्म पर काम करने और तेजी से उन सामान्य कार्यालय भूमिकाओं में दिखाई देता है जहां उत्पादकता बढ़ाने वाले उपकरण उन प्रणालियों में अंतर्निहित होते हैं जिनका लोग पहले से ही उपयोग करते हैं। नियोक्ता को कानूनी प्रश्न उठने के लिए एआई मैनेजर नामक उत्पाद खरीदने की आवश्यकता नहीं है; स्वचालित रूप से एकत्रित डेटा के आधार पर कर्मचारियों को अंक देने वाला डैशबोर्ड ही पर्याप्त है।

इस तरह की प्रणाली गिनती करने में माहिर होती है। यह पूरे किए गए कार्यों, हैंडलिंग समय, प्रतिक्रिया समय, स्क्रिप्ट का पालन, एप्लिकेशन में लॉग किए गए घंटों को दर्ज करती है। लेकिन यह नहीं समझ पाती कि किसी संख्या में बदलाव क्यों हुआ। एक कर्मचारी जिसका आउटपुट कम हो जाता है क्योंकि उसने तीन सप्ताह एक नए सहकर्मी को प्रशिक्षण देने में बिताए, क्योंकि वह उस एकमात्र ग्राहक को संभाल रहा था जिसे कोई और नहीं संभाल पा रहा था, या क्योंकि उस अवधि में काम असामान्य रूप से जटिल था, डेटा में उस कर्मचारी के समान ही दिखाई देता है जिसने बस कम काम किया। माप और अर्थ के बीच का यह अंतर इस क्षेत्र में लगभग हर कानूनी विवाद का मूल कारण है।

मुद्दा यह नहीं है कि प्रदर्शन का मापन गैरकानूनी है। नियोक्ताओं को यह जानने का अधिकार है कि काम कैसा चल रहा है, और उचित निगरानी व्यवसाय चलाने का एक सामान्य हिस्सा है। मुद्दा यह है कि डच और यूरोपीय कानून मापन के तरीके और उससे प्राप्त परिणामों के उपयोग के तरीके पर शर्तें लगाते हैं।

ये सिस्टम आपके प्रदर्शन का मूल्यांकन कैसे करते हैं

इस प्रक्रिया की कार्यप्रणाली को समझना महत्वपूर्ण है, क्योंकि आपके अधिकार प्रक्रिया के विशिष्ट चरणों से जुड़े होते हैं। मोटे तौर पर, तीन चीजें होती हैं: डेटा एकत्र किया जाता है, एक मॉडल उस डेटा को निर्णय में परिवर्तित करता है, और कोई व्यक्ति या संस्था उस पर कार्रवाई करती है।

सिस्टम क्या जानकारी एकत्र करता है

डेटा संग्रह आमतौर पर अदृश्य और निरंतर होता है। ग्राहक संपर्क परिवेश में, सिस्टम संभाले गए संपर्कों की संख्या, औसत निपटान समय, पहली बार में समाधान, कॉल के बीच निष्क्रिय समय और निर्धारित स्क्रिप्ट का पालन जैसी जानकारी दर्ज कर सकता है। यह इससे आगे बढ़कर सामग्री का विश्लेषण भी कर सकता है: ईमेल और कॉल ट्रांसक्रिप्ट पर लागू प्राकृतिक भाषा प्रसंस्करण, कीवर्ड पहचान और बातचीत के ग्राहक पक्ष का भावना विश्लेषण। लॉजिस्टिक्स में, यह स्कैन दर और पिकिंग गति को मापेगा; कार्यालय कार्य में, सहयोग उपकरणों में गतिविधि को मापेगा।

इनमें से प्रत्येक डेटा बिंदु आपके बारे में व्यक्तिगत डेटा है, और प्रत्येक डेटा का औचित्य सिद्ध करना आवश्यक है। GDPR के अंतर्गत, कोई भी नियोक्ता किसी सिस्टम द्वारा एकत्रित की जा सकने वाली हर जानकारी को एकत्र नहीं कर सकता; प्रसंस्करण किसी विशिष्ट उद्देश्य के लिए आवश्यक और उसके अनुरूप होना चाहिए। ऐसा सिस्टम जो कीबोर्ड पर टाइप किए गए डेटा को रिकॉर्ड करता है या समय-समय पर स्क्रीनशॉट लेकर यह निर्धारित करता है कि कौन कड़ी मेहनत कर रहा है, उसे अनुरूपता के रूप में सिद्ध करना बहुत कठिन है, और डच डेटा संरक्षण प्राधिकरण (Autoriteit Persoonsgegevens) इस प्रकार की व्यापक निगरानी की लगातार आलोचना करता रहा है।

नियमों से लेकर मॉडलों तक, और ब्लैक बॉक्स तक

सबसे सरल प्रणालियाँ नियम-आधारित होती हैं। यदि औसत कार्य-संचालन समय एक सप्ताह में निर्धारित सीमा से अधिक बार हो जाता है, तो कर्मचारी को चिह्नित कर दिया जाता है। ऐसी प्रणाली कठोर होती है और संदर्भ को नहीं समझती, लेकिन इसका एक महत्वपूर्ण लाभ यह है कि आप नियम को पढ़कर यह जान सकते हैं कि आपको चिह्नित क्यों किया गया है, जिससे इस पर बहस करना संभव हो जाता है।

मशीन लर्निंग मॉडल अलग तरह से काम करते हैं। इन्हें इस ऐतिहासिक डेटा पर प्रशिक्षित किया जाता है कि किसने अच्छा प्रदर्शन किया और किसने नहीं, और ये उन परिणामों से संबंधित पैटर्न का अनुमान लगाते हैं। यह अधिक शक्तिशाली है लेकिन काफी हद तक कम पारदर्शी है। मॉडल किसी ऐसी चीज़ पर ध्यान केंद्रित कर सकता है जिसका प्रदर्शन से कोई पुख्ता संबंध नहीं है, और न तो नियोक्ता और न ही कभी-कभी आपूर्तिकर्ता यह सटीक रूप से बता सकते हैं कि किसी विशेष स्कोर का परिणाम ऐसा क्यों आया।

इस अस्पष्टता को ही आमतौर पर 'ब्लैक बॉक्स समस्या' कहा जाता है, और कानूनी संदर्भ में यह मात्र असुविधाजनक नहीं बल्कि घातक है। जो नियोक्ता मूल्यांकन का आधार स्पष्ट नहीं कर सकता, वह उसमें निहित तर्क के बारे में सार्थक जानकारी देने के अपने कर्तव्य का पालन नहीं कर सकता, चुनौती दिए जाने पर मूल्यांकन का उचित बचाव नहीं कर सकता, और यह साबित नहीं कर सकता कि यह भेदभावपूर्ण नहीं है। व्यवहार में, यदि आप इसे स्पष्ट नहीं कर सकते, तो आप इस पर भरोसा नहीं कर सकते।

GDPR के अनुसार AI प्रदर्शन प्रणाली से क्या अपेक्षाएँ हैं

इस क्षेत्र में GDPR पहला और अभी भी सबसे व्यावहारिक साधन है, क्योंकि यह कर्मचारी डेटा संसाधित करने वाले प्रत्येक नियोक्ता पर लागू होता है और इसे वर्षों से लागू किया गया है। इसके चार नियम अधिकांश कार्य को पूरा करते हैं।

अनुच्छेद 22: मशीन द्वारा अकेले कोई महत्वपूर्ण निर्णय नहीं लिया जाएगा

GDPR का अनुच्छेद 22 प्रत्येक व्यक्ति को यह अधिकार देता है कि उस पर पूरी तरह से स्वचालित प्रसंस्करण (प्रोफाइलिंग सहित) पर आधारित कोई भी निर्णय लागू न हो, जिसका उन पर कानूनी प्रभाव पड़ता हो या जो उन्हें इसी प्रकार महत्वपूर्ण रूप से प्रभावित करता हो। बर्खास्तगी, अनुबंध का नवीनीकरण न करना, पदावनति, बोनस रोकना और पदोन्नति से इनकार करना, ये सभी इस परिभाषा के अंतर्गत आते हैं।

दो शब्द ही मायने रखते हैं। 'केवल' का अर्थ है कि कोई व्यक्ति जो केवल सिस्टम द्वारा प्रस्तावित बात की पुष्टि करता है, वह अनुच्छेद 22 के दायरे से बाहर निर्णय नहीं लेता; पर्यवेक्षी अधिकारियों ने वर्षों से यह स्पष्ट कर दिया है कि बिना सोचे-समझे किसी बात पर मुहर लगाना मानवीय भागीदारी नहीं है। सार्थक भागीदारी के लिए एक ऐसे समीक्षक की आवश्यकता होती है जिसके पास अलग निष्कर्ष पर पहुंचने का अधिकार हो, मामले का आकलन करने की क्षमता हो और इसके लिए पर्याप्त समय हो। 'महत्वपूर्ण रूप से प्रभावित करता है' का अर्थ व्यापक है, और इसके लिए किसी औपचारिक कानूनी परिणाम की आवश्यकता नहीं है: एक स्कोरिंग सिस्टम जो यह निर्धारित करता है कि आपको कौन सी शिफ्ट या कौन से कार्य दिए जाएंगे, वह आपको इतना प्रभावित कर सकता है कि आप इस अनुच्छेद के दायरे में आ जाएं।

जहां अनुच्छेद 22 लागू होता है, वहां नियोक्ता को किसी भी स्थिति में इसके द्वारा निर्धारित सुरक्षा उपाय प्रदान करने होंगे: मानवीय हस्तक्षेप प्राप्त करने का अधिकार, अपना दृष्टिकोण व्यक्त करने का अधिकार और निर्णय का विरोध करने का अधिकार।

पारदर्शिता, पहुंच और इसमें निहित तर्क

कर्मचारियों को सिस्टम के अस्तित्व और उसके कार्यों के बारे में पहले से सूचित किया जाना चाहिए। अनुच्छेद 22 के अनुसार स्वचालित निर्णय प्रक्रिया होने पर, नियोक्ता को इसमें शामिल तर्क और प्रोसेसिंग के महत्व एवं संभावित परिणामों के बारे में सार्थक जानकारी प्रदान करनी होगी। यही जानकारी बाद में भी विषय पहुंच अनुरोध के माध्यम से प्राप्त की जा सकती है, जिससे आपको अपने बारे में संसाधित किए जा रहे व्यक्तिगत डेटा की एक प्रति प्राप्त करने का अधिकार मिलता है: स्कोर, अंतर्निहित माप और सिस्टम द्वारा आपको सौंपी गई श्रेणियां।

अब यह तय हो गया है कि सार्थकता का अर्थ औपचारिकता के बजाय सारगर्भित होना है। यह तकनीक का वर्णन नहीं है; यह इस बात की व्याख्या है कि किन कारकों का उपयोग किया गया और उनका क्या महत्व था, जिसे संबंधित व्यक्ति वास्तव में समझ सके और उस पर अमल कर सके।

कानूनी आधार, सहमति और डीपीआईए

प्रत्येक प्रक्रिया के लिए एक वैध आधार आवश्यक है। रोजगार के संदर्भ में सहमति का उपयोग शायद ही कभी किया जा सकता है, क्योंकि नियोक्ता और कर्मचारी के बीच एक मजबूत संबंध होता है: ऐसी सहमति जिसे अस्वीकार किए जाने पर परिणाम भुगतने पड़ सकते हैं, वह स्वेच्छा से नहीं दी जाती। इसलिए नियोक्ता आमतौर पर रोजगार अनुबंध के निष्पादन के लिए प्रक्रिया की आवश्यकता, किसी कानूनी दायित्व या वैध हित पर निर्भर रहते हैं, और इनमें से अंतिम के लिए कार्यबल की गोपनीयता के विरुद्ध अपनाए जा रहे हित का दस्तावेजी संतुलन आवश्यक होता है।

क्योंकि इतने बड़े पैमाने पर प्रदर्शन की निगरानी में स्वचालित प्रक्रिया के आधार पर लोगों का व्यवस्थित और व्यापक मूल्यांकन शामिल होता है, इसलिए डेटा सुरक्षा प्रभाव आकलन अनिवार्य है। सिस्टम के चालू होने से पहले यह आवश्यक है, और इसमें प्रक्रिया का वर्णन होना चाहिए, इसकी आवश्यकता और औचित्य को स्पष्ट करना चाहिए, कर्मचारियों के लिए जोखिमों की पहचान करनी चाहिए और उनसे निपटने के उपायों को निर्धारित करना चाहिए। जो नियोक्ता आकलन को छोड़ देते हैं, वे आमतौर पर बाद में, किसी विवाद में, समस्याओं का पता लगाते हैं, जब गलतियों को चुपचाप सुधारना संभव नहीं रह जाता।

नियोक्ता निगरानी के मामले में कितनी हद तक जा सकता है?

प्रदर्शन मूल्यांकन को निगरानी से अलग नहीं किया जा सकता, और निगरानी की अपनी सीमाएँ होती हैं। एक कर्मचारी कार्यालय के द्वार पर अपनी निजी जिंदगी का त्याग नहीं करता: यूरोपीय मानवाधिकार न्यायालय ने बारबुलेस्कु बनाम रोमानिया मामले में फैसला सुनाया कि किसी कर्मचारी के संचार की निगरानी करना कन्वेंशन के अनुच्छेद 8 के तहत निजी जीवन और पत्राचार के सम्मान के अधिकार का उल्लंघन करता है, और नियोक्ता को कर्मचारी को निगरानी की प्रकृति और सीमा के बारे में पहले से सूचित करना होगा, एक वैध उद्देश्य का पालन करना होगा, और इसे प्राप्त करने में सक्षम सबसे कम दखल देने वाले साधनों का चयन करना होगा। कार्यबल की गुप्त निगरानी अपवाद है और इसके लिए ठोस संदेह, सीमित अवधि और दस्तावेजी मूल्यांकन की आवश्यकता होती है, जो किसी भी हल्के उपाय से संभव नहीं है।

एल्गोरिथम प्रबंधन परियोजना के संदर्भ में, इसका अर्थ है कि नियोक्ता को प्रत्येक डेटा स्ट्रीम के बारे में तीन प्रश्नों के उत्तर देने में सक्षम होना चाहिए: यह डेटा निर्दिष्ट उद्देश्य के लिए क्यों आवश्यक है, कम हस्तक्षेपकारी माप से यह उद्देश्य क्यों प्राप्त नहीं होगा, और क्या कर्मचारियों को इसकी पूर्व सूचना दी गई थी। कार्य समय के बाहर निरंतर स्क्रीन रिकॉर्डिंग, कीस्ट्रोक लॉगिंग और स्थान ट्रैकिंग जैसी गतिविधियाँ अधिकांश सामान्य रोजगार परिवेशों में इन प्रश्नों के उत्तर देने में विफल रहती हैं।

अनुपस्थिति, बीमारी और विशेष श्रेणी के आंकड़े

एक श्रेणी पर विशेष सावधानी बरतने की आवश्यकता है। स्वास्थ्य संबंधी जानकारी GDPR के अंतर्गत विशेष श्रेणी की है और कुछ सीमित अपवादों को छोड़कर, सिद्धांत रूप में इस पर कोई कार्रवाई नहीं की जा सकती। बीमारी के कारण अनुपस्थिति संबंधी डच नियम सख्त हैं: नियोक्ता कर्मचारी की अनुपस्थिति और उसकी अवधि दर्ज कर सकता है, लेकिन बीमारी की प्रकृति, निदान और उससे संबंधित प्रतिबंध कंपनी के डॉक्टर (बेड्रिफ्सआर्ट्स) के अधिकार क्षेत्र में आते हैं, न कि नियोक्ता के। अनुपस्थिति के पैटर्न, टाइपिंग गति, विराम या आवाज के लहजे से स्वास्थ्य स्थिति का अनुमान लगाने वाली प्रदर्शन प्रणाली अनुमान के आधार पर स्वास्थ्य डेटा संसाधित कर रही है, और इस तथ्य से कोई फर्क नहीं पड़ता कि किसी ने भी इसमें निदान दर्ज नहीं किया है।

यही सावधानी उन प्रणालियों पर भी लागू होती है जिनके स्कोर गर्भावस्था, पितृत्व अवकाश या देखभाल अवकाश जैसी संरक्षित अनुपस्थिति से प्रभावित होते हैं। यदि मॉडल इन अवधियों को कम प्रदर्शन के रूप में मानता है, तो नियोक्ता न केवल संवेदनशील डेटा संसाधित कर रहा है बल्कि एक वैधानिक अधिकार को नुकसान में बदल रहा है।

प्रवर्तन का ऊपरी स्तर

मूल सिद्धांतों, डेटा प्रोसेसिंग की वैधता और डेटा विषयों के अधिकारों का उल्लंघन GDPR के अनुच्छेद 83 के तहत जुर्माने की सबसे कड़ी श्रेणी में आता है। दैनिक कामकाज के लिए यह उतना ही महत्वपूर्ण है कि इन नियमों का उल्लंघन करके तैयार किया गया मूल्यांकन रोजगार विवाद में विश्वसनीय नहीं होता: यदि किसी अदालत को कम प्रदर्शन के आधार पर रोजगार अनुबंध समाप्त करने का अनुरोध किया जाता है, तो वह यह देखना चाहेगी कि कम प्रदर्शन कैसे साबित हुआ।

एआई अधिनियम नियोक्ताओं और श्रमिकों के लिए क्या लाभ लाता है

यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम लागू है और चरणबद्ध तरीके से लागू हो रहा है, इसलिए सवाल यह नहीं है कि यह लागू होगा या नहीं, बल्कि यह है कि इसके कौन से दायित्व पहले से ही लागू हो चुके हैं। इसके दो पहलू यहाँ महत्वपूर्ण हैं।

पहला नियम प्रतिबंधित प्रथाओं की सूची है, जो अधिनियम के शुरुआती चरण से ही लागू है। इसमें कार्यस्थल से संबंधित एक विशेष नियम शामिल है: कार्यस्थल और शिक्षण संस्थानों में किसी व्यक्ति की भावनाओं का अनुमान लगाने के लिए उपयोग किए जाने वाले कृत्रिम बुद्धिमत्ता (AI) सिस्टम प्रतिबंधित हैं, जब तक कि सिस्टम को चिकित्सा या सुरक्षा कारणों से स्थापित या बाजार में लाने का इरादा न हो। कर्मचारियों की आवाज, चेहरे या लेखन से उनकी मनोदशा, तनाव स्तर, सक्रियता या ईमानदारी का आकलन करने वाला सॉफ्टवेयर अनुपालन का मुद्दा नहीं है। यह स्वीकार्य नहीं है, और चिकित्सा और सुरक्षा संबंधी सीमित अपवाद उत्पादकता प्रबंधन पर लागू नहीं होता है। सीमा को ध्यान से समझें: ग्राहक के कथनों का भाव विश्लेषण करना कर्मचारी की भावनाओं का अनुमान लगाने से बिल्कुल अलग है।

दूसरी श्रेणी उच्च जोखिम वाली व्यवस्था है। एआई अधिनियम के परिशिष्ट III में, अन्य बातों के अलावा, कार्य-संबंधी संबंधों की शर्तों को प्रभावित करने वाले निर्णय लेने, ऐसे संबंधों की पदोन्नति या समाप्ति, व्यक्तिगत व्यवहार या व्यक्तिगत विशेषताओं के आधार पर कार्यों का आवंटन, और श्रमिकों के प्रदर्शन और व्यवहार की निगरानी और मूल्यांकन के लिए उपयोग किए जाने वाले एआई सिस्टम को उच्च जोखिम वाली श्रेणी में रखा गया है। एक एआई प्रदर्शन मूल्यांकन उपकरण इस विवरण के अंतर्गत आता है। डिजिटल व्यापक पैकेज के तहत, परिशिष्ट III सिस्टम के लिए उच्च जोखिम दायित्वों की आवेदन तिथियों को स्थगित कर दिया गया है, जिससे नियोक्ताओं को तैयारी के लिए अधिक समय मिल गया है; प्रतिबंध, सामान्य-उद्देश्यीय एआई मॉडल के नियम और अनुच्छेद 50 के पारदर्शिता कर्तव्य पहले से ही लागू हैं।

एक दायित्व का विशेष उल्लेख करना आवश्यक है क्योंकि नियोक्ता अक्सर इसे अनदेखा कर देते हैं। नियोक्ताओं को कार्यस्थल पर उच्च जोखिम वाले एआई सिस्टम को लागू करने से पहले, सूचना और परामर्श संबंधी लागू नियमों के अनुसार, श्रमिक प्रतिनिधियों और प्रभावित श्रमिकों को सूचित करना होगा। यह एक सूचनात्मक दायित्व है जो जीडीपीआर के पारदर्शिता दायित्वों और डच कानून के तहत श्रमिक परिषद के अधिकारों के साथ-साथ चलता है, न कि उनका स्थान लेता है। अधिनियम और इसकी समय-सारणी के विस्तृत विवरण के लिए, कृत्रिम बुद्धिमत्ता के कानूनी पहलू और यूरोपीय संघ एआई अधिनियम पर हमारा लेख देखें ।

जिम्मेदारी किसकी है: आपूर्तिकर्ता की या नियोक्ता की?

नियोक्ता अक्सर यह मान लेते हैं कि चूंकि सॉफ्टवेयर एक विशेषज्ञ आपूर्तिकर्ता से खरीदा गया था, इसलिए कानूनी जोखिम आपूर्तिकर्ता का ही होगा। लेकिन दोनों ही व्यवस्थाओं में जिम्मेदारी का बंटवारा इस तरह नहीं होता है।

GDPR के अंतर्गत, नियोक्ता यह तय करता है कि कर्मचारी डेटा को क्यों और कैसे संसाधित किया जाए और इसलिए वही नियंत्रक होता है। नियोक्ता के निर्देशों पर सिस्टम चलाने वाला आपूर्तिकर्ता प्रोसेसर होता है, और इस संबंध को प्रसंस्करण समझौते में स्पष्ट रूप से परिभाषित किया जाना आवश्यक है। हालांकि, पारदर्शिता, वैधता और मानवीय निगरानी का दायित्व नियोक्ता का ही होता है, और वह नियोक्ता ही प्राधिकरण (Autoriteit Persoonsgegevens) और स्वयं कर्मचारियों के प्रति जवाबदेह होता है।

एआई अधिनियम एआई सिस्टम विकसित करने और उसे बाजार में उतारने वाले प्रदाता और अपने अधिकार के तहत उसका उपयोग करने वाले परिनियोजक के बीच एक स्पष्ट रेखा खींचता है। खरीदे गए उपकरण का उपयोग करने वाला नियोक्ता सामान्यतः परिनियोजक होता है और परिनियोजक के दायित्वों का निर्वाह करता है, जिसमें निर्देशों के अनुसार सिस्टम का उपयोग करना, आवश्यक योग्यता और अधिकार वाले व्यक्तियों द्वारा उचित स्तर की मानवीय निगरानी सुनिश्चित करना, इसके संचालन की निगरानी करना और कर्मचारियों को सूचित करना शामिल है। जो नियोक्ता सिस्टम पर अपना नाम अंकित करता है, या उसमें पर्याप्त संशोधन करता है या उसके उद्देश्य को बदलता है, वह प्रदाता बन सकता है और उस भूमिका से जुड़े कहीं अधिक गंभीर दायित्वों का निर्वाह कर सकता है।

खरीद प्रक्रिया के लिए व्यावहारिक परिणाम यह है कि अनुबंध को पढ़ते समय इन भूमिकाओं को ध्यान में रखना आवश्यक है। नियोक्ता को आपूर्तिकर्ता से ऐसी जानकारी की आवश्यकता होती है जिससे अनुपालन संभव हो सके, और उसे किसी भी ऐसे उत्पाद के प्रति संदेह होना चाहिए जो अपने उत्पादन की व्याख्या स्वयं न कर सके, क्योंकि लाइसेंस में जो भी लिखा हो, व्याख्या करने का दायित्व नियोक्ता पर ही होगा।

प्लेटफ़ॉर्म पर काम करना: नियमों की एक अतिरिक्त परत

डिजिटल श्रम प्लेटफार्मों के माध्यम से काम करने वाले लोगों के लिए एक और महत्वपूर्ण प्रावधान जल्द ही लागू होने वाला है। प्लेटफार्म पर काम करने की स्थितियों में सुधार से संबंधित निर्देश (ईयू) 2024/2831 में एल्गोरिथम प्रबंधन को समर्पित एक पूरा अध्याय है। यह प्लेटफार्म को श्रमिकों को स्वचालित निगरानी और निर्णय लेने वाली प्रणालियों के बारे में सूचित करने के लिए बाध्य करता है जो उनकी कार्य स्थितियों को महत्वपूर्ण रूप से प्रभावित करती हैं, भावनात्मक और मनोवैज्ञानिक स्थिति संबंधी डेटा और निजी बातचीत संबंधी डेटा सहित कुछ श्रेणियों के डेटा के प्रसंस्करण को प्रतिबंधित करता है, इन प्रणालियों के प्रभावों की मानवीय निगरानी अनिवार्य करता है, और श्रमिकों को खाते पर प्रतिबंध या निलंबन जैसे महत्वपूर्ण निर्णयों की व्याख्या और मानवीय समीक्षा का अधिकार देता है। विशेष रूप से, इनमें से कई सुरक्षा उपाय प्लेटफार्म पर काम करने वाले लोगों पर लागू होते हैं, चाहे वे कर्मचारी के रूप में योग्य हों या नहीं।

सदस्य देशों को 2 दिसंबर 2026 तक इस निर्देश को लागू करना होगा। जब तक राष्ट्रीय कार्यान्वयन कानून लागू नहीं हो जाता, तब तक GDPR और AI अधिनियम ही प्रभावी नियम बने रहेंगे, और उनकी आवश्यकताएं पहले से ही काफी हद तक समान बातों को कवर करती हैं।

डच रोजगार कानून: एक एल्गोरिदम आपके अनुबंध को समाप्त नहीं कर सकता।

यूरोपीय डेटा संरक्षण और एआई नियम यह निर्धारित करते हैं कि सिस्टम कैसे काम कर सकता है। डच रोजगार कानून यह निर्धारित करता है कि कोई नियोक्ता इसके आउटपुट का क्या कर सकता है, और यह अधिकांश एल्गोरिथम प्रबंधन परियोजनाओं की अपेक्षा कहीं अधिक सख्त है।

नीदरलैंड्स में कोई भी नियोक्ता किसी कर्मचारी का रोजगार अनुबंध यूं ही समाप्त नहीं कर सकता। बर्खास्तगी के लिए डच सिविल कोड के अनुच्छेद 7:669 में सूचीबद्ध एक उचित कारण होना आवश्यक है, और इसके लिए यूडब्ल्यूवी की पूर्व अनुमति या कैंटनरेक्टर (उप-जिला न्यायालय) का निर्णय आवश्यक है, जो कारण पर निर्भर करता है। खराब प्रदर्शन उन कारणों में से एक है, और यह एक कठिन कारण है। नियोक्ता को यह साबित करना होगा कि कर्मचारी उस पद के लिए अनुपयुक्त है, कि कर्मचारी को इस बारे में समय रहते सूचित कर दिया गया था, और सुधार का एक वास्तविक अवसर प्रदान किया गया था, जहां उपयुक्त हो वहां सहायता भी दी गई थी। डैशबोर्ड रीडिंग सुधार प्रक्रिया नहीं है, और न्यायालय यह पूछेगा कि क्या चर्चा हुई, कब हुई और क्या सहायता प्रदान की गई। डच रोजगार कानून पर हमारी मार्गदर्शिका बर्खास्तगी के ढांचे को अधिक विस्तार से बताती है।

भेदभाव कानून परिणाम पर लागू होता है, इरादे पर नहीं। यदि कोई प्रणाली लिंग, नस्ल, आयु, धर्म, विकलांगता या दीर्घकालिक बीमारी जैसे आधारों पर कर्मचारियों के साथ भेदभाव करती है, तो यह सामान्य समान व्यवहार अधिनियम (Algemene wet gelijke behandeling) और आयु एवं विकलांगता संबंधी विशिष्ट समान व्यवहार कानूनों के तहत गैरकानूनी है, चाहे किसी का ऐसा इरादा रहा हो या नहीं। ऐतिहासिक प्रशिक्षण डेटा अक्सर इसका कारण होता है: अतीत में पदोन्नत हुए लोगों के आधार पर प्रशिक्षित मॉडल अतीत की प्राथमिकताओं को दोहराएगा। समय के साथ उपलब्धता या उत्पादन को मापने वाली प्रणालियाँ भी उन कर्मचारियों को दंडित करती हैं जिन्होंने मातृत्व अवकाश लिया, कम घंटे काम किया या बीमारी के कारण अनुपस्थित रहे, और किसी कर्मचारी को वैधानिक अधिकार का प्रयोग करने के लिए दंडित करना ठीक वही है जो समान व्यवहार कानून निषिद्ध करता है।

निर्माण परिषद को सहमत होना होगा

जिस कंपनी में कर्मचारी परिषद (वर्क काउंसिल) मौजूद है, वहां नियोक्ता को केवल अच्छे इरादे से काम नहीं चलाना चाहिए। वेट ऑप डे ओन्डर्नेमिंग्सराडेन (वर्क काउंसिल अधिनियम) के अनुच्छेद 27 के अनुसार, कर्मचारी मूल्यांकन, कर्मचारियों के व्यक्तिगत डेटा के प्रसंस्करण और संरक्षण, और कर्मचारियों की उपस्थिति, आचरण या प्रदर्शन की निगरानी के लिए उपयुक्त सुविधाओं सहित किसी भी व्यवस्था को अपनाने, संशोधित करने या वापस लेने के लिए ओन्डर्नेमिंग्सराडेन (वर्क काउंसिल) की सहमति आवश्यक है। एक एआई प्रदर्शन प्रणाली इन तीनों पहलुओं को एक साथ शामिल करती है।

यहां सहमति मात्र औपचारिकता नहीं है। आवश्यक सहमति के बिना लिया गया कोई भी निर्णय कार्य परिषद द्वारा अमान्य घोषित किया जा सकता है, और नियोक्ता को उसे लागू करने से रोका जा सकता है। जिन कर्मचारियों को लगता है कि उन पर कोई व्यवस्था थोपी गई है, उनके लिए कार्य परिषद अक्सर मुकदमेबाजी के बारे में सोचने से पहले ही बदलाव का सबसे तेज़ और प्रभावी रास्ता होता है।

अदालतों ने अब तक क्या फैसला सुनाया है

कानूनी कार्यवाही अभी भी विकसित हो रही है, लेकिन दो डच निर्णयों ने पहले ही दिशा तय कर दी है और दोनों का हवाला नीदरलैंड के बाहर भी व्यापक रूप से दिया जाता है।

उबर और ओला के फैसले

4 अप्रैल 2023 को गेरेचत्शॉफ़ Amsterdam (Amsterdam अपील न्यायालय ने उबर और ओला के खिलाफ ड्राइवरों द्वारा दायर कई मामलों में फैसला सुनाया। ड्राइवर यह जानना चाहते थे कि उनके खाते क्यों निष्क्रिय किए गए और उन्हें काम और वेतन कैसे आवंटित किए गए। न्यायालय ने सूचना संबंधी बिंदुओं पर ड्राइवरों के पक्ष में फैसला सुनाया। जिन ड्राइवरों की प्लेटफॉर्म तक पहुंच और उसके साथ ही उनकी आय समाप्त हो गई, वे स्वचालित निर्णय लेने की प्रक्रिया से बुरी तरह प्रभावित हुए थे, और कंपनियां व्यापारिक रहस्यों या हेराफेरी के जोखिम का हवाला देकर बिना किसी ठोस प्रमाण के स्पष्टीकरण देने से बच नहीं सकती थीं।

अदालत की मांग ठोस थी: तकनीक का सामान्य विवरण नहीं, बल्कि उपयोग किए गए कारकों और उन्हें दिए गए महत्व के बारे में जानकारी, ताकि संबंधित व्यक्ति परिणाम को समझ सके और उस पर आपत्ति जता सके। नियोक्ताओं को यह मानक मानना ​​चाहिए कि प्रदर्शन एल्गोरिदम पर भी यही लागू होता है। यदि आपके प्रश्न का उत्तर कि मुझे कम अंक क्यों मिले, यह है कि यह मॉडल द्वारा निर्धारित किया गया था, तो आपने मानक को पूरा नहीं किया है।

सीरियाई आरआई का निर्णय

दूसरा मामला रोजगार विवाद से संबंधित नहीं था, लेकिन इसका तर्क कार्यस्थल से जुड़ा हुआ है। 5 फरवरी 2020 के अपने फैसले (ECLI:NL:RBDHA:2020:865) में, हेग के जिला न्यायालय (रेचटबैंक डेन हाग) ने माना कि सरकारी जोखिम-संकेत प्रणाली SyRI (जो लाभ और कर धोखाधड़ी का पता लगाने के लिए उपयोग की जाती है) से संबंधित कानून मानवाधिकारों पर यूरोपीय सम्मेलन के अनुच्छेद 8 की कसौटी पर खरा नहीं उतरता। यह प्रणाली अपर्याप्त रूप से पारदर्शी और सत्यापन योग्य थी: कोई भी बाहरी व्यक्ति यह स्थापित नहीं कर सकता था कि किसी व्यक्ति को कैसे चिह्नित किया गया, जिससे इसके खिलाफ बचाव करना असंभव हो गया।

यह सिद्धांत सामान्य है। जिस प्रणाली की कार्यप्रणाली की जांच नहीं की जा सकती, उसे चुनौती नहीं दी जा सकती, और जिस निर्णय को चुनौती नहीं दी जा सकती, वह निष्पक्ष निर्णय नहीं है। जो नियोक्ता मूल्यांकन को ऐसे मॉडल पर आधारित करना चाहता है जिसे न तो कर्मचारी और न ही नियोक्ता समझा सकता है, वह उसी आधार पर काम कर रहा है जो उस मामले में विफल रहा था। स्वचालित आचरण के लिए उत्तरदायित्व के ये प्रश्न केवल रोजगार कानून तक ही सीमित नहीं हैं, जैसा कि एआई और आपराधिक कानून पर हमारा लेख दर्शाता है।

यदि कोई एल्गोरिदम आपको स्कोर दे रहा है तो आपके अधिकार

यदि आपका मूल्यांकन एआई सिस्टम की मदद से किया जा रहा है, तो आपके पास ठोस और लागू करने योग्य अधिकार हैं, और आपको उनका उपयोग करने से पहले यह साबित करने की आवश्यकता नहीं है कि सिस्टम गलत है।

आप यह पूछ सकते हैं कि आपके बारे में कौन सा डेटा संग्रहित है और उसकी एक प्रति प्राप्त कर सकते हैं, जिसमें मूल्यांकन में उपयोग किए गए माप और उनसे प्राप्त अंक शामिल हैं। आप सिस्टम के तर्क, महत्वपूर्ण कारकों और उनके भार के बारे में सार्थक जानकारी मांग सकते हैं। यदि कोई महत्वपूर्ण निर्णय स्वचालित माध्यम से लिया गया है, तो आप मानवीय हस्तक्षेप की मांग कर सकते हैं, अपना दृष्टिकोण रख सकते हैं और निर्णय का विरोध कर सकते हैं। आप गलत डेटा को ठीक करवा सकते हैं, जो सुनने में जितना लगता है उससे कहीं अधिक महत्वपूर्ण है: इन प्रणालियों द्वारा दर्ज की गई अधिकांश जानकारी गलत होती है, जैसे कि गलत तरीके से दर्ज की गई अनुपस्थिति से लेकर गलत व्यक्ति को सौंपा गया कार्य।

व्यवहार में स्वचालित मूल्यांकन को चुनौती कैसे दें

अपना पक्ष उठाने से पहले, अपनी स्थिति को दस्तावेज़ के रूप में दर्ज करें। मूल्यांकन में अनदेखी किए गए विशिष्ट कार्यों, असामान्य परिस्थितियों वाले समय और अनुपस्थिति, अवकाश या स्थानांतरण का उल्लेख करें, जिनके कारण आपके प्रदर्शन से संबंधित न होकर भी आपके आंकड़ों में कमी आ सकती है। छह महीने बाद दोबारा लिखने की तुलना में समकालीन नोट्स कहीं अधिक उपयोगी होते हैं।

इसके बाद अपने नियोक्ता को लिखित में अनुरोध भेजें, जिसमें यह बताएं कि आप GDPR के तहत अपने अधिकारों का प्रयोग कर रहे हैं, अपने मूल्यांकन में उपयोग किए गए डेटा और उसके पीछे के तर्क की व्याख्या मांगें, और किसी ऐसे व्यक्ति द्वारा मानवीय समीक्षा का अनुरोध करें जिसके पास अलग निष्कर्ष निकालने का अधिकार हो। एक उचित समय सीमा निर्धारित करें; GDPR के अनुसार नियोक्ता को एक महीने के भीतर जवाब देना आवश्यक है, जिसे जटिल मामलों में बढ़ाया जा सकता है। अपनी बात को तथ्यात्मक रखें, क्योंकि यह पत्राचार अक्सर साक्ष्य के रूप में इस्तेमाल किया जाता है।

यदि नियोक्ता उचित प्रतिक्रिया नहीं देता है, तो आप प्राधिकरण (Autoriteit Persoonsgegevens) में शिकायत दर्ज करा सकते हैं और विवाद को अदालतों में ले जा सकते हैं। यदि मूल्यांकन का उपयोग बर्खास्तगी या आपकी शर्तों में बदलाव के लिए किया जा रहा है, तो आमतौर पर नियोक्ता से संबंधित प्रक्रिया अधिक प्रभावी होती है और इसकी समय सीमा कम होती है, इसलिए जल्द से जल्द सलाह लें। एआई और बिग डेटा के युग में GDPR के तहत डेटा गोपनीयता पर हमारा लेख इसके मूल ढांचे की व्याख्या करता है।

सिस्टम चालू करने से पहले नियोक्ता को क्या करना चाहिए

नियोक्ताओं के लिए, इस क्षेत्र में अनुपालन ज्यादातर क्रम का मामला है। लगभग हर गंभीर समस्या इसलिए उत्पन्न होती है क्योंकि पहले एक सिस्टम खरीदा और तैनात किया गया था, और कानूनी प्रश्न बाद में पूछे गए थे।

उद्देश्य से शुरुआत करें। लिखें कि संगठन वास्तव में क्या हासिल करना चाहता है और सिस्टम किन निर्णयों को प्रभावित करेगा, क्योंकि बाकी सब कुछ इसी से जुड़ा है: मान्य डेटा, कानूनी आधार, जोखिम मूल्यांकन और आवश्यक मानवीय निगरानी का स्तर। शेड्यूलिंग में सुधार के लिए खरीदा गया सिस्टम, जिसका इस्तेमाल चुपके से बर्खास्तगी फाइल बनाने के लिए किया जाता है, गैरकानूनी प्रक्रिया का एक क्लासिक उदाहरण है।

डेटा सुरक्षा प्रभाव आकलन को तैनाती से पहले ही पूरा करें, न कि किसी पहले से लिए गए निर्णय को सही ठहराने के लिए बाद में तैयार किए गए दस्तावेज़ के रूप में, और इसके परिणाम को दर्ज करें। कानूनी आधार स्थापित करें और उसे दस्तावेज़ में दर्ज करें, यह ध्यान में रखते हुए कि कर्मचारियों की सहमति शायद ही कभी मान्य होगी। निर्धारित करें कि क्या सिस्टम एआई अधिनियम की उच्च जोखिम श्रेणी में आता है और यदि ऐसा है, तो तैनातीकर्ता पर लागू होने वाले दायित्वों का खाका तैयार करें, जिसमें श्रमिक प्रतिनिधियों और प्रभावित श्रमिकों को सूचित करने का कर्तव्य भी शामिल है। जहां वर्क्स काउंसिल अधिनियम का अनुच्छेद 27 लागू होता है, वहां वर्क्स काउंसिल की सहमति प्राप्त करें और इसे समय रहते शामिल करें ताकि इसके सुझावों से कुछ बदलाव किए जा सकें।

फिर अनुच्छेद 22 के अनुसार आवश्यक निगरानी प्रणाली तैयार करें और जांचें कि क्या यह वास्तव में प्रभावी है। यह पूछें कि आउटपुट की समीक्षा कौन करता है, क्या वह व्यक्ति किसी वरिष्ठ अधिकारी को विचलन का औचित्य बताए बिना इसे खारिज कर सकता है, क्या उसके पास निर्णय लेने के लिए पर्याप्त संदर्भ है, और क्या उसके पास पर्याप्त समय है। यदि इसका सीधा जवाब यह है कि समीक्षक एक दोपहर में सौ मामलों का निपटारा करता है, तो संगठन में मानवीय निगरानी नहीं है; बल्कि केवल हस्ताक्षर हैं।

अंत में, इरादों के बजाय परिणामों का परीक्षण करें। संरक्षित विशेषताओं और कार्यपद्धति के आधार पर प्रणाली के परिणामों का ऑडिट करें, और विशेष रूप से अंशकालिक काम करने वाले, छुट्टी पर रहने वाले या बीमार कर्मचारियों पर ध्यान दें। कर्मचारियों को मूल्यांकन पर सवाल उठाने का स्पष्ट मार्ग प्रदान करें और उन चुनौतियों के समाधान का रिकॉर्ड रखें। दस्तावेज़ सुरक्षित रखें, क्योंकि अनुपालन साबित करने का भार नियोक्ता पर होता है, और विवाद की स्थिति में फाइल ही बचाव का आधार होती है।

इससे आप कहाँ पहुँचते हैं?

एल्गोरिथम आधारित प्रबंधन निषिद्ध नहीं है, और न ही यह समाप्त होने वाला है। कानून माप और निर्णय के बीच एक रेखा खींचता है। सिस्टम गिनती, तुलना और संकेत दे सकते हैं; निर्णय लेना, स्पष्टीकरण देना और जिम्मेदारी लेना लोगों का काम है। कर्मचारियों को यह जानने का अधिकार है कि उनका मूल्यांकन ऐसे सिस्टम द्वारा किया जा रहा है, यह समझने का अधिकार है कि सिस्टम क्या मापता है, और किसी भी ऐसे निर्णय की समीक्षा किसी मानव द्वारा किए जाने का अधिकार है जो उन्हें भौतिक रूप से प्रभावित करता है। श्रम विभाजन को स्वीकार करने वाले नियोक्ता इन उपकरणों का आत्मविश्वास से उपयोग कर सकते हैं। जो लोग डैशबोर्ड को निर्णय लेने देते हैं, वे पाएंगे कि न तो प्राधिकरण (पर्सनल मैनेजमेंट अथॉरिटी) और न ही कैंटनरेक्टर (कैंटनरेक्टर) उचित मूल्यांकन के विकल्प के रूप में आउटपुट को स्वीकार करते हैं।

Law & More हम नियोक्ताओं को प्रदर्शन प्रबंधन में एआई के उपयोग पर सलाह देते हैं, जिसमें प्रभाव आकलन और कर्मचारी परिषद प्रक्रिया से लेकर मानवीय निगरानी की रूपरेखा तैयार करना शामिल है। साथ ही, हम उन कर्मचारियों को भी सलाह देते हैं जिन्हें स्वचालित मूल्यांकन अनुचित लगता है। यदि आपके या आपके कर्मचारियों के काम का मूल्यांकन करने के लिए किसी एल्गोरिदम का उपयोग किया जा रहा है, तो हम आपके साथ इस स्थिति की समीक्षा करने में प्रसन्न होंगे।

एआई प्रदर्शन समीक्षाओं के बारे में सामान्य प्रश्न

कैसे Law & More हम इस मामले में आपकी मदद कर सकते हैं, इसके बारे में हमारी वेबसाइट पर विस्तार से बताया गया है। रोजगार वकील इस पृष्ठ पर ज़ूम कई वीडियो ट्यूटोरियल और अन्य साहायक साधन प्रदान करता है।