आपके प्रबंधक के रूप में एआई: क्या कोई एल्गोरिदम आपके प्रदर्शन का मूल्यांकन कर सकता है?

हाँ, एक एल्गोरिथम आपके प्रदर्शन का मूल्यांकन कर सकता है। वास्तव में, यह देश भर के कार्यस्थलों पर पहले से ही हो रहा है। पारंपरिक मानवीय निगरानी से हटकर एआई-संचालित प्रबंधन की ओर यह कदम अविश्वसनीय दक्षता लाता है, लेकिन यह महत्वपूर्ण कानूनी और नैतिक प्रश्न भी उठाता है। कर्मचारियों के लिए, यह नई वास्तविकता उनके अधिकारों की नई समझ की माँग करती है।

एल्गोरिथम प्रबंधन की वास्तविकता

"एआई आपके प्रबंधक के रूप में" का विचार अब कोई दूर की बात नहीं रह गया है; यह बढ़ती संख्या में लोगों के लिए रोज़मर्रा की सच्चाई है। कंपनियाँ अपने कर्मचारियों की निगरानी, ​​मूल्यांकन और यहाँ तक कि उन्हें निर्देशित करने के लिए स्वचालित प्रणालियों का तेज़ी से उपयोग कर रही हैं, और यह सब निष्पक्ष, डेटा-आधारित अंतर्दृष्टि के वादे पर आधारित है जो उत्पादकता बढ़ा सकती है।

एक एआई मैनेजर को एक अथक खेल स्काउट के रूप में सोचें। यह हर मापनीय विवरण पर नज़र रख सकता है: प्रति घंटे पूरे किए गए कार्य, ग्राहक संतुष्टि स्कोर, कीबोर्ड गतिविधि, और स्क्रिप्ट का कितनी बारीकी से पालन किया जाता है। यह डिजिटल स्काउट कभी नहीं सोता और सेकंडों में भारी मात्रा में डेटा प्रोसेस कर सकता है, ऐसे पैटर्न का पता लगा सकता है जिन्हें मानव प्रबंधक को नोटिस करने में महीनों लग सकते हैं। लेकिन इससे एक महत्वपूर्ण प्रश्न उठता है: क्या यह स्काउट वास्तव में पूरे खेल को देख सकता है?

मुख्य संघर्ष: डेटा बनाम संदर्भ

एल्गोरिथम प्रबंधन की मूलभूत समस्या यह है कि ये प्रणालियाँ नहीं कर सकते हैं आसानी से नापा जा सकता है। एक AI किसी कर्मचारी के आउटपुट में गिरावट दर्ज कर सकता है, लेकिन वह संदर्भ को नहीं समझ पाएगा। हो सकता है कि वह कर्मचारी किसी नए सहकर्मी को गति प्राप्त करने में मदद कर रहा हो, किसी विशेष रूप से चुनौतीपूर्ण क्लाइंट से निपट रहा हो, या किसी जटिल समस्या का रचनात्मक समाधान ढूंढ रहा हो। ये अमूर्त योगदान हैं जो वास्तव में एक मूल्यवान टीम सदस्य की पहचान हैं।

इससे दो विरोधी ताकतों के बीच केन्द्रीय संघर्ष पैदा होता है:

• कार्यकुशलता के लिए व्यावसायिक प्रेरणा: मापन योग्य प्रमुख निष्पादन संकेतकों (KPI) द्वारा निर्देशित, प्रदर्शन के हर पहलू को अनुकूलित करने के लिए डेटा का उपयोग करने पर जोर।

• निष्पक्षता की मानवीय आवश्यकता: संदर्भ, सहानुभूति और गुणात्मक कार्य की समझ के आधार पर मूल्यांकन किए जाने का अधिकार, जिसे एल्गोरिदम अक्सर नजरअंदाज कर देते हैं।

असली मुद्दा यह नहीं है कि क्या कोई एल्गोरिथम कर सकते हैं प्रदर्शन का मूल्यांकन करें - यह इस बात पर निर्भर करता है कि क्या इसका मूल्यांकन पूर्ण, निष्पक्ष और कानूनी रूप से सही है, बिना किसी सार्थक मानवीय निरीक्षण के।

नीदरलैंड में व्यापक रूप से गोद लेना

यह कोई दूर की बात नहीं है। डच कार्यबल पहले से ही इस बदलाव के बीच में है। शोध से पता चलता है कि डच कर्मचारियों का 61% लोग पहले से ही अपनी नौकरियों पर एआई के प्रभाव को महसूस कर रहे हैं। यह आश्चर्यजनक नहीं है, क्योंकि 95% डच संगठन अब एआई कार्यक्रम चला रहे हैं - जो यूरोप में सबसे अधिक दर है।

कर्मचारियों के मूल्यांकन के लिए एआई का इस्तेमाल बड़ी कंपनियों में ख़ास तौर पर आम है। दरअसल, 500 या अधिक कर्मचारियों वाली 48% फर्में प्रदर्शन मूल्यांकन जैसे कार्यों के लिए एआई तकनीकों का उपयोग करें। आप इस बारे में अधिक जान सकते हैं कि डच व्यवसाय यूरोप की स्वचालन क्रांति का नेतृत्व कैसे कर रहे हैं।

एआई सिस्टम वास्तव में आपके प्रदर्शन का मूल्यांकन कैसे करते हैं

यह सुनना कि कोई एल्गोरिद्म आपके प्रदर्शन का मूल्यांकन कर रहा है, अमूर्त और थोड़ा अटपटा भी लग सकता है। तो, आइए इस बात पर से पर्दा हटाएँ कि ये "एल्गोरिद्म मैनेजर" असल में कैसे काम करते हैं। यह किसी एक रहस्यमयी फैसले की बात नहीं है, बल्कि डेटा संग्रह और विश्लेषण के एक सतत चक्र की बात है।

वास्तव में इसे समझने के लिए, आपको सबसे पहले यह समझना होगा ट्रैकिंग बनाम मापने की मूलभूत अवधारणाएँएक एआई प्रबंधक को दोनों ही मामलों में उत्कृष्टता प्राप्त करने के लिए डिज़ाइन किया गया है, जो पूर्वनिर्धारित लक्ष्यों के विरुद्ध गतिविधियों को मापने के लिए उनका निरंतर ट्रैकिंग करता है।

आइए एक ग्राहक सहायता टीम को ही उदाहरण के तौर पर लें। एआई कोई दूरदर्शी पर्यवेक्षक नहीं है; यह उन डिजिटल टूल्स में समाया हुआ है जिनका इस्तेमाल टीम हर दिन करती है। हर क्लिक, हर कॉल, हर भेजा गया ईमेल एक डेटा पॉइंट बनाता है जो सिस्टम को फीड करता है।

डेटा संग्रह इंजन

पहला कदम बस जानकारी इकट्ठा करना है, अक्सर कई अलग-अलग जगहों से। हमारे ग्राहक सहायता एजेंट के लिए, सिस्टम निम्नलिखित जानकारी इकट्ठा कर सकता है:

• मात्रात्मक मेट्रिक्स: ये ठोस आँकड़े हैं। कुल कॉलों की संख्या, एक कॉल की औसत अवधि और किसी समस्या के समाधान में लगने वाले समय जैसी बातों पर विचार करें।

• गुणात्मक तथ्य: एआई भी इसमें गोता लगाता है सामग्री बातचीत की। प्राकृतिक भाषा प्रसंस्करण (एनएलपी) का उपयोग करके, यह विशिष्ट कीवर्ड या वाक्यांशों के लिए ईमेल और कॉल ट्रांसक्रिप्ट को स्कैन कर सकता है।

• भावना स्कोर: ग्राहक द्वारा प्रयुक्त लहजे और भाषा का विश्लेषण करके, सिस्टम प्रत्येक बातचीत को एक अंक - सकारात्मक, तटस्थ या नकारात्मक - प्रदान कर सकता है।

डेटा का यह निरंतर प्रवाह आपके डिजिटल प्रदर्शन प्रोफ़ाइल का निर्माण करता है, तथा आपके दैनिक कार्य की एक ऐसी तस्वीर तैयार करता है जो किसी भी मानव प्रबंधक द्वारा मैन्युअल रूप से देखे जाने की अपेक्षा कहीं अधिक विस्तृत होती है।

सरल नियमों से सीखने वाली मशीनों तक

एक बार सारा डेटा इकट्ठा हो जाने के बाद, सिस्टम को उसे समझने का एक तरीका ढूँढ़ना होगा। सभी AI प्रबंधक एक जैसे नहीं होते; उनके मूल्यांकन के तरीके आम तौर पर दो मुख्य समूहों में बँटे होते हैं।

1. नियम-आधारित प्रणालियाँ
ये एल्गोरिथम प्रबंधकों का सबसे बुनियादी रूप हैं। ये नियोक्ता द्वारा निर्धारित सरल "अगर-यह-तो-वह" तर्क पर चलते हैं। उदाहरण के लिए, एक नियम यह कह सकता है: "यदि किसी कर्मचारी का औसत कॉल समय पाँच मिनट से ज़्यादा हो जाता है, तो तीन सप्ताह में कई बार, उनके प्रदर्शन को 'सुधार की आवश्यकता' के रूप में चिह्नित करें।" यह सीधा है, लेकिन यह काफी कठोर हो सकता है और इसमें बारीकियों का अभाव है।

2. मशीन लर्निंग मॉडल
यहीं पर चीज़ें और भी जटिल हो जाती हैं। सिर्फ़ सख्त नियमों का पालन करने के बजाय, मशीन लर्निंग (एमएल) मॉडल प्रशिक्षित ऐतिहासिक प्रदर्शन डेटा के विशाल सेट पर। यह प्रणाली सफल और असफल कर्मचारियों के पिछले उदाहरणों का अध्ययन करके यह जान लेती है कि कौन से पैटर्न और व्यवहार "अच्छे" और "बुरे" परिणामों से संबंधित हैं।

एआई यह पता लगा सकता है कि शीर्ष प्रदर्शन करने वाले कर्मचारी लगातार कुछ आश्वस्त करने वाले वाक्यांशों का इस्तेमाल करते हैं या विशिष्ट प्रकार के मुद्दों को तेज़ी से हल करते हैं। फिर यह इन सीखे हुए पैटर्न का उपयोग करके वर्तमान कर्मचारियों को स्कोर करता है, और मूल रूप से पूछता है, "इस व्यक्ति का व्यवहार हमारे आदर्श कर्मचारी के मॉडल से कितना मेल खाता है?"

छिपे हुए सहसंबंधों को खोजने की यह क्षमता शक्तिशाली है, लेकिन यहीं पर एक महत्वपूर्ण समस्या भी उभर कर सामने आती है।

ब्लैक बॉक्स दुविधा

अधिक उन्नत मशीन लर्निंग मॉडल के साथ, एआई की निर्णय लेने की प्रक्रिया अविश्वसनीय रूप से जटिल हो सकती है। इससे "ब्लैक बॉक्स" समस्या उत्पन्न होती है। यह एल्गोरिदम हज़ारों डेटा बिंदुओं और उनके अंतर्संबंधों को ऐसे तरीकों से संसाधित करता है जिन्हें समझना आसान नहीं होता, कभी-कभी तो इसके अपने डेवलपर्स के लिए भी नहीं।

किसी कर्मचारी को कम प्रदर्शन स्कोर मिल सकता है, लेकिन इसका सटीक कारण पता लगाना लगभग असंभव हो सकता है। सिस्टम का तर्क उसके जटिल तंत्रिका नेटवर्क में गहराई से दबा हुआ है, जिससे निर्णय पर प्रभावी ढंग से सवाल उठाना या अपील करना बेहद मुश्किल हो जाता है। पारदर्शिता की यह कमी एक केंद्रीय मुद्दा है जब कोई AI आपका प्रबंधक है और उसे यह कार्य सौंपा गया है अपने प्रदर्शन का मूल्यांकन करें.

एआई प्रबंधन के कानूनी और नैतिक जोखिमों को समझना

हालाँकि एआई-संचालित दक्षता का वादा आकर्षक है, लेकिन कानूनी परिदृश्य को समझे बिना अपनी टीम का मूल्यांकन करने के लिए एल्गोरिदम का इस्तेमाल करना, आँखों पर पट्टी बाँधकर बारूदी सुरंग में चलने जैसा है। नीदरलैंड और पूरे यूरोपीय संघ में, नियमों का एक मज़बूत ढाँचा कर्मचारियों को उन्हीं खतरों से बचाता है जो खराब तरीके से लागू की गई एआई प्रणालियों से पैदा हो सकते हैं।

नियोक्ताओं के लिए, जोखिम बहुत ज़्यादा हैं। सबसे बड़ा जोखिम सिर्फ़ तकनीकी गड़बड़ियाँ ही नहीं, बल्कि बुनियादी कानूनी उल्लंघन भी हैं। इनसे भारी जुर्माना, प्रतिष्ठा को नुकसान और कर्मचारियों का विश्वास पूरी तरह से टूट सकता है। ये खतरे कुछ प्रमुख, परस्पर जुड़े क्षेत्रों में आते हैं।

छिपे हुए पूर्वाग्रह और भेदभाव का खतरा

एक एल्गोरिथम उतना ही अच्छा होता है जितना कि वह जिस डेटा से सीखता है। अगर आपके कार्यस्थल का ऐतिहासिक डेटा पिछले सामाजिक पूर्वाग्रहों को दर्शाता है—और ज़्यादातर मामलों में ऐसा ही होता है—तो एक AI आसानी से कुछ समूहों के साथ भेदभाव करना सीख सकता है। यह अन्याय को अपने मूल तर्क में ही समाहित कर सकता है।

कल्पना कीजिए कि एक AI सिस्टम वर्षों के प्रदर्शन और पदोन्नति के आंकड़ों पर प्रशिक्षित है। अगर ऐतिहासिक रूप से पुरुष कर्मचारियों को ज़्यादा बार पदोन्नत किया जाता, तो AI पुरुषों में आम तौर पर प्रचलित संचार शैलियों या कार्य-पद्धतियों को उच्च क्षमता वाले लोगों से जोड़ना सीख सकता है। नतीजा? यह महिला कर्मचारियों को लगातार कम अंक दे सकता है, भले ही उनका वास्तविक प्रदर्शन उतना ही अच्छा हो।

यह न केवल अनैतिक है; बल्कि यह डच और यूरोपीय संघ के भेदभाव-विरोधी कानूनों का सीधा उल्लंघन भी है। भेदभावपूर्ण होने के लिए एल्गोरिथम में दुर्भावनापूर्ण इरादे की ज़रूरत नहीं है—परिणाम ही जनता की नज़र में मायने रखता है। कानून.

• व्यवहार में उदाहरण: एक एआई छह महीने की अवधि में किसी कर्मचारी की उत्पादकता में गिरावट का संकेत देता है। यह यह पहचानने में विफल रहता है कि यह अवधि कानूनी रूप से संरक्षित पैतृक अवकाश के साथ मेल खाती है। सिस्टम गलत तरीके से कम उत्पादकता को खराब प्रदर्शन के रूप में व्याख्यायित करता है, और कर्मचारी को उसके कानूनी अधिकारों का प्रयोग करने के लिए अनुचित रूप से दंडित करता है।

पारदर्शिता की समस्या और "ब्लैक बॉक्स"

कई उन्नत एआई मॉडल "ब्लैक बॉक्स" की तरह काम करते हैं। यह तब एक बड़ी समस्या बन जाती है जब किसी कर्मचारी का मूल्यांकन नकारात्मक होता है और वह स्वाभाविक रूप से पूछता है कि ऐसा क्यों हुआ। अगर आपका एकमात्र उत्तर "क्योंकि एल्गोरिथम ने ऐसा कहा है," है, तो आप निष्पक्षता और कानूनी पारदर्शिता की एक बुनियादी परीक्षा में असफल हो रहे हैं।

स्पष्टता की यह कमी अविश्वास और लाचारी का माहौल पैदा करती है। अगर फीडबैक बिना किसी तर्क के सिर्फ़ एक अंक है, तो कर्मचारी फीडबैक से कुछ नहीं सीख सकते, और वे निश्चित रूप से उस फ़ैसले को चुनौती नहीं दे सकते जिसे वे समझ नहीं पाते।

यूरोपीय संघ के कानून के तहत, व्यक्तियों को उन स्वचालित निर्णयों के लिए स्पष्ट और सार्थक स्पष्टीकरण पाने का अधिकार है जो उन्हें महत्वपूर्ण रूप से प्रभावित करते हैं। जो प्रणाली यह प्रदान नहीं कर सकती, वह कानूनी रूप से अनुपालन योग्य नहीं है।

GDPR और स्वचालित निर्णय लेने का उल्लंघन

सामान्य डेटा संरक्षण विनियमन (जीडीपीआर) यूरोपीय संघ में डेटा सुरक्षा की आधारशिला है, और इसमें स्वचालित प्रणालियों के लिए बहुत विशिष्ट नियम हैं। सबसे महत्वपूर्ण है अनुच्छेद 22, जो निर्णयों पर सख्त सीमाएं लगाता है केवल स्वचालित प्रसंस्करण पर जो किसी व्यक्ति पर कानूनी या इसी तरह का महत्वपूर्ण प्रभाव डालता है।

प्रदर्शन प्रबंधन के लिए इसका क्या अर्थ है?

1. महत्वपूर्ण प्रभाव: ऐसा निर्णय जिसके कारण बोनस देने से मना किया जा सकता है, पदावनत किया जा सकता है, या बर्खास्तगी हो सकती है, उसे निश्चित रूप से "महत्वपूर्ण प्रभाव" माना जाएगा।

2. पूर्णतः स्वचालित: यदि कोई AI एक प्रदर्शन स्कोर तैयार करता है और प्रबंधक बिना किसी वास्तविक समीक्षा के केवल 'अनुमोदन' पर क्लिक कर देता है - जिसे "रबर-स्टैम्पिंग" के रूप में जाना जाता है - तो भी इसे पूरी तरह से स्वचालित निर्णय माना जा सकता है।

3. मानवीय हस्तक्षेप का अधिकार: अनुच्छेद 22 कर्मचारियों को मानवीय हस्तक्षेप की मांग करने, अपना दृष्टिकोण व्यक्त करने तथा निर्णय को चुनौती देने का अधिकार देता है।

प्रदर्शन समीक्षाओं के लिए एआई का उपयोग करने वाले नियोक्ता के पास सार्थक मानवीय निगरानी के लिए एक ठोस प्रक्रिया होनी चाहिए। एक प्रबंधक को कर्मचारी के काम के संपूर्ण अवलोकन के आधार पर एआई की सिफ़ारिश को रद्द करने के लिए अधिकार, विशेषज्ञता और समय की आवश्यकता होती है। इसकी अनदेखी न केवल एक गलत व्यवहार है; बल्कि यह जीडीपीआर का सीधा उल्लंघन भी है जिसके लिए 10,000 डॉलर तक का जुर्माना लगाया जा सकता है। आपकी कंपनी के वैश्विक वार्षिक कारोबार का 4%.

नीचे दी गई तालिका नियोक्ताओं के लिए इन प्राथमिक कानूनी चुनौतियों का विवरण देती है।

यूरोपीय संघ के कानून के तहत एल्गोरिथम प्रबंधन के प्रमुख कानूनी जोखिम

कानूनी जोखिम क्षेत्र	जोखिम का विवरण	प्रासंगिक यूरोपीय संघ/डच विनियमन	संभावित परिणाम
भेदभाव	पक्षपातपूर्ण ऐतिहासिक डेटा पर प्रशिक्षित एआई प्रणालियां संरक्षित समूहों (जैसे, लिंग, आयु, जातीयता के आधार पर) के विरुद्ध भेदभाव को कायम रख सकती हैं या बढ़ा सकती हैं।	सामान्य समान उपचार अधिनियम (एडब्ल्यूजीबी), समान उपचार पर यूरोपीय संघ के निर्देश।	कानूनी चुनौतियाँ, जुर्माना, प्रतिष्ठा को नुकसान, और निर्णयों को अमान्य करना।
पारदर्शिता (ब्लैक बॉक्स)	समझाने में असमर्थता कैसे एक एआई एक विशिष्ट निष्कर्ष पर पहुंच गया, जिससे कर्मचारियों को उन्हें प्रभावित करने वाले निर्णयों के आधार को समझने का अधिकार नहीं रहा।	जीडीपीआर (अनुच्छेद 60, 71), आगामी यूरोपीय संघ एआई अधिनियम।	कर्मचारी विवाद, विश्वास का टूटना, GDPR की निष्पक्षता और पारदर्शिता सिद्धांतों को पूरा करने में विफलता।
स्वचालित निर्णय लेना	महत्वपूर्ण निर्णय (जैसे, बर्खास्तगी, पदावनति) बिना किसी सार्थक मानवीय निरीक्षण के केवल स्वचालित प्रसंस्करण के आधार पर लेना।	जीडीपीआर अनुच्छेद 22.	वैश्विक वार्षिक कारोबार के 4% तक जुर्माना, निर्णय कानूनी रूप से अप्रवर्तनीय।
डेटा संरक्षण और गोपनीयता	एआई प्रदर्शन मॉडल को बढ़ावा देने के लिए कर्मचारी डेटा का अत्यधिक या गैरकानूनी संग्रह और प्रसंस्करण, गोपनीयता सिद्धांतों का उल्लंघन है।	जीडीपीआर अनुच्छेद 5, 6 और 9.	महत्वपूर्ण जीडीपीआर जुर्माना, डेटा विषय तक पहुंच के अनुरोध, और कर्मचारियों की ओर से संभावित कानूनी कार्रवाई।

जैसे-जैसे ये नियम विकसित होते हैं, इनके बारे में जानकारी रखना बेहद ज़रूरी है। यह समझने के लिए कि ये नियम और भी विशिष्ट कैसे बनेंगे, आप देख सकते हैं एआई के कानूनी पक्ष और आगामी यूरोपीय संघ एआई अधिनियम के बारे में अधिक जानेंनियामकों का संदेश स्पष्ट है: कार्यकुशलता कभी भी मौलिक मानवाधिकारों की कीमत पर नहीं आ सकती। सक्रिय कानूनी अनुपालन केवल एक औपचारिकता नहीं है; यह एक पूर्ण व्यावसायिक आवश्यकता है।

डच और यूरोपीय संघ के न्यायालय मामलों से सबक

सैद्धांतिक कानूनी जोखिम एक बात है, लेकिन जब कोई एल्गोरिथम आपके प्रदर्शन का मूल्यांकन करता है, तो अदालतें असल में कैसे फैसला सुनाती हैं? ऐसा लगता है कि अब इस कानूनी सिद्धांत की परीक्षा वास्तविक दुनिया के विवादों में हो रही है। डच और यूरोपीय संघ की अदालतों से सामने आए केस लॉ एक स्पष्ट संदेश देते हैं: मानवीय निगरानी और स्पष्ट स्पष्टीकरण का अधिकार सिर्फ़ एक अच्छा-खासा अधिकार नहीं है, बल्कि अनिवार्य भी है।

ये अभूतपूर्व मामले दर्शाते हैं कि न्यायाधीश अब अस्पष्ट या अनुचित स्वचालित प्रणालियों के विरुद्ध कर्मचारियों के अधिकारों की रक्षा के लिए आगे आ रहे हैं। नियोक्ताओं के लिए, ये फैसले केवल चेतावनी नहीं हैं; ये व्यावहारिक रोडमैप हैं जो बताते हैं कि क्या नहीं करना चाहिए।

उबर मामला: मानवीय समीक्षा को कायम रखना

सबसे महत्वपूर्ण फैसलों में से एक न्यायालय से आया Amsterdam उबर ड्राइवरों से जुड़े एक मामले में। ड्राइवरों ने कंपनी की स्वचालित प्रणाली पर आपत्ति जताई, जिसने एक एल्गोरिथम द्वारा धोखाधड़ी का पता लगाने के आधार पर उनके खातों को निष्क्रिय कर दिया—प्रभावी रूप से उन्हें नौकरी से निकाल दिया।

अदालत ने ड्राइवरों का पक्ष लिया और उनके अधिकारों को मजबूत किया अनुच्छेद 22 जीडीपीआर के। इसने फैसला सुनाया कि बर्खास्तगी जैसे जीवन-परिवर्तनकारी फैसले को पूरी तरह से एक एल्गोरिथम पर नहीं छोड़ा जा सकता। इस महत्वपूर्ण मामले से निष्कर्ष बिल्कुल स्पष्ट थे:

• मानवीय हस्तक्षेप का अधिकार: ड्राइवरों को यह कानूनी अधिकार है कि वे अपने वाहन को निष्क्रिय करने की समीक्षा किसी वास्तविक व्यक्ति से करवाएं जो स्थिति के संदर्भ का उचित आकलन कर सके।

• स्पष्टीकरण का अधिकार: उबर को अपने स्वचालित निर्णयों के पीछे के तर्क के बारे में सार्थक जानकारी देने का आदेश दिया गया। "धोखाधड़ी गतिविधि" का एक अस्पष्ट संदर्भ पर्याप्त नहीं था।

इस मामले ने एक सशक्त मिसाल कायम की। इसने पुष्टि की कि जब AI आपके प्रबंधक के रूप में कार्य करता हैइसके निर्णय पारदर्शी होने चाहिए तथा वास्तविक मानवीय समीक्षा के अधीन होने चाहिए, विशेषकर तब जब किसी व्यक्ति की आजीविका संकट में हो।

"अदालत का फ़ैसला एक बुनियादी सिद्धांत पर ज़ोर देता है: दक्षता और स्वचालन किसी व्यक्ति के उचित प्रक्रिया के अधिकार को दरकिनार नहीं कर सकते। एक कर्मचारी को ऐसे फ़ैसले को समझने और उसे चुनौती देने में सक्षम होना चाहिए जो उसके काम पर गहरा असर डालता हो।"

SyRI मामला: अपारदर्शी सरकारी एल्गोरिदम के विरुद्ध एक कदम

हालाँकि यह कोई सीधा रोज़गार का मामला नहीं था, फिर भी नीदरलैंड में सिस्टम रिस्क इंडिकेशन (SyRI) एल्गोरिथम के ख़िलाफ़ आए फ़ैसले का सभी स्वचालित निर्णय लेने की प्रक्रिया पर गहरा प्रभाव पड़ा। SyRI एक सरकारी प्रणाली थी जिसका इस्तेमाल विभिन्न सरकारी एजेंसियों के व्यक्तिगत डेटा को जोड़कर और उसका विश्लेषण करके कल्याणकारी धोखाधड़ी का पता लगाने के लिए किया जाता था।

एक डच अदालत ने SyRI को न केवल गोपनीयता संबंधी चिंताओं के कारण, बल्कि इसलिए भी गैरकानूनी घोषित कर दिया क्योंकि इसका संचालन मूलतः अस्पष्ट था। कोई भी यह स्पष्ट रूप से नहीं बता सका कि यह "ब्लैक बॉक्स" एल्गोरिथम व्यक्तियों को उच्च जोखिम वाले के रूप में कैसे पहचानता है। पारदर्शिता का यह पूर्ण अभाव यूरोपीय मानवाधिकार सम्मेलन का उल्लंघन पाया गया, क्योंकि नागरिक इस प्रणाली के निष्कर्षों के विरुद्ध अपना बचाव करने में असमर्थ थे।

इस फैसले ने उन प्रणालियों के प्रति बढ़ती न्यायिक असहिष्णुता का संकेत दिया जहाँ निर्णय लेने की प्रक्रिया रहस्यमय है। ये सिद्धांत सीधे कार्यस्थल पर भी लागू होते हैं। अगर कोई नियोक्ता स्पष्टीकरण नहीं दे सकता क्यों उनके प्रदर्शन एल्गोरिदम ने एक कर्मचारी को कम अंक दिए, वे बहुत ही कमजोर कानूनी आधार पर खड़े हैं। ये मुद्दे जटिल हैं और कई क्षेत्रों को प्रभावित करते हैं, जिनमें यह प्रश्न भी शामिल है कि जब किसी मशीन के निर्णय से नुकसान होता है तो कौन ज़िम्मेदार है। आप हमारी गाइड पढ़कर इन प्रश्नों का और अधिक विस्तार से अध्ययन कर सकते हैं। एआई और आपराधिक कानून.

न्यायपालिका का संदेश एक जैसा है: अदालतें व्यक्तियों को एल्गोरिदम की अनियंत्रित शक्ति से बचाएँगी। चाहे किसी गिग वर्कर को निष्क्रिय किया जा रहा हो या किसी नागरिक को धोखाधड़ी के लिए चिह्नित किया जा रहा हो, पारदर्शिता, निष्पक्षता और सार्थक मानवीय निगरानी की माँग एक कानूनी आवश्यकता है जिसे नियोक्ता अनदेखा नहीं कर सकते।

जिम्मेदार AI कार्यान्वयन के लिए आपकी व्यावहारिक मार्गदर्शिका

कानूनी सिद्धांत जानना एक बात है, लेकिन जब कोई एल्गोरिथम आपकी टीम का मूल्यांकन कर रहा हो, तो उसे व्यवहार में लाना ही सबसे ज़्यादा मायने रखता है। नियोक्ताओं के लिए, इसका मतलब है अमूर्त जोखिमों से ठोस कार्रवाइयों की ओर बढ़ना, एक स्पष्ट ढाँचा तैयार करना जो तकनीकी महत्वाकांक्षा को कानूनी कर्तव्यों और कर्मचारी विश्वास के साथ संतुलित करे।

यह नवाचार पर ब्रेक लगाने के बारे में नहीं है; यह इसे ज़िम्मेदारी से चलाने के बारे में है। एक सोची-समझी कार्यान्वयन योजना सिर्फ़ क़ानूनी झंझटों से बचने से कहीं ज़्यादा है। यह एक ऐसी संस्कृति को बढ़ावा देने में मदद करती है जहाँ कर्मचारी एआई को एक मददगार उपकरण के रूप में देखें, न कि एक नए तरह के डिजिटल टास्कमास्टर के रूप में। अंतिम लक्ष्य एक ऐसी प्रणाली है जो पारदर्शी, जवाबदेह और सबसे बढ़कर, निष्पक्ष हो।

अच्छी बात यह है कि इन तकनीकों के प्रति लोगों का रुझान बढ़ रहा है। डच नागरिकों में एआई प्रणालियों के प्रति विश्वास बढ़ रहा है, और 90% तक अब एआई से परिचित हैं और मोटे तौर पर 50% तक सक्रिय रूप से इसका उपयोग कर रहे हैं। धारणा भी बदल गई है: 43% तक डच लोगों का प्रतिशत अब एआई को केवल अवसर प्रस्तुत करने वाला मानता है, जो कि पहले से एक उल्लेखनीय उछाल है। 36% तक पिछले वर्ष। आप इस प्रवृत्ति को और अधिक विस्तार से जान सकते हैं नीदरलैंड्स एम्ब्रेसेज़ एआई रिपोर्टयह बढ़ती स्वीकार्यता निष्पक्ष और खुले रोलआउट को पहले से कहीं अधिक महत्वपूर्ण बनाती है।

डेटा सुरक्षा प्रभाव आकलन से शुरुआत करें

किसी नए AI सिस्टम को लागू करने के बारे में सोचने से पहले, आपका पहला कदम डेटा प्रोटेक्शन इम्पैक्ट असेसमेंट (DPIA) होना चाहिए। यह सिर्फ़ एक दोस्ताना सुझाव नहीं है—GDP के तहत, यह किसी भी डेटा प्रोसेसिंग के लिए एक कानूनी आवश्यकता है जो लोगों के अधिकारों और स्वतंत्रता के लिए उच्च जोखिम पैदा कर सकती है। AI-संचालित प्रदर्शन प्रबंधन निश्चित रूप से इसी श्रेणी में आता है।

DPIA को व्यक्तिगत डेटा के लिए एक औपचारिक जोखिम मूल्यांकन समझें। यह आपको व्यवस्थित रूप से यह निर्धारित करने के लिए बाध्य करता है कि आपका AI सिस्टम कैसे काम करेगा और क्या गड़बड़ हो सकती है।

इस प्रक्रिया में कुछ प्रमुख चरण शामिल हैं:

• प्रसंस्करण का वर्णन: आपको स्पष्ट रूप से यह रेखांकित करना होगा कि AI कौन सा डेटा एकत्रित करेगा, यह कहां से आ रहा है, तथा आप इसके साथ क्या करने की योजना बना रहे हैं।

• आवश्यकता और आनुपातिकता का आकलन: आपको यह बताना होगा कि प्रत्येक डेटा की आवश्यकता क्यों है और यह साबित करना होगा कि निगरानी का स्तर आपके घोषित लक्ष्यों के लिए अत्यधिक नहीं है।

• जोखिमों की पहचान और आकलन: अपने कर्मचारियों के लिए सभी संभावित खतरों को चिन्हित करें, भेदभाव और पूर्वाग्रह से लेकर पारदर्शिता की कमी या अनुचित परिणामों को जन्म देने वाली त्रुटियों तक।

• शमन उपायों की योजना बनाना: आपके द्वारा पहचाने गए प्रत्येक जोखिम के लिए, आपको उससे निपटने के लिए ठोस कदम उठाने होंगे, जैसे कि मानवीय निगरानी का निर्माण करना या जहां संभव हो, डेटा गुमनामीकरण तकनीकों का उपयोग करना।

अपनी टीम के साथ क्रांतिकारी पारदर्शिता को बढ़ावा दें

अस्पष्टता से ज़्यादा तेज़ी से भरोसा खत्म करने वाली कोई चीज़ नहीं है, खासकर जहाँ एआई का सवाल है। आपके कर्मचारियों को यह जानने का अधिकार है कि उनका मूल्यांकन कैसे किया जा रहा है, और स्पष्ट जवाब देना आपका कानूनी और नैतिक दायित्व है। "डेटा-संचालित अंतर्दृष्टि" के बारे में अस्पष्ट कॉर्पोरेट बातें बस काम नहीं आएंगी।

आपकी पारदर्शिता नीति स्पष्ट, विस्तृत और सभी के लिए सुलभ होनी चाहिए। इसमें स्पष्ट रूप से निम्नलिखित शामिल होने चाहिए:

• कौन सा डेटा एकत्र किया जाता है: सिस्टम द्वारा ट्रैक किए जाने वाले प्रत्येक डेटा बिंदु के बारे में स्पष्ट रहें, चाहे वह ईमेल प्रतिक्रिया समय हो, लिखे गए कोड की पंक्तियां हों, या ग्राहक कॉल से प्राप्त भावना विश्लेषण हो।

• एल्गोरिथ्म कैसे काम करता है: आपको सिस्टम के तर्क की सार्थक व्याख्या करनी होगी। प्रदर्शन के मूल्यांकन के लिए इसके द्वारा उपयोग किए जाने वाले मुख्य मानदंडों और उन कारकों को कैसे महत्व दिया जाता है, इसकी व्याख्या करें।

• मानवीय निगरानी की भूमिका: यह स्पष्ट कर दें कि एआई के आउटपुट की समीक्षा करने और उसे रद्द करने का अधिकार किसके पास है, तथा किन विशिष्ट परिस्थितियों में वे हस्तक्षेप कर सकते हैं।

एक पारदर्शी प्रक्रिया, सिस्टम को एक अप्रतिद्वंद्वी "ब्लैक बॉक्स" जैसा महसूस होने से रोकती है। यह कर्मचारियों को उन मानकों को समझने के लिए आवश्यक जानकारी प्रदान करती है जिनका पालन उनसे अपेक्षित है, जो निष्पक्षता और नियंत्रण की भावना के लिए मौलिक है।

एक मजबूत मानव निरीक्षण प्रक्रिया का निर्माण करें

जीडीपीआर के तहत एक महत्वपूर्ण नियम यह है कि महत्वपूर्ण कानूनी या व्यक्तिगत परिणामों वाला निर्णय आधारित नहीं हो सकता है केवल स्वचालित प्रसंस्करण पर। यह "सार्थक मानवीय हस्तक्षेप" को एक अनिवार्य कानूनी आवश्यकता बना देता है। और स्पष्ट रूप से कहें तो, किसी प्रबंधक द्वारा AI की सिफ़ारिश पर केवल "अनुमोदन" पर क्लिक करने को भी इसमें शामिल नहीं किया जाता है।

एक वास्तविक मजबूत निरीक्षण प्रक्रिया के लिए कई प्रमुख घटकों की आवश्यकता होती है:

1. प्राधिकरण: एआई के आउटपुट की समीक्षा करने वाले व्यक्ति के पास उसके निष्कर्ष से असहमत होने और उसे पलटने की वास्तविक शक्ति और स्वायत्तता होनी चाहिए।

2. सक्षमता: उन्हें कंपनी के लक्ष्यों और व्यक्तिगत कर्मचारी की विशिष्ट स्थिति को समझने के लिए उचित प्रशिक्षण और व्यावसायिक संदर्भ की आवश्यकता होती है, जिसमें वे कारक भी शामिल होते हैं जिन्हें एल्गोरिथम ने अनदेखा कर दिया हो।

3. समय: समीक्षा जल्दबाज़ी में की गई, बिना किसी ठोस आधार के नहीं होनी चाहिए। अंतिम, स्वतंत्र निर्णय लेने से पहले समीक्षक के पास सभी साक्ष्यों पर ठीक से विचार करने के लिए पर्याप्त समय होना चाहिए।

यह मानव-इन-द-लूप प्रणाली एल्गोरिथम संबंधी गलतियों और छिपे हुए पूर्वाग्रहों के विरुद्ध आपकी सबसे महत्वपूर्ण सुरक्षा है। यह सुनिश्चित करता है कि संदर्भ, सूक्ष्मता और सहानुभूति—ऐसे गुण जो एआई में नहीं होते—आपके लोगों के प्रबंधन के केंद्र में रहें।

इन सभी चरणों को एक साथ लाने के लिए, यहां एक व्यावहारिक चेकलिस्ट दी गई है जिसका उपयोग नियोक्ता अपनी कार्यान्वयन प्रक्रिया को निर्देशित करने के लिए कर सकते हैं।

एआई प्रदर्शन प्रणालियों के लिए नियोक्ता अनुपालन चेकलिस्ट

यह चेकलिस्ट नियोक्ताओं के लिए एक संरचित दृष्टिकोण प्रदान करती है ताकि यह सुनिश्चित किया जा सके कि उनके AI मूल्यांकन उपकरण इस तरह से कार्यान्वित किए जाएं जो GDPR और निष्पक्षता और पारदर्शिता के सिद्धांतों सहित प्रमुख डच और यूरोपीय संघ की कानूनी आवश्यकताओं के अनुरूप हों।

अनुपालन चरण	मुख्य कार्रवाई आवश्यक	यह क्यों महत्वपूर्ण है
1. DPIA का संचालन करें	सिस्टम लागू करने से पहले डेटा सुरक्षा प्रभाव आकलन पूरा करें। कर्मचारी अधिकारों के लिए सभी संभावित जोखिमों की पहचान करें और उनका दस्तावेज़ीकरण करें।	उच्च-जोखिम प्रसंस्करण के लिए GDPR के तहत कानूनी रूप से अनिवार्य। भेदभाव जैसी कानूनी और नैतिक कमियों की सक्रिय रूप से पहचान करने और उन्हें कम करने में मदद करता है।
2. कानूनी आधार स्थापित करें	जीडीपीआर अनुच्छेद 6 के तहत कर्मचारी डेटा के प्रसंस्करण के लिए कानूनी आधार को स्पष्ट रूप से परिभाषित और दस्तावेजित करें (उदाहरण के लिए, वैध हित, अनुबंध)।	यह सुनिश्चित करता है कि डेटा प्रोसेसिंग शुरू से ही वैध हो। "वैध हित" का उपयोग करने के लिए नियोक्ता की ज़रूरतों और कर्मचारी की गोपनीयता के अधिकारों के बीच संतुलन बनाना ज़रूरी है।
3. पूर्ण पारदर्शिता सुनिश्चित करें	एक स्पष्ट और सुलभ नीति बनाएँ जिसमें यह स्पष्ट हो कि कौन सा डेटा एकत्र किया जाता है, एल्गोरिदम कैसे काम करता है, और मूल्यांकन के लिए कौन से मानदंड इस्तेमाल किए जाते हैं। सभी प्रभावित कर्मचारियों को सूचित करें।	GDPR की पारदर्शिता आवश्यकता (अनुच्छेद 13 और 14) को पूरा करता है। कर्मचारियों का विश्वास बढ़ाता है और सिस्टम को एक अनुचित "ब्लैक बॉक्स" समझे जाने के जोखिम को कम करता है।
4. मानवीय निगरानी लागू करें	महत्वपूर्ण एआई-संचालित निर्णयों (जैसे, बर्खास्तगी, पदावनति) की सार्थक मानवीय समीक्षा के लिए एक प्रक्रिया तैयार करें। समीक्षक के पास एआई को दरकिनार करने का अधिकार होना चाहिए।	जीडीपीआर अनुच्छेद 22 के तहत एक कानूनी आवश्यकता। यह एल्गोरिथम त्रुटियों, पूर्वाग्रह और संदर्भ की कमी के खिलाफ एक महत्वपूर्ण सुरक्षा के रूप में कार्य करता है।
5. पूर्वाग्रह के लिए परीक्षण	संरक्षित विशेषताओं (आयु, लिंग, जातीयता, आदि) के आधार पर भेदभावपूर्ण पैटर्न की जांच करने के लिए एल्गोरिदम और उसके परिणामों का नियमित रूप से ऑडिट करें।	भेदभाव-विरोधी कानूनों के उल्लंघन को रोकता है। यह सुनिश्चित करता है कि उपकरण व्यवहार में निष्पक्ष हो और अनजाने में किसी कर्मचारी समूह को नुकसान न पहुँचाए।
6. एक चुनौती तंत्र प्रदान करें	कर्मचारियों के लिए स्वचालित निर्णय पर प्रश्न उठाने, उसे चुनौती देने तथा उसकी समीक्षा का अनुरोध करने हेतु एक स्पष्ट एवं सुलभ प्रक्रिया स्थापित करें।	जीडीपीआर के तहत कर्मचारी के स्पष्टीकरण और मानवीय हस्तक्षेप के अधिकार को बरकरार रखता है। जवाबदेही और प्रक्रियात्मक निष्पक्षता को बढ़ावा देता है।
7. दस्तावेज़ सब कुछ	अपने DPIA, पूर्वाग्रह परीक्षण परिणामों, पारदर्शिता नोटिस और मानव निरीक्षण प्रक्रिया का विस्तृत रिकॉर्ड रखें।	डच डेटा संरक्षण प्राधिकरण द्वारा ऑडिट के मामले में अनुपालन का प्रमाण प्रदान करता है (ऑटोराइटिट पर्सून्सगेवेन्स) या कानूनी चुनौती।

इस चेकलिस्ट का पालन करके, आप AI की शक्ति का उपयोग कर सकते हैं परफॉर्मेंस का आकलन करें न केवल प्रभावी रूप से, बल्कि नैतिक और कानूनी रूप से भी, इस प्रक्रिया में अपनी टीम के प्रति अपने कर्तव्यों को मजबूत करना।

जब कोई एल्गोरिथम आपका प्रबंधक हो तो आपके अधिकार

यह पता लगाना कि आपके प्रदर्शन के मूल्यांकन में एक एल्गोरिथम शामिल है, बेहद निराशाजनक लग सकता है। लेकिन यह समझना ज़रूरी है कि डच और यूरोपीय संघ के कानून के तहत, आप बिल्कुल भी असहाय नहीं हैं। आपके पास विशिष्ट, लागू करने योग्य अधिकार हैं जो आपको स्वचालित निर्णय लेने की खामियों से बचाने के लिए डिज़ाइन किए गए हैं।

इस स्थिति में आपकी सबसे शक्तिशाली ढाल जनरल डेटा प्रोटेक्शन रेगुलेशन (GDPR) है। यह आपको कई मौलिक अधिकार प्रदान करता है जो विशेष रूप से तब प्रासंगिक हो जाते हैं जब कोई AI आपका प्रबंधक हैये केवल दिशानिर्देश नहीं हैं; ये कानूनी कर्तव्य हैं जिन्हें आपके नियोक्ता को पूरा करना होगा।

GDPR के अंतर्गत आपके मूल अधिकार

आपकी सुरक्षा के मूल में तीन प्रमुख अधिकार हैं जो स्वचालित प्रणालियों पर एक सशक्त नियंत्रण प्रदान करते हैं। इन्हें जानने से आपको यह अधिकार मिलता है कि अगर आपको लगता है कि कोई निर्णय अनुचित है या उसका कोई उचित स्पष्टीकरण नहीं है, तो आप कार्रवाई कर सकते हैं।

• आपके डेटा तक पहुंच का अधिकार: आप अपने नियोक्ता के पास मौजूद आपके सभी व्यक्तिगत डेटा की एक प्रति औपचारिक रूप से मांग सकते हैं। इसमें प्रदर्शन मूल्यांकन एल्गोरिथम में डाले गए सटीक डेटा बिंदु शामिल हैं, जिससे आप देख सकते हैं कि आपके काम का मूल्यांकन करने के लिए किस जानकारी का उपयोग किया जा रहा है।

• स्पष्टीकरण का अधिकार: किसी भी स्वचालित निर्णय में "शामिल तर्क के बारे में सार्थक जानकारी" पाने का आपको अधिकार है। आपका नियोक्ता यूँ ही यह नहीं कह सकता कि "कंप्यूटर ने निर्णय लिया"। उन्हें यह स्पष्ट करना होगा कि सिस्टम किन मानदंडों का उपयोग करता है और आपके बारे में किसी विशिष्ट निष्कर्ष पर क्यों पहुँचा।

• चुनौती का अधिकार और मानवीय समीक्षा: यह शायद आपका सबसे महत्वपूर्ण अधिकार है। GDPR के तहत अनुच्छेद 22, आपको किसी एल्गोरिथम द्वारा लिए गए निर्णय को चुनौती देने और किसी व्यक्ति से उसकी समीक्षा करवाने का अधिकार है। इस व्यक्ति के पास साक्ष्यों की उचित रूप से पुनः जाँच करने और एक नया, स्वतंत्र निर्णय लेने का अधिकार होना चाहिए।

कानून स्पष्ट है: कोई भी महत्वपूर्ण निर्णय, जैसे कि आपके बोनस, पदोन्नति या रोज़गार की स्थिति से जुड़ा कोई निर्णय, सिर्फ़ किसी एल्गोरिदम पर नहीं छोड़ा जा सकता। आपको किसी व्यक्ति के हस्तक्षेप का पूरा अधिकार है।

एआई-जनित मूल्यांकन को कैसे चुनौती दें

अगर आपको कोई ऐसा प्रदर्शन मूल्यांकन मिलता है जो अनुचित लगता है या पूरी तरह से लक्ष्य से भटक जाता है, तो आपको कार्रवाई करनी चाहिए। स्थिति को व्यवस्थित तरीके से देखने से आपके मामले की सफलता की संभावना बढ़ जाएगी।

1. जानकारी इकट्ठा करना: किसी से भी बात करने से पहले, सब कुछ लिख लें। प्रदर्शन समीक्षा की एक प्रति अपने पास रखें, उन विशिष्ट कार्य उदाहरणों के नोट्स बनाएँ जिन्हें आपको लगता है कि अनदेखा किया गया है, और उन सभी प्रासंगिक कारकों को सूचीबद्ध करें जिन्हें एल्गोरिथम ने अनदेखा किया होगा (जैसे सहकर्मियों की मदद करना या किसी कठिन प्रोजेक्ट को संभालना)।

2. औपचारिक अनुरोध प्रस्तुत करें: अपने मानव संसाधन विभाग को एक औपचारिक अनुरोध तैयार करें। स्पष्ट रूप से बताएँ कि आप GDPR के तहत अपने अधिकारों का प्रयोग कर रहे हैं। अपने मूल्यांकन में उपयोग किए गए व्यक्तिगत डेटा की एक प्रति और एल्गोरिथम के तर्क की विस्तृत व्याख्या माँगें।

3. मानवीय समीक्षा का अनुरोध करें: स्पष्ट रूप से बताएं कि आप स्वचालित निर्णय को चुनौती दे रहे हैं और इसे पलटने के लिए प्राधिकार वाले प्रबंधक से समीक्षा का अनुरोध कर रहे हैं।

इन नियमों को समझना मुश्किल हो सकता है, खासकर जब तकनीक लगातार विकसित हो रही हो। आप यह पता लगाकर और गहराई से समझ सकते हैं कि कैसे जीडीपीआर के तहत एआई और बिग डेटा के साथ डेटा गोपनीयता विकसित हो रही है.

डच वर्क्स काउंसिल की भूमिका

नीदरलैंड में सुरक्षा की एक और शक्तिशाली परत है: वर्क्स काउंसिल (ओन्डरनेमिंग्सराड या)। किसी भी कंपनी के लिए 50 या अधिक कर्मचारीओआर को कर्मचारी के प्रदर्शन की निगरानी के लिए उपयोग की जाने वाली किसी भी प्रणाली के परिचय या बड़े परिवर्तन पर सहमति का कानूनी अधिकार है।

इसका मतलब है कि आपका नियोक्ता आपके कर्मचारी प्रतिनिधियों की मंज़ूरी लिए बिना एआई मैनेजर स्थापित नहीं कर सकता। ओआर का काम यह सुनिश्चित करना है कि कोई भी नई प्रणाली निष्पक्ष, पारदर्शी हो और कर्मचारियों की गोपनीयता का सम्मान करे। से पहले यह कभी भी लाइव हो सकता है। अगर आपको कोई चिंता है, तो आपकी वर्क्स काउंसिल एक महत्वपूर्ण सहयोगी है।

AI प्रदर्शन समीक्षाओं के बारे में सामान्य प्रश्न

जब आपके प्रदर्शन मूल्यांकन में किसी एल्गोरिथम की भूमिका होती है, तो स्वाभाविक रूप से कर्मचारियों और नियोक्ताओं, दोनों के लिए कई व्यावहारिक प्रश्न उठते हैं। मुख्य मुद्दों पर स्पष्टता होना ज़रूरी है। यहाँ कुछ सबसे आम चिंताओं के सीधे-सादे जवाब दिए गए हैं।

क्या मुझे केवल एआई निर्णय के आधार पर नौकरी से निकाला जा सकता है?

संक्षेप में, नहीं। अनुच्छेद 22 जीडीपीआर के अनुसार, ऐसा निर्णय जिसके महत्वपूर्ण कानूनी परिणाम हों—जैसे कि आपकी नौकरी समाप्त करना—उस पर आधारित नहीं हो सकता केवल स्वचालित प्रसंस्करण पर। कानून सार्थक मानवीय हस्तक्षेप की माँग करता है।

एक नियोक्ता जो तथ्यों की वास्तविक और स्वतंत्र मानवीय समीक्षा के बिना, केवल AI के आउटपुट के आधार पर आपको बर्खास्त करता है, वह लगभग निश्चित रूप से GDPR और डच रोजगार कानून दोनों के तहत आपके अधिकारों का उल्लंघन करेगा।

मैं एआई सिस्टम के बारे में क्या जानने का हकदार हूं?

पारदर्शिता आपका मौलिक अधिकार है। अगर आपकी कंपनी किसी आपके प्रबंधक के रूप में AI, वे कानूनी रूप से आपको इसके बारे में सूचित करने और इसके तर्क के बारे में सार्थक जानकारी प्रदान करने के लिए बाध्य हैं।

इसका मतलब है कि उन्हें यह स्पष्ट करना होगा:

• एल्गोरिदम द्वारा संसाधित विशिष्ट प्रकार के डेटा।

• मूल्यांकन के लिए उपयोग किए जाने वाले मुख्य मानदंड।

• सिस्टम के आउटपुट के संभावित परिणाम.

आपको सिस्टम द्वारा आपके बारे में एकत्रित किये गए सभी व्यक्तिगत डेटा तक पहुंच का अनुरोध करने का भी अधिकार है।

किसी प्रबंधक की एक साधारण "रबर स्टैम्प" कानूनी तौर पर पर्याप्त नहीं है। यूरोपीय डेटा संरक्षण प्राधिकरणों को 'सार्थक मानवीय निगरानी' की आवश्यकता होती है, जहाँ एक समीक्षक के पास साक्ष्य का विश्लेषण करने और स्वतंत्र निर्णय लेने के लिए वास्तविक अधिकार, विशेषज्ञता और समय होता है।

क्या प्रबंधक द्वारा एआई निर्णय को मंजूरी देना ही पर्याप्त है?

बिल्कुल नहीं। इस तरह की प्रथा कानूनी मानकों पर खरी नहीं उतरती। बिना किसी वास्तविक, ठोस समीक्षा के तुरंत की गई कार्रवाई को सार्थक मानवीय निगरानी नहीं माना जाता।

मानव समीक्षक के पास स्थिति का विश्लेषण करने, उन कारकों पर विचार करने का वास्तविक अधिकार और क्षमता होनी चाहिए जिन्हें एआई ने नज़रअंदाज़ किया हो (जैसे टीमवर्क, अप्रत्याशित बाधाएँ, या अन्य संदर्भ), और एक स्वतंत्र निर्णय पर पहुँचें। एल्गोरिथम के निष्कर्ष को केवल मंज़ूरी देना एक जोखिम भरा कदम है जो कंपनी को गंभीर कानूनी चुनौतियों का सामना करने के लिए मजबूर करता है।