आइए शुरू से ही यह बात स्पष्ट कर दें: वर्तमान डच और यूरोपीय संघ के कानून के तहत, किसी एल्गोरिदम को किसी अपराध के लिए आपराधिक रूप से जिम्मेदार नहीं ठहराया जा सकता। यह संभव ही नहीं है। आपराधिक इरादे ( मेंस रिया ) और कानूनी व्यक्तित्व जैसी मूलभूत कानूनी अवधारणाएं केवल मनुष्यों और कुछ विशेष परिस्थितियों में निगमों के लिए आरक्षित हैं।
हालाँकि, यह सरल उत्तर एक बहुत ही जटिल बातचीत की शुरुआत मात्र है। एल्गोरिदम की गतिविधियाँ उन लोगों के अपराध—या निर्दोषता—को साबित करने के लिए पूरी तरह से केंद्रीय होती जा रही हैं जो उन्हें बनाते, लागू करते और उनकी देखरेख करते हैं।
क्या कोई एल्गोरिथ्म किसी अपराध का दोषी हो सकता है?
जब हम आपराधिक कानून के संदर्भ में कृत्रिम बुद्धिमत्ता (AI) की बात करते हैं, तो असली सवाल यह उठता है कि क्या कोई एल्गोरिदम किसी प्रतिवादी की कुर्सी तक पहुंच सकता है। कानूनी तौर पर, आज इसका जवाब स्पष्ट रूप से 'नहीं' है। चाहे वह कितना भी उन्नत क्यों न हो, किसी एल्गोरिदम में मुकदमे का सामना करने के लिए आवश्यक मूलभूत गुण नहीं होते। उसमें चेतना नहीं होती, न ही जब्त करने योग्य कोई निजी संपत्ति होती है, और न ही छीनने योग्य कोई स्वतंत्रता होती है।
यह कानूनी सच्चाई ध्यान को उपकरण से उपयोगकर्ता की ओर मोड़ देती है। एक उन्नत एआई प्रणाली को एक अत्यंत जटिल लेकिन अंततः निर्जीव उपकरण के रूप में देखना उपयोगी है—किसी स्वचालित कार या स्वचालित फ़ैक्टरी मशीन से अलग नहीं। अगर मशीन नुकसान पहुँचाती है, तो कानून मशीन पर मुकदमा नहीं चलाता; वह उसके पीछे के इंसानों की जाँच करता है।
कानूनी व्यक्तित्व और इरादे की बाधाएं
आपराधिक कानून दो स्तंभों पर आधारित है जिन्हें एआई पूरी तरह से संतुष्ट नहीं कर सकता: कानूनी व्यक्तित्व और आपराधिक इरादा। किसी भी संस्था पर मुकदमा चलाने के लिए, कानून को उसे एक "व्यक्ति" के रूप में मान्यता देनी होगी, जिसका अर्थ है या तो एक प्राकृतिक व्यक्ति (एक मानव) या एक कानूनी व्यक्ति (जैसे एक कंपनी)। एआई प्रणालियाँ किसी भी श्रेणी में फिट नहीं बैठतीं।
इससे भी अधिक महत्वपूर्ण बात यह है कि अधिकांश गंभीर अपराधों के लिए "दोषी मानसिकता" का प्रमाण आवश्यक होता है । इसका अर्थ है यह साबित करना कि अभियुक्त ने एक विशिष्ट मानसिक स्थिति के साथ कार्य किया, चाहे वह इरादा हो, जानकारी हो या लापरवाही। एक एल्गोरिदम कोड और डेटा पर चलता है; यह इरादे नहीं बनाता या अपने कार्यों की नैतिक रूप से गलतता को नहीं समझता।
मुख्य कठिनाई व्यवस्था की स्वतंत्र रूप से चयन और कार्य करने की क्षमता से उत्पन्न होती है, जिससे मानवीय इरादे और परिणामी नुकसान के बीच एक गैर-मानवीय कारक आ जाता है। यह आपराधिक कानून में ज़िम्मेदारी तय करने के पारंपरिक मॉडल को बाधित करता है।
सीधे मुद्दे पर आते हैं, तो स्वायत्त तकनीक पर सदियों पुराने कानूनी सिद्धांतों को लागू करने में कानून को कुछ बड़ी बाधाओं का सामना करना पड़ रहा है। नीचे दी गई तालिका मूल समस्या का सारांश प्रस्तुत करती है।
एल्गोरिथम आपराधिक दायित्व की वर्तमान स्थिति
| कानूनी अवधारणा | मनुष्यों पर अनुप्रयोग | एआई प्रणालियों में अनुप्रयोग |
|---|---|---|
| कानूनी व्यक्तित्व | मनुष्य "प्राकृतिक व्यक्ति" हैं जिनके पास कानून के तहत अधिकार और कर्तव्य हैं। निगम "कानूनी व्यक्ति" हो सकते हैं। | एआई प्रणाली को संपत्ति या उपकरण माना जाता है। इसकी कोई स्वतंत्र कानूनी मान्यता नहीं है। |
| आपराधिक मंशा (आपराधिक मनःस्थिति) | अभियोजकों को "दोषी मन" साबित करना होगा, जैसे कि इरादा, लापरवाही, या गलत काम करने का ज्ञान। | एक एल्गोरिथम अपनी प्रोग्रामिंग और डेटा इनपुट के आधार पर काम करता है। इसमें चेतना, विश्वास या इच्छाएँ नहीं होतीं। |
| शारीरिक क्रिया (एक्टस रीउस) | किसी व्यक्ति ने स्वैच्छिक रूप से कोई शारीरिक कार्य (या कोई दोषपूर्ण चूक) किया होगा। | एआई की "क्रियाएँ" कोड के आउटपुट हैं। मानवीय अर्थों में ये स्वैच्छिक कार्य नहीं हैं। |
| सज़ा | प्रतिबंधों में कारावास, जुर्माना या सामुदायिक सेवा शामिल है, जिसका उद्देश्य प्रतिशोध और निवारण है। | किसी AI को कैद या जुर्माना नहीं लगाया जा सकता। कोड को "दंडित" करना (जैसे, उसे हटाना) कानूनी ढाँचे के अनुकूल नहीं है। |
जैसा कि आप देख सकते हैं, इसमें एक बुनियादी बेमेल है। आपराधिक कानून का पूरा ढाँचा मानवीय क्षमता के इर्द-गिर्द बुना गया है, जिसका AI में अभाव है।
कानूनी ढांचे के रूप में उत्तरदायी दायित्व
इसलिए, चूंकि किसी एल्गोरिदम को दोषी नहीं ठहराया जा सकता, डच कानून 'आरोपित दायित्व' की अवधारणा पर आधारित है । इसका सीधा सा अर्थ है कि कृत्रिम बुद्धिमत्ता (एआई) की गतिविधियों की जिम्मेदारी किसी मानव या कॉर्पोरेट पक्ष को सौंपी जाती है। इस स्थिति में, एआई का आउटपुट एक महत्वपूर्ण सबूत बन जाता है जो इसके मानव नियंत्रकों की गतिविधियों या लापरवाही की ओर इशारा करता है।
यह तरीका क्रांतिकारी नहीं है। यह सीधे तौर पर उसी तरह से काम करता है जैसे कानून दूसरे जटिल तरीकों से किए गए अपराधों से निपटता है। उदाहरण के लिए, अगर कोई कंपनी जानबूझकर कोई खतरनाक रूप से दोषपूर्ण उत्पाद बेचती है जिससे नुकसान होता है, तो कंपनी और उसके अधिकारी ज़िम्मेदार होंगे, न कि उत्पाद।
इसके मार्गदर्शक सिद्धांत स्थापित कानूनी सिद्धांतों के अनुरूप हैं। इस क्षेत्र में काम करने वाले कानूनी पेशेवरों के लिए, मौजूदा ढाँचों की ठोस समझ एक आवश्यक प्रारंभिक बिंदु है। नीदरलैंड्स में आपराधिक प्रक्रिया पर हमारी विस्तृत मार्गदर्शिका इस बात की बेहतरीन जानकारी देती है कि ये मामले जाँच से लेकर फैसले तक कैसे आगे बढ़ते हैं। अब चुनौती नए कानूनों का निर्माण करना नहीं है, बल्कि इन सिद्ध सिद्धांतों को स्वायत्त प्रणालियों की अनूठी जटिलताओं के अनुकूल बनाना है।
डच कानून एआई-सहायता प्राप्त अपराधों के लिए कैसे ज़िम्मेदारी तय करता है
चूंकि एल्गोरिदम पर स्वयं मुकदमा नहीं चलाया जा सकता, इसलिए डच कानूनी प्रणाली उचित जिम्मेदारी तय करने के लिए मौजूदा, मानव-केंद्रित सिद्धांतों का सहारा लेती है। इस कार्य के लिए मुख्य कानूनी उपकरण कार्यात्मक अपराध का सिद्धांत ( functioneel daderschap ) है।
यह शक्तिशाली सिद्धांत न्यायालय को किसी व्यक्ति या कंपनी को उस कार्य के लिए आपराधिक रूप से उत्तरदायी ठहराने की अनुमति देता है, जिसे उन्होंने शारीरिक रूप से नहीं किया है, बशर्ते कि वे स्थिति पर प्रभावी नियंत्रण में हों।
इसे इस तरह से सोचें: किसी निर्माण कंपनी का निदेशक साइट पर मौजूद हर क्रेन का संचालन स्वयं नहीं करता। लेकिन अगर वे जानबूझकर किसी ऑपरेटर को खराब क्रेन इस्तेमाल करने का आदेश देते हैं और कोई दुर्घटना हो जाती है, तो निदेशक ज़िम्मेदार होता है। यही तर्क तब भी लागू होता है जब "क्रेन" एक परिष्कृत एआई सिस्टम हो। ध्यान एल्गोरिथम के काम से हटकर उन मानवीय निर्णयों पर केंद्रित हो जाता है जिनके कारण यह दुर्घटना हुई।
यह एआई के साथ काम करने वाले किसी भी व्यक्ति के लिए एक महत्वपूर्ण अवधारणा है, क्योंकि यह अभियोजकों को एआई के हानिकारक परिणामों को किसी व्यक्ति या निगम से जोड़ने का सीधा रास्ता प्रदान करता है। यह किसी एल्गोरिथम के "इरादे" को साबित करने के असंभव कार्य को बड़ी सफाई से टाल देता है और इसके बजाय उसके मानव स्वामियों के इरादे और लापरवाही पर ध्यान केंद्रित करता है।
कार्यात्मक निष्पादन के दो परीक्षण
किसी अभियोजक को अदालत में कार्यात्मक अपराध के लिए सफलतापूर्वक तर्क देने के लिए, दो प्रमुख परीक्षणों को पूरा करना होगा। ये मानदंड वे आधार हैं जो यह निर्धारित करते हैं कि किसी व्यक्ति या कंपनी को एआई के माध्यम से किए गए अपराध के "कार्यात्मक" लेखक के रूप में देखा जा सकता है या नहीं।
नियंत्रण की शक्ति ( बेस्चिकिंग्समाच्ट ) : क्या किसी व्यक्ति या कंपनी के पास यह निर्धारित करने की वास्तविक शक्ति थी कि एआई का आपराधिक व्यवहार होगा या नहीं? यह सब अधिकार और निगरानी से संबंधित है—जैसे एआई के संचालन के नियम निर्धारित करना, इसे बंद करने की क्षमता रखना, या इसके निर्णयों को निर्देशित करने वाले मापदंडों को परिभाषित करना।
स्वीकृति ( Aanvaarding ) : क्या व्यक्ति या कंपनी ने आपराधिक कृत्य होने के जोखिम को स्वीकार किया था? महत्वपूर्ण बात यह है कि इसके लिए प्रत्यक्ष इरादे की आवश्यकता नहीं होती। यह तब सिद्ध हो सकता है जब उन्हें हानिकारक परिणाम की संभावना का पता था, लेकिन उन्होंने जानबूझकर पर्याप्त सुरक्षा उपाय नहीं किए।
नियंत्रण और स्वीकृति - ये दो स्तंभ इस बात की बुनियाद हैं कि डच कानून इस सवाल का जवाब कैसे देता है, "क्या कोई एल्गोरिदम आंशिक रूप से जिम्मेदार हो सकता है?"। इसका जवाब स्पष्ट रूप से 'नहीं' है, लेकिन इसके मानव नियंत्रक को पूरी तरह से जिम्मेदार ठहराया जा सकता है।
एक व्यावहारिक परिदृश्य: स्वायत्त ड्रोन से होने वाली क्षति
आइए इसे एक वास्तविक परिदृश्य पर लागू करें। कल्पना कीजिए कि एक लॉजिस्टिक्स कंपनी स्वचालित डिलीवरी ड्रोनों का एक बेड़ा तैनात करती है। एक ड्रोन, जो एक एआई नेविगेशन सिस्टम द्वारा निर्देशित होता है, एक भीड़-भाड़ वाले सार्वजनिक चौराहे पर खराब हो जाता है और गंभीर रूप से घायल हो जाता है।
कंपनी के खिलाफ मामला बनाने वाला अभियोजक कार्यात्मक अपराध ढांचे पर बहुत अधिक निर्भर करेगा:
नियंत्रण साबित करना : वे यह प्रदर्शित करेंगे कि कंपनी का ड्रोन बेड़े पर पूर्ण नियंत्रण है। कंपनी डिलीवरी रूट निर्धारित करती है, सॉफ्टवेयर अपडेट का प्रबंधन करती है, और किसी भी क्षण ड्रोन को निष्क्रिय करने के लिए "किल स्विच" का नियंत्रण रखती है।
स्वीकृति साबित करना : ऐसे सबूत सामने आ सकते हैं जिनसे पता चले कि कंपनी को घनी आबादी वाले शहरी क्षेत्रों में अपनी कृत्रिम बुद्धिमत्ता (एआई) की 5% त्रुटि दर की जानकारी थी, लेकिन लागत कम करने के लिए उसने फिर भी इसे तैनात करने का निर्णय लिया। इस ज्ञात जोखिम के बावजूद सिस्टम को संचालित करके, कंपनी ने प्रभावी रूप से हानिकारक परिणाम की संभावना को स्वीकार कर लिया।
इस सिद्धांत के तहत, कंपनी अपराध की अपराधी बन जाती है (जैसे, लापरवाही से गंभीर शारीरिक क्षति)। एआई केवल एक साधन है; कंपनी द्वारा इसे तैनात करने और पर्याप्त निगरानी न करने का निर्णय आपराधिक कृत्य बनता है।
कॉर्पोरेट दायित्व और घोर लापरवाही
कार्यात्मक अपराध की यह अवधारणा सीधे कॉर्पोरेट आपराधिक दायित्व तक फैली हुई है। किसी संगठन को जवाबदेह ठहराया जा सकता है यदि आपराधिक आचरण को उचित रूप से उसी के लिए जिम्मेदार ठहराया जा सके। यह अक्सर घोर लापरवाही के मामलों में लागू होता है, जहाँ किसी कंपनी की नीतियों—या उनकी कमी—ने ऐसा वातावरण बनाया जहाँ एआई-संचालित अपराध न केवल संभव था, बल्कि पूर्वानुमानित भी था।
हालांकि कानूनी सिद्धांत अच्छी तरह से स्थापित हैं, लेकिन कृत्रिम बुद्धिमत्ता (एआई) पर उनका अनुप्रयोग अभी भी आकार ले रहा है। नीदरलैंड्स में, 2025 तक, एआई प्रणाली के स्वायत्त निर्णय से होने वाली हानियों के लिए आपराधिक दायित्व पर कोई भी प्रकाशित अदालती फैसला नहीं है । यह दर्शाता है कि कानूनी क्षेत्र अभी भी प्रौद्योगिकी के साथ तालमेल बिठाने में पीछे है।
फिलहाल, अभियोजक इन सामान्य सिद्धांतों को अपनाते हुए उन व्यक्तियों को उत्तरदायी ठहराते हैं जिन्होंने एआई को नियंत्रित किया और इसके गलत कार्यों की संभावना को स्वीकार किया, जैसे कि एआई के लापरवाहीपूर्ण संचालन के परिणामस्वरूप हुई हत्या के मामलों में। आप डच कानून में एआई की वर्तमान स्थिति और इसके प्रभावों के बारे में अधिक पढ़ सकते हैं ।
कानूनी सलाहकारों के लिए, यह वास्तविकता पूरी तरह से एक ही बात पर ध्यान केंद्रित करती है: ज़िम्मेदार मानवीय निगरानी और जोखिम प्रबंधन के प्रति सक्रिय दृष्टिकोण का प्रदर्शन। नियंत्रण की कमी साबित करना या यह तर्क देना कि हानिकारक परिणाम वास्तव में अप्रत्याशित थे, ऐसे आरोपों से बचाव के लिए महत्वपूर्ण होगा।
यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम का आपराधिक दायित्व पर प्रभाव
हालांकि डच घरेलू कानून, जैसे कि कार्यात्मक प्रबंधन (functioneel daderschap) , दोषारोपण के लिए एक ढांचा प्रदान करता है, लेकिन एक व्यापक पहल - यूरोपीय संघ के कृत्रिम बुद्धिमत्ता अधिनियम - से परिदृश्य में नाटकीय परिवर्तन हो रहा है । यह केवल एक और नियमन नहीं है; यह एक व्यापक जोखिम-आधारित ढांचा है जिसे एकल बाजार में एआई प्रणालियों के विकास और तैनाती को नियंत्रित करने के लिए डिज़ाइन किया गया है।
कानूनी पेशेवरों और व्यवसायों के लिए, एआई अधिनियम को समझना बेहद ज़रूरी है क्योंकि यह नए अनुपालन कर्तव्यों का निर्माण करता है जिनका आपराधिक दायित्व पर सीधा असर पड़ता है। इसकी सख्त आवश्यकताओं का पालन न करने पर अभियोजक लापरवाही या लापरवाही के मज़बूत सबूत के तौर पर इसका इस्तेमाल कर सकते हैं, और जब एआई सिस्टम नुकसान पहुँचाता है तो आपराधिक आरोपों का आधार बन सकता है। यह कानून बातचीत को सिर्फ़ नुकसान पर प्रतिक्रिया देने से आगे बढ़कर उसे सक्रिय रूप से रोकने की ओर ले जाता है।
एआई अधिनियम एक स्पष्ट पदानुक्रम स्थापित करता है, जो सुरक्षा या मौलिक अधिकारों को नुकसान पहुँचाने की उनकी क्षमता के आधार पर एआई प्रणालियों को वर्गीकृत करता है। यह संरचना आपराधिक कानून से इसके संबंध को समझने की कुंजी है।
जोखिम श्रेणियों को समझना
इस अधिनियम का सबसे महत्वपूर्ण प्रभाव इसके स्तरीकृत दृष्टिकोण से आता है। यह सभी कृत्रिम बुद्धिमत्ता (AI) के साथ एक जैसा व्यवहार नहीं करता। इसके बजाय, यह प्रणालियों को श्रेणियों में बाँटता है, जिनमें से प्रत्येक के अलग-अलग कानूनी दायित्व होते हैं।
अस्वीकार्य जोखिम : ये ऐसी प्रणालियाँ हैं जिन्हें मौलिक अधिकारों के लिए इतना बड़ा खतरा माना जाता है कि उन पर पूर्णतः प्रतिबंध लगा दिया जाता है। उदाहरण के लिए, सरकार द्वारा संचालित सामाजिक स्कोरिंग प्रणाली या कानून प्रवर्तन एजेंसियों द्वारा सार्वजनिक स्थानों पर वास्तविक समय में बायोमेट्रिक पहचान (कुछ सीमित अपवादों के साथ)।
उच्च जोखिम : आपराधिक कानून के लिए यह सबसे महत्वपूर्ण श्रेणी है। इसमें संवेदनशील क्षेत्रों जैसे महत्वपूर्ण बुनियादी ढांचे, चिकित्सा उपकरण और, महत्वपूर्ण रूप से, कानून प्रवर्तन और न्याय प्रशासन में उपयोग की जाने वाली कृत्रिम बुद्धिमत्ता (एआई) शामिल है। भविष्यसूचक पुलिसिंग उपकरण और एआई-संचालित सजा सॉफ्टवेयर इस श्रेणी में आते हैं।
सीमित जोखिम : चैटबॉट जैसे इन सिस्टमों के लिए पारदर्शिता संबंधी दायित्व कम होते हैं। उपयोगकर्ताओं को केवल यह सूचित किया जाना चाहिए कि वे एक कृत्रिम बुद्धिमत्ता (एआई) के साथ बातचीत कर रहे हैं।
न्यूनतम जोखिम : इस श्रेणी में अधिकांश एआई अनुप्रयोग शामिल हैं, जैसे स्पैम फ़िल्टर या वीडियो गेम में एआई, जो काफी हद तक अनियमित हैं।
किसी सिस्टम को "अस्वीकार्य जोखिम" श्रेणी में रखना एक सीधा उल्लंघन है जो नुकसान पहुँचाने पर आसानी से आपराधिक लापरवाही के मामले का आधार बन सकता है। हालाँकि, मुख्य कानूनी लड़ाई उच्च जोखिम वाले सिस्टम के इर्द-गिर्द ही होगी।
उच्च जोखिम प्रणालियाँ और आपराधिक लापरवाही
उच्च जोखिम वाले एआई के लिए, अधिनियम कठोर आवश्यकताएँ लागू करता है जो देखभाल के कानूनी मानक के रूप में कार्य करती हैं। ये दायित्व सुझाव नहीं हैं; ये डेवलपर्स और परिनियोजनकर्ताओं के लिए अनिवार्य कर्तव्य हैं।
उच्च जोखिम वाली प्रणालियों के लिए प्रमुख आवश्यकताओं में पूर्वाग्रह को रोकने के लिए मजबूत डेटा प्रशासन, पूर्ण तकनीकी दस्तावेजीकरण, उपयोगकर्ताओं के लिए पूर्ण पारदर्शिता, हर समय मानवीय निगरानी सुनिश्चित करना तथा उच्च स्तर की सटीकता और साइबर सुरक्षा बनाए रखना शामिल है।
कल्पना कीजिए कि कोई कंपनी नस्लीय पूर्वाग्रह के लिए प्रशिक्षण डेटा की उचित जाँच किए बिना एक पूर्वानुमानित पुलिसिंग एल्गोरिदम लागू करती है—जो अधिनियम के डेटा प्रशासन नियमों का स्पष्ट उल्लंघन है। अगर इस पक्षपातपूर्ण प्रणाली के कारण गलत गिरफ्तारी होती है जिससे नुकसान होता है, तो अभियोजक के पास एक तैयार तर्क मौजूद है। वे कृत्रिम बुद्धिमत्ता अधिनियम के गैर-अनुपालन को कंपनी द्वारा उचित सावधानी बरतने में विफलता के प्रत्यक्ष प्रमाण के रूप में इंगित कर सकते हैं, जिससे कॉर्पोरेट लापरवाही का आरोप साबित करना बहुत आसान हो जाता है।
यूरोपीय संघ में लागू कृत्रिम बुद्धिमत्ता अधिनियम, जो फरवरी 2025 में नीदरलैंड्स में भी लागू हुआ, इस कानूनी परिदृश्य को मौलिक रूप से आकार देता है। इसका अनुपालन न करने पर 35 मिलियन यूरो तक या कुल वार्षिक कारोबार के 7% तक का भारी प्रशासनिक जुर्माना लगाया जा सकता है । डच सरकार ने संगठनों को प्रतिबंधित प्रणालियों की पहचान करने और उन्हें चरणबद्ध तरीके से बंद करने का आदेश दिया है, जो चेहरे की पहचान में त्रुटियों के कारण हुई गलत गिरफ्तारियों में देखी गई दोषपूर्ण कृत्रिम बुद्धिमत्ता पर गंभीर चिंताओं को दर्शाता है। जैसे-जैसे कानूनी विद्वान प्रतिवादियों को कृत्रिम बुद्धिमत्ता के साक्ष्यों को चुनौती देने के अधिक अधिकार देने की वकालत कर रहे हैं, यह अधिनियम अधिक कठोर न्यायिक जांच का मार्ग प्रशस्त कर रहा है। इन नए नियमों के बारे में अधिक जानकारी के लिए, आप कृत्रिम बुद्धिमत्ता अधिनियम के उन प्रतिबंधों का अध्ययन कर सकते हैं जो लागू हो चुके हैं ।
डच चाइल्डकैअर लाभ घोटाले से सबक
कानूनी सिद्धांत हमें एक ढांचा तो देते हैं, लेकिन एल्गोरिथम की विफलता के वास्तविक परिणामों को डच बाल देखभाल लाभ घोटाले ( टोस्लेगेनअफेयर) से बेहतर कोई उदाहरण नहीं मिलता । यह राष्ट्रीय संकट व्यवस्थागत अन्याय का एक भयावह उदाहरण है, जो किसी एक दुर्भावनापूर्ण व्यक्ति द्वारा नहीं, बल्कि एक अपारदर्शी, स्वचालित प्रणाली द्वारा संचालित है जो पूरी तरह से नियंत्रण से बाहर हो गई थी।
यह घोटाला उस विनाशकारी मानवीय कीमत को उजागर करता है जब जवाबदेही एक "ब्लैक बॉक्स" एल्गोरिथम में खो जाती है। कानूनी पेशेवरों के लिए, यह एक महत्वपूर्ण सबक है कि कैसे स्वचालित प्रणालियाँ, भले ही उन पर आपराधिक मुकदमा न चलाया गया हो, गहरा नुकसान पहुँचा सकती हैं और हमारी संस्थाओं में जनता का विश्वास तोड़ सकती हैं।
कैसे एल्गोरिदम ने हज़ारों लोगों पर झूठा आरोप लगाया
मूलतः, यह घोटाला डच कर एवं सीमा शुल्क प्रशासन द्वारा इस्तेमाल किए जाने वाले एक स्व-शिक्षण एल्गोरिथ्म के इर्द-गिर्द घूमता था। इसका काम बच्चों की देखभाल के लाभों के दावों में संभावित धोखाधड़ी का पता लगाना था। हालाँकि लक्ष्य तो सही था, लेकिन इस प्रणाली का आंतरिक तर्क बेहद दोषपूर्ण और अंततः भेदभावपूर्ण था।
एल्गोरिदम ने कुछ ऐसे मानदंडों के आधार पर हजारों परिवारों को गलत तरीके से जालसाज घोषित करना शुरू कर दिया जो हानिरहित होने चाहिए थे। हस्ताक्षर न होने जैसी एक छोटी सी प्रशासनिक चूक भी धोखाधड़ी की पूरी जांच शुरू करने के लिए काफी थी। इसके परिणाम 26,000 से अधिक परिवारों के लिए विनाशकारी साबित हुए , जिन्हें हजारों यूरो चुकाने का आदेश दिया गया, जिससे कई लोग आर्थिक रूप से बर्बाद हो गए।
यह स्थिति दर्शाती है कि कृत्रिम बुद्धिमत्ता अन्याय को किस प्रकार बढ़ा सकती है। कर अधिकारियों के एल्गोरिदम में मौजूद भेदभावपूर्ण पैटर्न ने विशिष्ट समूहों को अनुचित रूप से निशाना बनाया, जिससे गंभीर वित्तीय और सामाजिक क्षति हुई। राष्ट्रीय स्तर पर हुए विरोध के जवाब में, डच सरकार ने भविष्य में कृत्रिम बुद्धिमत्ता प्रणालियों में इस तरह के पूर्वाग्रहों को रोकने के लिए 2021 में 'डिजाइन द्वारा गैर-भेदभाव पर हैंडबुक' प्रकाशित की। डच कानून किस प्रकार कृत्रिम बुद्धिमत्ता के अनुरूप ढल रहा है, इस बारे में अधिक जानकारी आप globallegalinsights.com पर प्राप्त कर सकते हैं ।
पारदर्शिता और जवाबदेही में महत्वपूर्ण अंतराल
टोस्लेगन कांड ने स्वचालित निर्णय लेने की प्रक्रिया की कानूनी और नैतिक निगरानी में मौजूद कई महत्वपूर्ण कमियों को उजागर कर दिया। ये कमियां इस बात को समझने के लिए अत्यंत महत्वपूर्ण हैं कि किसी एल्गोरिदम का परिणाम कब उसके मानव संचालकों के लिए आपराधिक उत्तरदायित्व के प्रश्न खड़े कर सकता है।
तीन प्रमुख विफलताएं सामने आईं:
पारदर्शिता का अभाव : प्रभावित परिवारों को कभी भी यह स्पष्ट कारण नहीं बताया गया कि उन्हें क्यों चिह्नित किया गया। यह प्रणाली एक रहस्य थी, जिसके कारण उनके लिए इसके निष्कर्षों को चुनौती देना असंभव हो गया।
मानवीय निगरानी का अभाव : एल्गोरिदम के निर्णयों को अक्सर अचूक मान लिया जाता था। स्वचालित धोखाधड़ी वर्गीकरणों पर सवाल उठाने या उन्हें रद्द करने में मानवीय अधिकारियों की ओर से एक प्रणालीगत विफलता देखी गई।
दोषारोपण की पूर्वधारणा : एक बार जब प्रणाली किसी परिवार को संदिग्ध मान लेती थी, तो उन्हें दोषी मान लिया जाता था। इससे सबूत का बोझ उलट जाता था, जिससे उन्हें एक अदृश्य अभियोक्ता के खिलाफ अपनी निर्दोषता साबित करने के लिए एक असंभव लड़ाई लड़नी पड़ती थी।
यह घोटाला इस बात की कड़ी याद दिलाता है कि जब कोई स्वचालित प्रणाली जीवन बदल देने वाला फैसला लेती है, तो "स्पष्टीकरण का अधिकार" कोई विलासिता नहीं है—यह न्याय का एक मूलभूत घटक है। इसके बिना, कोई सार्थक अपील नहीं हो सकती।
ऐसे आरोपों का सामना करने वाले किसी भी व्यक्ति के लिए, कानूनी ढांचे को समझना अत्यंत महत्वपूर्ण है। धोखाधड़ी के प्रति डच दृष्टिकोण जटिल है, और यह घोटाला विशेषज्ञ मार्गदर्शन की आवश्यकता को रेखांकित करता है। धोखाधड़ी और वित्तीय अपराध के प्रति डच कानूनी दृष्टिकोण के बारे में अधिक जानने के लिए हमारा लेख पढ़ें ।
परिणाम: विनियमन के लिए एक प्रयास
हालांकि किसी एल्गोरिदम पर मुकदमा नहीं चलाया गया, लेकिन इसके मानवीय और राजनीतिक परिणाम बहुत व्यापक थे। इसके चलते 2021 में पूरी डच सरकार को इस्तीफा देना पड़ा । यह घोटाला बदलाव का एक शक्तिशाली उत्प्रेरक बन गया, जिसने सार्वजनिक प्रशासन में एआई के उपयोग के लिए सख्त दिशानिर्देशों के विकास को सीधे तौर पर प्रभावित किया।
इसने साबित कर दिया कि संहिता के विरुद्ध आपराधिक आरोप न होने पर भी, एक त्रुटिपूर्ण, पक्षपाती प्रणाली को लापरवाही से लागू करने के परिणाम व्यापक संस्थागत लापरवाही के बराबर हो सकते हैं। यह चेतावनीपूर्ण कहानी अब यूरोपीय संघ के कृत्रिम बुद्धि अधिनियम सहित पूरे यूरोप में नियामक चर्चाओं को प्रभावित करती है, जिससे यह सुनिश्चित होता है कि पारदर्शिता, निष्पक्षता और मानवीय निगरानी भविष्य में किसी भी कृत्रिम बुद्धि के परिनियोजन में सर्वोपरि हों।
जब एआई शामिल हो तो रक्षा रणनीतियाँ
जब किसी मुवक्किल पर एआई सिस्टम की किसी हरकत के कारण आपराधिक आरोप लगते हैं, तो उनके कानूनी सलाहकार को एक चुनौतीपूर्ण नई दुनिया में कदम रखना पड़ता है। मानक कानूनी प्रक्रिया पर बड़े पैमाने पर पुनर्विचार की आवश्यकता है। एक ठोस बचाव पक्ष को मानवीय इरादे या लापरवाही के लिए अभियोजन पक्ष के मामले को अलग-अलग करने पर ध्यान केंद्रित करना होता है, और इसका मतलब अक्सर एल्गोरिथम की अपनी स्वायत्त और कभी-कभी अप्रत्याशित प्रकृति पर ध्यान केंद्रित करना होता है।
किसी भी अभियोजक के लिए सबसे बड़ी चुनौती यह साबित करना होता है कि किसी जटिल एल्गोरिदम के कारण हुए नुकसान में किसी इंसान का आपराधिक इरादा ( मेंस रिया ) स्पष्ट था। बचाव पक्ष को यहीं पर अपनी बात रखने का सबसे अच्छा मौका मिलता है। उनका लक्ष्य यह साबित करके उचित संदेह पैदा करना होता है कि एआई के स्वतंत्र निर्णय के लिए इंसान के पास न तो पर्याप्त नियंत्रण था और न ही दूरदर्शिता, जिसके आधार पर उसे आपराधिक रूप से जिम्मेदार ठहराया जा सके।
ब्लैक बॉक्स डिफेंस के साथ इरादे को चुनौती देना
उपलब्ध सबसे मजबूत तर्कों में से एक "ब्लैक बॉक्स" बचाव है । यह रणनीति इस तथ्य पर आधारित है कि कई उन्नत एआई सिस्टम, विशेष रूप से डीप लर्निंग या न्यूरल नेटवर्क पर आधारित सिस्टम, स्वाभाविक रूप से अपारदर्शी होते हैं। तर्क सीधा है: यदि सिस्टम बनाने वाले ही यह पूरी तरह से नहीं समझा सकते कि वे किसी विशेष निष्कर्ष पर कैसे पहुँचे, तो उपयोगकर्ता से यह अपेक्षा कैसे की जा सकती है कि उसने किसी आपराधिक परिणाम का पूर्वानुमान लगाया होगा और उसे अंजाम देने का इरादा किया होगा?
यह बचाव सीधे इरादे की ज़रूरत के मूल में जाता है। वकील यह तर्क दे सकते हैं कि एआई की हानिकारक कार्रवाई एक अप्रत्याशित, आकस्मिक व्यवहार थी—एक तरह का डिजिटल संयोग, न कि कोई सुनियोजित आपराधिक कृत्य। एआई जितना जटिल और स्वायत्त होगा, यह तर्क उतना ही ज़्यादा मज़बूत होगा।
इस बचाव को कारगर बनाने के लिए, आपको अपने पक्ष में सही विशेषज्ञों की आवश्यकता है।
डिजिटल फोरेंसिक विशेषज्ञ : वे एआई के कोड, डेटा लॉग और निर्णय लेने की प्रक्रिया में गहराई से जाकर उस सटीक बिंदु का पता लगा सकते हैं जहां यह अपने अपेक्षित व्यवहार से विचलित हुआ।
एआई नीतिशास्त्री और कंप्यूटर वैज्ञानिक : ये विशेषज्ञ कुछ एआई मॉडलों की अंतर्निहित अप्रत्याशितता के बारे में गवाही दे सकते हैं। वे अदालत को समझा सकते हैं कि कोई "असामान्य" परिणाम तकनीकी विफलता थी, न कि प्रतिवादी की इच्छा का परिणाम।
घटना को एक अप्रत्याशित खराबी के रूप में प्रस्तुत करके, बचाव पक्ष प्रभावी ढंग से यह तर्क दे सकता है कि दोषसिद्धि के लिए आवश्यक "दोषी मन" मौजूद ही नहीं है।
नियंत्रण की कमी या दोषपूर्ण चूक साबित करना
एक अन्य प्रभावी रणनीति प्रभावी नियंत्रण के अभाव का तर्क देना है । डच कानूनी सिद्धांत ' फंक्शनल परपेट्रेशन ' (कार्यात्मक अपराध) के तहत, दायित्व के लिए यह आवश्यक है कि प्रतिवादी के पास कार्रवाई को नियंत्रित करने की शक्ति रही हो। बचाव पक्ष यह साबित करके इस सिद्धांत का खंडन कर सकता है कि एक बार एआई के चालू हो जाने के बाद, इसने इतनी स्वायत्तता के साथ काम किया कि इसकी कार्रवाई प्रतिवादी के प्रत्यक्ष प्रभाव से बाहर हो गई।
इसमें यह दिखाना शामिल हो सकता है कि सिस्टम को वास्तविक समय में सीखने और अनुकूलन के लिए डिज़ाइन किया गया था, जिससे इसका व्यवहार परिवर्तनशील हो और पूरी तरह से पूर्वानुमानित न हो। बचाव पक्ष का पक्ष यह है कि प्रतिवादी को उस कार्रवाई के लिए ज़िम्मेदार नहीं ठहराया जा सकता जिसका न तो वे सीधे आदेश दे सकते थे और न ही उसे उचित रूप से रोक सकते थे।
इस बचाव का मूल उद्देश्य मानवीय दोष के बजाय तकनीकी स्वायत्तता की ओर कहानी को मोड़ना है। यह प्रतिवादी को अपराधी के रूप में नहीं, बल्कि व्यवस्था के अप्रत्याशित तर्क का शिकार बताता है।
जब किसी कृत्रिम बुद्धिमत्ता (एआई) की कार्रवाइयों से आपराधिक दायित्व उत्पन्न हो सकता है, तो मजबूत एआई एजेंट सुरक्षा उपायों का होना न केवल एक महत्वपूर्ण निवारक कदम है, बल्कि एक मजबूत बचाव का भी अहम हिस्सा है। यह साबित करना कि इस तरह के अत्याधुनिक सुरक्षा उपाय लागू किए गए थे, इस तर्क को मजबूती प्रदान कर सकता है कि प्रतिवादी ने हानिकारक परिणाम के जोखिम को लापरवाही से स्वीकार नहीं किया था।
अंततः, निष्पक्ष बचाव का अधिकार सर्वोपरि है, यहाँ तक कि तकनीकी रूप से जटिल मामलों में भी। किसी भी मानव-केंद्रित अपराध की तरह ही, प्रतिवादी को मूलभूत सुरक्षा प्राप्त है। इन मूल सिद्धांतों को व्यापक संदर्भ में समझने के लिए, आप आपराधिक मामलों में चुप रहने के अधिकार और डच कानून में इसके अनुप्रयोग के बारे में अधिक जानकारी प्राप्त कर सकते हैं।
एआई का उपयोग करने वाले व्यवसायों के लिए एक व्यावहारिक अनुपालन रोडमैप
कानूनी सिद्धांतों को जानना एक बात है, लेकिन वास्तव में एक ठोस अनुपालन ढाँचा तैयार करना एक अलग ही चुनौती है। नीदरलैंड और पूरे यूरोपीय संघ में एआई का उपयोग करने वाले व्यवसायों के लिए, आपराधिक दायित्व के जोखिम को प्रबंधित करने का सबसे अच्छा तरीका सक्रिय प्रशासन और यह दिखाना है कि आपने अपना काम ठीक से किया है। एक स्पष्ट रोडमैप ज़रूरी है।
इसका मतलब नवाचार को दबाना नहीं है। इसका मतलब है अपनी कंपनी, अपने ग्राहकों और अपनी प्रतिष्ठा की रक्षा के लिए स्मार्ट सुरक्षा उपाय लागू करना। एक मज़बूत आंतरिक ढाँचा बनाकर, आप किसी भी लापरवाही या लापरवाही के दावों के ख़िलाफ़ एक मज़बूत सुरक्षा भी तैयार कर रहे हैं, अगर कोई AI सिस्टम कभी अप्रत्याशित नुकसान पहुँचाता है।
अपने AI गवर्नेंस फाउंडेशन का निर्माण
सबसे पहले, आपको निगरानी और जवाबदेही के लिए एक स्पष्ट ढांचा चाहिए। यह सिर्फ आईटी से जुड़ी समस्या नहीं है; यह एक मूलभूत व्यावसायिक जिम्मेदारी है जिसके लिए आपकी कानूनी, अनुपालन और कार्यकारी टीमों का पूरा समर्थन आवश्यक है। मजबूत एआई गवर्नेंस की सर्वोत्तम पद्धतियों को अपनाना जोखिमों के प्रबंधन और यह सुनिश्चित करने के लिए एक महत्वपूर्ण कदम है कि आपके एआई का उपयोग कानूनी और नैतिक रूप से किया जाए।
आपका शासन मॉडल कुछ प्रमुख स्तंभों पर आधारित होना चाहिए:
मानवीय हस्तक्षेप द्वारा निगरानी : किसी भी महत्वपूर्ण निर्णय के लिए, अंतिम निर्णय किसी मनुष्य का होना आवश्यक है। इस व्यक्ति या टीम के पास हस्तक्षेप करने, सुधार करने या एआई के सुझावों को पूरी तरह से खारिज करने का अधिकार और तकनीकी जानकारी होनी चाहिए।
जवाबदेही की स्पष्ट रूपरेखा : आपको एआई सिस्टम के विकास और डेटा जुटाने से लेकर तैनाती और निरंतर निगरानी तक, हर चरण में यह स्पष्ट रूप से परिभाषित करना होगा कि इसके लिए कौन जिम्मेदार है। इसमें किसी भी प्रकार की अस्पष्टता से गंभीर कानूनी जोखिम उत्पन्न हो सकते हैं।
नियमित एल्गोरिथम ऑडिट : जिस प्रकार आप अपनी कंपनी के वित्त का ऑडिट करते हैं, उसी प्रकार आपको अपने एआई सिस्टम का भी नियमित ऑडिट करना होगा। ये ऑडिट स्वतंत्र तृतीय पक्षों द्वारा किए जाने चाहिए ताकि प्रदर्शन, निष्पक्षता और यूरोपीय संघ एआई अधिनियम जैसे नियमों के अनुपालन की जाँच की जा सके।
व्याख्यात्मकता और डेटा अखंडता पर जोर देना
अगर आप यह नहीं बता सकते कि आपका सिस्टम कैसे काम करता है, तो आप अदालत में उसका बचाव नहीं कर सकते। "ब्लैक बॉक्स" समस्या एक बहुत बड़ी कानूनी कमज़ोरी है, जो पारदर्शिता के लिए डिज़ाइनिंग को बेहद ज़रूरी बना देती है।
डिजाइन में स्पष्टता एक ऐसा सिद्धांत होना चाहिए जिस पर कोई समझौता न हो। आपकी तकनीकी टीमों को ऐसी प्रणालियाँ बनानी होंगी जहाँ निर्णय लेने की प्रक्रिया को दस्तावेजीकृत किया जा सके, समझा जा सके और न्यायाधीशों और नियामकों जैसे गैर-तकनीकी लोगों को समझाया जा सके।
यह सब आपके मॉडलों को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा से शुरू होता है। सावधानीपूर्वक डेटा प्रबंधन पूर्वाग्रह के विरुद्ध आपकी सबसे अच्छी सुरक्षा है—जो एल्गोरिथम संबंधी नुकसान का एक प्रमुख स्रोत है। सुनिश्चित करें कि आपका डेटा उच्च-गुणवत्ता वाला, प्रासंगिक हो और उन लोगों का उचित प्रतिनिधित्व करता हो जिन्हें यह प्रभावित करेगा। एक स्पष्ट ऑडिट ट्रेल बनाने के लिए डेटा के स्रोत, सफाई और प्रसंस्करण के हर चरण का दस्तावेज़ीकरण करें। यह दस्तावेज़ीकरण इस बात का अमूल्य प्रमाण है कि आपने उचित परिश्रम किया है।
यूरोपीय संघ एआई अधिनियम अनुपालन चेकलिस्ट
यूरोपीय संघ का कृत्रिम बुद्धि अधिनियम सक्रिय जोखिम प्रबंधन पर केंद्रित है, खासकर उच्च-जोखिम प्रणालियों के लिए। आपकी अनुपालन रणनीति में सुरक्षा और निष्पक्षता के प्रति निरंतर प्रतिबद्धता दर्शानी होगी।
एक व्यावहारिक चेकलिस्ट में निम्नलिखित शामिल होना चाहिए:
जोखिम वर्गीकरण : अधिनियम की जोखिम श्रेणियों के अनुसार आपकी कंपनी द्वारा उपयोग किए जाने वाले प्रत्येक एआई सिस्टम को औपचारिक रूप से वर्गीकृत करें।
प्रभाव आकलन : किसी भी उच्च जोखिम वाली एआई को तैनात करने से पहले, डेटा सुरक्षा प्रभाव आकलन (डीपीआईए) और मौलिक अधिकार प्रभाव आकलन (एफआरआईए) आयोजित करें और उनका दस्तावेजीकरण करें।
तकनीकी दस्तावेज : नियामकों द्वारा मांगे जाने पर उन्हें उपलब्ध कराने के लिए विस्तृत और अद्यतन तकनीकी दस्तावेज तैयार रखें।
निरंतर निगरानी : एआई के प्रदर्शन पर नजर रखने और इसके परिनियोजन के बाद सामने आने वाले किसी भी अप्रत्याशित जोखिम को पकड़ने के लिए बाजार में आने के बाद की निगरानी के लिए प्रक्रियाएं स्थापित करें।
कृत्रिम बुद्धिमत्ता और आपराधिक दायित्व के बारे में अक्सर पूछे जाने वाले प्रश्न
क्या किसी कंपनी को आपराधिक रूप से उत्तरदायी ठहराया जा सकता है यदि उसका AI भेदभाव करता है?
जी हां, बिलकुल हो सकता है। भले ही कोई एआई सिस्टम सीधे कटघरे में खड़ा न हो, लेकिन इसे इस्तेमाल करने वाली कंपनी डच कॉर्पोरेट आपराधिक दायित्व सिद्धांतों के तहत भेदभावपूर्ण परिणामों के लिए आपराधिक आरोपों का सामना कर सकती है। यदि कंपनी के नेतृत्व को एआई की पक्षपातपूर्ण क्षमता के बारे में पता था और उन्होंने कुछ नहीं किया, या यदि वे अपनी निगरानी में घोर लापरवाही बरतते हैं, तो आपराधिक आरोप लगने की प्रबल संभावना है। यूरोपीय संघ का एआई अधिनियम उच्च जोखिम वाले सिस्टमों के लिए सख्त पक्षपात-विरोधी नियम भी निर्धारित करता है। इन मानकों को पूरा करने में विफलता किसी भी आपराधिक मामले में लापरवाही का पुख्ता सबूत होगी। एआई के निर्माण, प्रशिक्षण और तैनाती से जुड़े मानवीय निर्णयों पर ही कानूनी ध्यान केंद्रित रहेगा।
एआई में ब्लैक बॉक्स समस्या क्या है?
"ब्लैक बॉक्स" समस्या उन जटिल कृत्रिम बुद्धिमत्ता (एआई) मॉडलों के लिए इस्तेमाल किया जाने वाला शब्द है, जिनमें इन्हें बनाने वाले भी यह पूरी तरह से पता नहीं लगा पाते कि किसी विशिष्ट परिणाम तक कैसे पहुंचा गया। एआई और आपराधिक कानून के टकराव में यह एक गंभीर समस्या बन जाती है। अदालत में, यह बचाव का आधार बन सकता है। एक वकील यह तर्क दे सकता है कि हानिकारक परिणाम पूरी तरह से अप्रत्याशित था, जिसका अर्थ है कि प्रतिवादी के पास आवश्यक आपराधिक इरादा (मेंस रिया) नहीं था। तर्क सीधा है: वे ऐसे परिणाम का इरादा कैसे कर सकते थे जिसकी भविष्यवाणी करना उनके लिए संभव ही नहीं था? लेकिन अभियोजकों के पास इसका जोरदार जवाब होता है। वे तर्क दे सकते हैं कि उचित सुरक्षा उपायों के बिना एक शक्तिशाली, अप्रत्याशित प्रणाली को तैनात करना अपने आप में लापरवाही या घोर उपेक्षा का कार्य है। और यह आपराधिक दायित्व के लिए आवश्यक मानसिक तत्व को पूरा करने के लिए पर्याप्त हो सकता है। यह पूर्वानुमान और देखभाल के कर्तव्य को लेकर एक उच्च स्तरीय कानूनी लड़ाई का मंच तैयार करता है।
डेवलपर्स के लिए कानूनी जोखिम को सीमित करने का सबसे अच्छा तरीका क्या है?
कानूनी जोखिम से बचने के लिए डेवलपर्स जो सबसे प्रभावी काम कर सकते हैं, वह है AI के विकास के हर चरण में सटीक और पारदर्शी दस्तावेज़ीकरण करना। इसे एक विस्तृत "ऑडिट ट्रेल" की तरह समझें, जो आपके लिए सबसे महत्वपूर्ण सबूत साबित हो सकता है। इस दस्तावेज़ीकरण में शुरुआत से अंत तक सब कुछ शामिल होना चाहिए: डेटा स्रोत: प्रशिक्षण डेटा कहाँ से आया, और इसकी गुणवत्ता और पूर्वाग्रह की जाँच कैसे की गई?; पूर्वाग्रह निवारण: डेटासेट से पूर्वाग्रहों को खोजने और हटाने के लिए कौन से विशिष्ट कदम उठाए गए?; डिज़ाइन का तर्क: प्रमुख आर्किटेक्चरल विकल्पों और एल्गोरिदम के पीछे क्या तर्क था?; परीक्षण परिणाम: प्रत्येक परीक्षण रन का पूरा रिकॉर्ड, जिसमें विफलताएँ और उन्हें ठीक करने का तरीका शामिल है। मानवीय निगरानी के लिए एक स्पष्ट ढाँचा तैयार करना भी उतना ही महत्वपूर्ण है। यदि कभी कोई जाँच होती है, तो यह दस्तावेज़ उचित सावधानी का अकाट्य प्रमाण बन जाता है। यह दर्शाता है कि कोई भी नुकसान वास्तव में एक अप्रत्याशित दुर्घटना थी, न कि लापरवाही का परिणाम—और यही एक ठोस कानूनी बचाव का आधार बनता है।
क्या मौजूदा डच और यूरोपीय संघ के कानून के तहत किसी एल्गोरिदम को अपराध के लिए आपराधिक रूप से जिम्मेदार ठहराया जा सकता है?
नहीं। वर्तमान कानून के तहत किसी एल्गोरिदम को आपराधिक रूप से उत्तरदायी नहीं ठहराया जा सकता। आपराधिक इरादे (मेंस रिया) और कानूनी व्यक्तित्व जैसी मूलभूत कानूनी अवधारणाएं केवल मनुष्यों और कुछ विशेष परिस्थितियों में निगमों के लिए आरक्षित हैं।
किसी कृत्रिम बुद्धिमत्ता प्रणाली को किसी व्यक्ति की तरह मुकदमे के दायरे में क्यों नहीं लाया जा सकता?
एक एल्गोरिदम में मुकदमे का सामना करने के लिए आवश्यक मूलभूत लक्षण नहीं होते हैं: इसमें चेतना नहीं होती, जब्त करने योग्य कोई व्यक्तिगत संपत्ति नहीं होती, और ऐसी कोई स्वतंत्रता नहीं होती जिसे छीना जा सके, एक प्राकृतिक व्यक्ति या कानूनी व्यक्ति के रूप में मान्यता प्राप्त निगम के विपरीत।
क्या इसका मतलब यह है कि आपराधिक मामलों में एआई का कोई महत्व नहीं है?
नहीं, बिलकुल इसके विपरीत। भले ही एल्गोरिदम स्वयं दोषी न हो, लेकिन इसके कार्य उन लोगों के अपराध या निर्दोषता को साबित करने में महत्वपूर्ण भूमिका निभा रहे हैं जो इसे बनाते हैं, तैनात करते हैं और इसकी निगरानी करते हैं।
एआई सिस्टम पर किस कानूनी अवधारणा को लागू करना सबसे कठिन है?
आपराधिक इरादे (मेंस रिया) को साबित करना विशेष रूप से कठिन है, क्योंकि अभियोजकों को आमतौर पर दोषी मानसिकता जैसे कि इरादा, लापरवाही या गलत काम का ज्ञान साबित करना होता है, जबकि एक एल्गोरिदम केवल अपनी प्रोग्रामिंग और डेटा इनपुट के आधार पर काम करता है और उसमें चेतना, विश्वास या इच्छाओं का अभाव होता है।
