जब कोई AI सिस्टम किसी अपराध में फंस जाता है, तो कानून मशीन पर उंगली नहीं उठाता। आपराधिक दायित्व का पता मानव कर्ता से लगाया जाता हैचाहे वह उपयोगकर्ता हो, प्रोग्रामर हो या निर्माता हो - या तो उनका AI के कार्यों पर नियंत्रण था या वे इससे होने वाले नुकसान को रोकने में विफल रहे।

एआई और आपराधिक उत्तरदायित्व को सुलझाना

कल्पना कीजिए: एक कृत्रिम बुद्धिमत्ता (AI) से संचालित डिलीवरी ड्रोन अपने निर्धारित मार्ग से भटक जाता है और एक गंभीर दुर्घटना का कारण बनता है। आपराधिक मुकदमें विचाराधीन हैं। लेकिन असल में ज़िम्मेदार कौन है?

अदालतें ड्रोन पर सीधे मुकदमा नहीं चला सकतीं। हमारी पूरी न्याय व्यवस्था मानवीय मंशा और कार्रवाई के इर्द-गिर्द बुनी गई है। यह बुनियादी मुद्दा हमें एल्गोरिथ्म की परतों को उधेड़कर उस व्यक्ति को खोजने के लिए मजबूर करता है जिसके फैसलों—या लापरवाही—के कारण यह हानिकारक परिणाम सामने आए।

आपराधिक न्याय का केंद्रीय स्तंभ कानून की अवधारणा है आपराधिक मनःस्थिति, या "दोषी मन"। किसी अपराध का दोषी पाए जाने के लिए, व्यक्ति की मनःस्थिति दोषी होनी चाहिए, चाहे वह जानबूझकर, लापरवाही से या लापरवाही से किया गया हो। एक कृत्रिम बुद्धि (AI), चाहे कितनी भी परिष्कृत क्यों न हो, उसमें चेतना, भावनाएँ या वास्तविक इरादे की क्षमता नहीं होती। यह कोड और डेटा पर चलती है, किसी नैतिक दिशासूचक पर नहीं।

चूँकि एआई "दोषी मन" नहीं बना सकता, इसलिए मौजूदा कानूनी ढाँचों के तहत उसे आपराधिक रूप से उत्तरदायी नहीं ठहराया जा सकता। ध्यान हमेशा उपकरण (एआई) से हटकर उपकरण के उपयोगकर्ता या निर्माता पर केंद्रित हो जाता है।

यह मोड़ एआई के जीवनचक्र में शामिल लोगों पर कानूनी रूप से प्रकाश डालता है। एआई और आपराधिक ज़िम्मेदारी को ठीक से समझने के लिए, यह समझना ज़रूरी हो रहा है कि लोग इन प्रणालियों को कैसे निर्देशित करते हैं, जिसमें निम्नलिखित चीज़ें शामिल हैं: त्वरित इंजीनियरिंग की पेचीदगियाँ.

मशीन के पीछे के इंसान की पहचान

जब कोई अदालत एआई से जुड़े किसी अपराध की जाँच करती है, तो उसका पहला काम मानवीय एजेंसियों की पूरी श्रृंखला का पता लगाना और यह तय करना होता है कि असली ज़िम्मेदारी किसकी है। मामले की बारीकियों के आधार पर, कई अलग-अलग पक्ष ज़िम्मेदार हो सकते हैं।

यह स्पष्ट करने के लिए कि दायित्व कहां हो सकता है, नीचे दी गई तालिका प्रमुख मानवीय कर्ताओं और उन्हें जिम्मेदार ठहराने के कानूनी तर्क को रेखांकित करती है।

एआई कार्यों के लिए मानवीय जवाबदेही का मानचित्रण

जैसा कि आप देख सकते हैं, दायित्व के लिए उम्मीदवार आम तौर पर कुछ प्रमुख श्रेणियों में आते हैं। हालाँकि तकनीक नई है, लेकिन कानूनी सिद्धांत अक्सर सुस्थापित होते हैं।

अंततः, कानून एक सरल, मूलभूत प्रश्न का उत्तर देने का प्रयास कर रहा है: किस व्यक्ति के पास अपराध को रोकने की शक्ति और अवसर था? उस व्यक्ति की पहचान करके, कानूनी व्यवस्था आपराधिक उत्तरदायित्व के स्थापित सिद्धांतों को लागू कर सकती है, भले ही मामला आज की सबसे जटिल तकनीक से जुड़ा हो।

आधुनिक एआई अपराधों पर पारंपरिक कानूनों को लागू करना

जब किसी अपराध में एआई जैसी बिल्कुल नई तकनीक शामिल होती है, तो आपको लग सकता है कि हमारी सदियों पुरानी न्याय व्यवस्थाएँ पूरी तरह से तैयार नहीं हैं। लेकिन असल में, अदालतें बिल्कुल नए सिरे से शुरुआत नहीं कर रही हैं। वे मौजूदा कानूनी सिद्धांतों को इस तरह ढाल रही हैं कि पता लगाया जा सके कि जब कोई मशीन अपराध करती है तो कौन ज़िम्मेदार है, और इस तरह "पर्दे के पीछे छिपे इंसान" की तलाश कर रही हैं।

इस दृष्टिकोण का अर्थ है पारंपरिक आपराधिक कानून के गोल छेद में एआई की चौकोर खूँटी फिट करना। एआई के लिए पूरी तरह से नए कानून बनाने के बजाय, न्यायिक प्रणाली उन लोगों पर ज़िम्मेदारी के स्थापित सिद्धांतों को लागू करती है जो इन बुद्धिमान प्रणालियों का निर्माण, उपयोग और नियंत्रण करते हैं। ध्यान पूरी तरह से मानवीय एजेंसी पर केंद्रित रहता है, तब भी जब कोई एल्गोरिदम इन कार्यों को अंजाम देता है।

कार्यात्मक अपराध का सिद्धांत

इस अंतर को पाटने के लिए, विशेष रूप से नीदरलैंड जैसे क्षेत्राधिकारों में, एक प्रमुख अवधारणा का उपयोग किया जाता है कार्यात्मक अपराधइसे इस तरह से सोचें: अगर कोई अपराध करने के लिए हथौड़े का इस्तेमाल करता है, तो हम हथौड़े को नहीं, बल्कि उस व्यक्ति को ज़िम्मेदार ठहराते हैं। कार्यात्मक अपराध इस तर्क को कृत्रिम बुद्धिमत्ता (एआई) सहित अत्यधिक उन्नत उपकरणों तक विस्तारित करता है।

इस सिद्धांत के तहत, किसी व्यक्ति को एआई द्वारा किए गए अपराध का "कार्यात्मक अपराधी" माना जा सकता है, बशर्ते उसके पास मशीन के आचरण को निर्धारित करने की शक्ति हो और वह अपराध होने के जोखिम को स्वीकार करता हो। यह ढाँचा महत्वपूर्ण है क्योंकि कई मामलों में, डच कानून में एआई प्रणालियों के लिए कोई विशिष्ट आपराधिक दायित्व प्रावधान नहीं हैं। इसके बजाय, एआई से संबंधित दायित्व से निपटने के लिए सामान्य ढाँचों का उपयोग किया जाता है, जिसमें कार्यात्मक अपराध किसी व्यक्ति को ज़िम्मेदारी सौंपने का एक प्राथमिक साधन होता है।

इसका अर्थ यह है कि कानून दो प्रमुख तत्वों पर ध्यान देता है:

1. शक्ति: क्या उस व्यक्ति के पास AI के कार्यों को नियंत्रित करने या रोकने का अधिकार या क्षमता थी?
2. स्वीकृति: क्या उन्होंने सचेत रूप से इस जोखिम को स्वीकार किया कि एआई का व्यवहार आपराधिक परिणाम की ओर ले जा सकता है?

यदि आप दोनों प्रश्नों का उत्तर "हां" में दे सकते हैं, तो AI के पीछे के व्यक्ति को आपराधिक रूप से उत्तरदायी ठहराया जा सकता है, जैसे कि उन्होंने स्वयं ही यह कृत्य किया हो।

कॉर्पोरेट आपराधिक दायित्व

ज़िम्मेदारी की तलाश सिर्फ़ व्यक्तियों तक ही सीमित नहीं है। जब किसी कंपनी द्वारा तैनात कोई AI सिस्टम नुकसान पहुँचाता है, तो पूरे संगठन को इस सिद्धांत के तहत जवाबदेह ठहराया जा सकता है: कॉर्पोरेट आपराधिक दायित्व.

यह तब लागू होता है जब किसी अपराध के लिए कंपनी की संस्कृति, नीतियों या समग्र लापरवाही को ज़िम्मेदार ठहराया जा सकता है। उदाहरण के लिए, अगर कोई कंपनी घटिया सुरक्षा परीक्षण के साथ एक एआई-संचालित वित्तीय ट्रेडिंग बॉट बाज़ार में उतारती है और वह बाज़ार में हेरफेर करता है, तो कंपनी पर भी आपराधिक आरोप लग सकते हैं।

यहाँ कानूनी तर्क यह है कि एआई की गतिविधियाँ संगठन के सामूहिक निर्णयों और प्राथमिकताओं को दर्शाती हैं। उचित निगरानी लागू करने में विफलता या लाभ को सुरक्षा से ऊपर रखने वाली कॉर्पोरेट संस्कृति, दायित्व के लिए पर्याप्त आधार हो सकती है।

इससे यह सुनिश्चित होता है कि कम्पनियां संभावित नुकसान की जिम्मेदारी से बचने के लिए अपने एल्गोरिदम के पीछे छिप नहीं सकेंगी। नीदरलैंड में कंप्यूटर और साइबर अपराध से संबंधित कानूनी ढांचा यह इस बात पर गहन दृष्टि डालता है कि डिजिटल अपराधों के लिए संगठनों को किस प्रकार उत्तरदायी ठहराया जाता है।

आपराधिक कानून में उत्पाद दायित्व

एक और सुस्थापित कानूनी रास्ता है उत्पाद की जिम्मेदारीहालांकि हम इसे आमतौर पर सिविल मामलों से जोड़ते हैं - जैसे कि एक खराब टोस्टर के कारण आग लग जाना - लेकिन इसके सिद्धांतों को आपराधिक संदर्भ में भी लागू किया जा सकता है।

अगर कोई निर्माता जानबूझकर या लापरवाही से किसी खतरनाक खामी वाले एआई उत्पाद को जारी करता है, और वह खामी सीधे तौर पर किसी अपराध का कारण बनती है, तो उसे आपराधिक रूप से ज़िम्मेदार ठहराया जा सकता है। एक ऐसे स्वायत्त सुरक्षा ड्रोन की कल्पना कीजिए जिसे एक आक्रामक "पीछा" एल्गोरिदम के साथ डिज़ाइन किया गया हो जो वास्तविक खतरों और निर्दोष राहगीरों के बीच अंतर नहीं कर सकता।

अगर निर्माता को इस खराबी के बारे में पता था, फिर भी उसने उत्पाद बेचा, और ड्रोन से किसी को चोट पहुँचती है, तो उस पर लापरवाही या लापरवाही का आपराधिक मुकदमा चलाया जा सकता है। यह निर्माताओं को उच्च मानकों पर रखता है, और उन्हें यह सुनिश्चित करने के लिए बाध्य करता है कि उनके एआई सिस्टम न केवल कार्यात्मक हों, बल्कि उनके इच्छित उपयोग और किसी भी संभावित दुरुपयोग के लिए यथोचित रूप से सुरक्षित भी हों। मूलतः, कानून यह पूछता है कि क्या आपराधिक परिणाम उत्पाद के डिज़ाइन का एक पूर्वानुमेय परिणाम था।

जब AI सिस्टम वास्तविक दुनिया को नुकसान पहुंचाते हैं

कानूनी सिद्धांत तब तक अमूर्त लग सकते हैं जब तक वे वास्तविकता से टकरा न जाएँ। जब कोई AI सिस्टम कोई गलती करता है, तो उसका नतीजा सिर्फ़ सैद्धांतिक नहीं होता—यह विनाशकारी भी हो सकता है, ज़िंदगी बर्बाद कर सकता है और जनता का भरोसा तोड़ सकता है। इस दांव को सही मायने में समझने के लिए, हमें अवधारणाओं से आगे बढ़कर एक ऐसे मामले पर गौर करना होगा जहाँ एक एल्गोरिथम के फ़ैसलों ने राष्ट्रीय संकट को जन्म दिया।

नीदरलैंड में बाल देखभाल लाभ घोटाले के साथ ठीक यही हुआ, जिसे 'बाल देखभाल लाभ घोटाला' के रूप में जाना जाता है। 'टोस्लागेनाफेयर'यह इस बात का एक स्पष्ट और सशक्त उदाहरण है कि कैसे कृत्रिम बुद्धिमत्ता, अगर खराब तरीके से डिज़ाइन की गई हो और अनियंत्रित छोड़ दी गई हो, तो भारी मानवीय पीड़ा का कारण बन सकती है। यह केस स्टडी इस पूरी बहस को आधार प्रदान करती है। एआई और आपराधिक कानून प्रणालीगत विफलता की एक मूर्त, अविस्मरणीय कहानी।

आपदा के लिए डिज़ाइन की गई प्रणाली

यह घोटाला डच कर अधिकारियों द्वारा इस्तेमाल किए गए एक स्व-शिक्षण एल्गोरिथ्म से शुरू हुआ। इसका लक्ष्य बहुत सरल था: बाल देखभाल लाभ प्राप्त करने वाले परिवारों में संभावित धोखाधड़ी का पता लगाना। हालाँकि, इसका क्रियान्वयन एक बड़ी आपदा थी। यह एल्गोरिथ्म पूरी तरह से एक "ब्लैक बॉक्स" था, और इसकी निर्णय लेने की प्रक्रिया उन अधिकारियों के लिए भी एक रहस्य थी जो इस पर निर्भर थे।

व्यक्तिगत मामलों का निष्पक्ष मूल्यांकन करने के बजाय, एल्गोरिथ्म ने हज़ारों अभिभावकों को धोखेबाज़ घोषित कर दिया, अक्सर छोटी-मोटी प्रशासनिक चूकों के लिए। इसके परिणाम त्वरित और क्रूर थे। परिवारों को दसियों हज़ार यूरो चुकाने का आदेश दिया गया, आमतौर पर बिना किसी स्पष्ट कारण या अपील का उचित अवसर दिए। लोगों ने अपने घर, अपनी नौकरियाँ और अपनी बचत खो दी। ज़िंदगियाँ तबाह हो गईं।

इस व्यवस्थागत खराबी ने एल्गोरिथम संबंधी पूर्वाग्रह और अस्पष्ट निर्णय प्रक्रिया के छिपे खतरों को उजागर कर दिया। यह सिर्फ़ एक तकनीकी गड़बड़ी नहीं थी; यह दोषपूर्ण तकनीक और निगरानी की कमी से उपजी एक मानवीय आपदा थी।

'टोएस्लेगेनाफेयर' इस बात का एक कुख्यात उदाहरण बन गया कि कैसे स्व-शिक्षण एआई पक्षपातपूर्ण, गलत निर्णय ले सकता है जिसके वास्तविक दुनिया में गंभीर परिणाम हो सकते हैं। इसके जवाब में, डच सरकार ने 2008 में 'डिज़ाइन द्वारा भेदभाव न करने पर हैंडबुक' प्रकाशित की। 2021, इस तरह की आपदा को फिर से होने से रोकने के लिए अधिक एल्गोरिदम पारदर्शिता और मौलिक अधिकारों के अनुपालन पर जोर दिया जा रहा है।

उत्तरदायित्व का अनुत्तरित प्रश्न

इस घोटाले ने एक दर्दनाक राष्ट्रीय बहस को जन्म दिया: जब किसी मशीन के कार्यों से इतना व्यापक नुकसान होता है, तो असल में ज़िम्मेदार कौन है? आप किसी एल्गोरिथम को परीक्षण के दायरे में नहीं ला सकते, फिर भी उसके निर्णयों ने निर्विवाद क्षति पहुँचाई। इसने जो कानूनी और नैतिक प्रश्न उठाए, वे अब एआई शासन के भविष्य के लिए केंद्रीय हैं।

• एल्गोरिथम पूर्वाग्रह: ऐसा प्रतीत होता है कि यह प्रणाली दोहरी राष्ट्रीयता वाले परिवारों को असमान रूप से लक्षित करती है, जिससे भेदभाव पर गंभीर प्रश्न उठते हैं। क्या कोई एल्गोरिथम भेदभावपूर्ण हो सकता है, और ऐसा होने पर कौन उत्तरदायी है?
• पारदर्शिता की कमी: अधिकारी स्पष्ट नहीं कर सके क्यों एल्गोरिथम ने कुछ परिवारों को चिह्नित कर दिया, जिससे पीड़ितों के लिए अपना बचाव करना असंभव हो गया। इस स्पष्टता की कमी ने सिस्टम की खामियों को किसी भी वास्तविक जाँच से बचा लिया।
• मानव त्याग: शायद सबसे ज़्यादा परेशान करने वाला "स्वचालन पूर्वाग्रह" का स्पष्ट मामला था—लोगों द्वारा स्वचालित प्रणालियों पर ज़रूरत से ज़्यादा भरोसा करने और उनके परिणामों को आँख मूँदकर स्वीकार करने की प्रवृत्ति। सरकारी अधिकारियों ने एल्गोरिथम के फ़ैसलों पर भरोसा किया, जिससे ग़लत आरोपों की झड़ी लग गई।

हालाँकि इस मामले के मुख्यतः प्रशासनिक और नागरिक परिणाम हुए, लेकिन यह जवाबदेही की उन्हीं कमियों को उजागर करता है जो आपराधिक कानून की बहस में व्याप्त हैं। अन्य स्वायत्त प्रणालियों के साथ इसकी समानताएँ स्पष्ट हैं, जैसा कि इससे जुड़ी कानूनी चुनौतियों में देखा जा सकता है। विवादास्पद स्वचालित कार दुर्घटनाएँ, जहां दोष देना भी उतना ही जटिल है।

डच चाइल्डकेयर घोटाला एक गंभीर चेतावनी है कि जब हम निर्णय लेने का काम एआई को सौंप देते हैं, तो ज़िम्मेदारी यूँ ही गायब नहीं हो जाती। यह क्षीण और अस्पष्ट हो जाती है, लेकिन अंततः यह उन इंसानों के पास ही रहती है जो इन शक्तिशाली प्रणालियों को डिज़ाइन, तैनात और देखरेख करते हैं।

वैश्विक नियमन उच्च जोखिम वाले एआई पर कैसे नियंत्रण कर रहे हैं

जैसे-जैसे कृत्रिम बुद्धिमत्ता अधिक सक्षम होती जा रही है, दुनिया भर की सरकारें अंततः चर्चा से निर्णायक कार्रवाई की ओर बढ़ रही हैं। एआई को तकनीकी रूप से एक जंगली पश्चिम की तरह मानने के दिन अब स्पष्ट रूप से गिने जा रहे हैं। सक्रिय विनियमन के लिए एक महत्वपूर्ण प्रयास चल रहा है, जिसका उद्देश्य किसी भी अपरिवर्तनीय नुकसान से पहले स्पष्ट कानूनी सुरक्षा रेखाएँ स्थापित करना है।

इस वैश्विक आंदोलन का उद्देश्य कठोर प्रतिबंधों से नवाचार को दबाना नहीं है। इसके बजाय, नियामक समझदारी से एक सूक्ष्म नीति अपना रहे हैं। जोखिम आधारित दृष्टिकोणआप इसे ऐसे समझ सकते हैं जैसे हम वाहनों को नियंत्रित करते हैं: हम सभी कारों पर प्रतिबंध नहीं लगाते, लेकिन शक्तिशाली रेसिंग मॉडल और भारी-भरकम ट्रकों के लिए हमारे नियम बेहद सख्त हैं क्योंकि उनमें नुकसान की संभावना बहुत ज़्यादा होती है। इसी तरह, नए AI नियम विशिष्ट उच्च-जोखिम वाले अनुप्रयोगों को लक्षित कर रहे हैं जबकि कम-जोखिम वाले उपयोगों को फलने-फूलने दे रहे हैं।

इस अभियान का नेतृत्व यूरोपीय संघ का ऐतिहासिक कदम है। एआई एक्टयह कानून एक वैश्विक मानक बनने की राह पर है, जो एआई प्रणालियों को उनके नुकसान पहुँचाने की क्षमता के आधार पर श्रेणियों में बाँटेगा और उसके अनुसार नियम लागू करेगा। यह एक व्यावहारिक रणनीति है, जिसे तकनीकी प्रगति को बाधित किए बिना नागरिकों की सुरक्षा के लिए डिज़ाइन किया गया है।

अस्वीकार्य एआई पर प्रतिबंध लगाने वाली लाल रेखाएँ खींचना

यूरोपीय संघ का कृत्रिम बुद्धि अधिनियम और इसी तरह के ढाँचे सिर्फ़ जोखिम प्रबंधन के बारे में नहीं हैं; बल्कि वे रेत में दृढ़ नैतिक रेखाएँ खींचने के बारे में भी हैं। कुछ कृत्रिम बुद्धि अनुप्रयोगों को हमारे मौलिक अधिकारों के लिए इतना ख़तरनाक माना जाता है कि उन्हें पूरी तरह से ग़ैरक़ानूनी घोषित किया जा रहा है। ये वे प्रणालियाँ हैं जिनके बारे में नियामकों का कहना है कि ये "अस्वीकार्य जोखिम" पैदा करती हैं।

प्रतिबंधित एआई की इस श्रेणी में वे तकनीकें शामिल हैं जो मूलतः लोकतांत्रिक मूल्यों और मानवीय गरिमा के विपरीत हैं। इसका मुख्य उद्देश्य सबसे भयावह परिदृश्यों को कभी भी वास्तविकता बनने से रोकना है।

प्रतिबंधित प्रथाओं की सूची विशिष्ट एवं लक्षित है:

• हेरफेर प्रौद्योगिकियां: किसी व्यक्ति के व्यवहार को विकृत करने के लिए अवचेतन तकनीकों का उपयोग करने वाली कोई भी प्रणाली, जिससे उसे शारीरिक या मनोवैज्ञानिक नुकसान पहुंचने की संभावना हो, सख्त वर्जित है।
• सामाजिक स्कोरिंग प्रणालियाँ: सार्वजनिक प्राधिकारियों द्वारा "सामाजिक स्कोरिंग" के लिए प्रयुक्त एआई - अर्थात, लोगों के सामाजिक व्यवहार या व्यक्तिगत गुणों के आधार पर उनकी विश्वसनीयता का मूल्यांकन या वर्गीकरण - पर प्रतिबंध लगा दिया गया है।
• कमजोरियों का शोषण: इसके अलावा ऐसे एआई का उपयोग करना भी निषिद्ध है जो विशिष्ट समूहों की आयु या किसी शारीरिक या मानसिक विकलांगता के कारण उनकी कमजोरियों का फायदा उठाता है।

ये प्रतिबंध एक स्पष्ट संदेश देते हैं: कुछ तकनीकी रास्ते इतने खतरनाक हैं कि उनका इस्तेमाल बंद नहीं किया जा सकता। ये प्रतिबंध इस बहस के मूल में पहुँच जाते हैं कि एआई और आपराधिक कानून दुर्भावनापूर्ण या दमनकारी उद्देश्यों के लिए स्वाभाविक रूप से डिजाइन की गई प्रणालियों की तैनाती को रोककर।

नीदरलैंड में वास्तविक दुनिया का प्रभाव

ये नियम भविष्य के लिए अमूर्त अवधारणाएँ नहीं हैं; इनका अभी से ही ठोस प्रभाव पड़ रहा है। उदाहरण के लिए, नीदरलैंड में, सरकार ने यूरोपीय संघ के निर्देशों के साथ तालमेल बिठाने में देर नहीं लगाई।

2025 की शुरुआत से, नीदरलैंड विशेष रूप से आपराधिक कानून और सार्वजनिक क्षेत्र के अनुप्रयोगों में जोखिमों को नियंत्रित करने के लिए विशिष्ट एआई प्रणालियों पर प्रतिबंध लगा रहा है। इसमें अपराध के लिए एआई-संचालित पूर्वानुमानित जोखिम आकलन को गैरकानूनी घोषित करना शामिल है, जो पहले पूर्वानुमानित पुलिसिंग में इस्तेमाल किया जाता था।

नीदरलैंड भर के संगठनों को इन प्रतिबंधित एआई उपकरणों को चरणबद्ध तरीके से समाप्त करने की आवश्यकता थी फ़रवरी 2025 या फिर नियामकों से भारी जुर्माने का जोखिम उठाना पड़ेगा। यह निर्णायक कदम दर्शाता है कि सरकारें उच्च-जोखिम वाले एआई को कितनी गंभीरता से ले रही हैं, जिससे व्यवसायों के लिए अनुपालन करना एक स्पष्ट कानूनी अनिवार्यता बन गई है। आप विशिष्ट जानकारी के बारे में अधिक जानकारी प्राप्त कर सकते हैं डच सरकार द्वारा एआई प्रथाओं पर प्रतिबंध लगाया गया और वे संगठनों को कैसे प्रभावित करते हैं।

व्यवसायों और डेवलपर्स के लिए, निष्कर्ष स्पष्ट है: इस नए नियामक परिवेश को समझना और उसके अनुकूल ढलना अब वैकल्पिक नहीं है। कानूनी परिदृश्य ठोस होता जा रहा है, और अनुपालन न करने पर दंड कठोर होते जा रहे हैं, जिससे जो कभी नैतिक विचार थे, वे अब ठोस व्यावसायिक जोखिमों में बदल रहे हैं। इन नियमों का पालन करना अब किसी भी AI सिस्टम को लागू करने का एक महत्वपूर्ण हिस्सा है।

आगे की ओर देखना: एआई को जवाबदेह बनाने के नए तरीके

जैसे-जैसे कृत्रिम बुद्धिमत्ता (एआई) और अधिक स्वायत्त होती जा रही है, हमारी मौजूदा कानूनी प्रणालियाँ पुरानी लगने लगी हैं। पुराने तरीके—किसी मानव उपयोगकर्ता या मूल प्रोग्रामर पर उंगली उठाना—उस समय कारगर नहीं होते जब एआई अपने फैसले खुद लेने लगे। यह वास्तविकता कानूनी दिमागों को एक कठिन सवाल पूछने पर मजबूर कर रही है: आगे क्या?

बातचीत जवाबदेही के नए मॉडलों की ओर बढ़ रही है, जो उन्नत एआई की अनूठी चुनौतियों के लिए बनाए गए हैं। हम यहाँ छोटे-मोटे बदलावों की बात नहीं कर रहे हैं। यह इस बात पर एक बुनियादी पुनर्विचार है कि जब किसी कार्रवाई के पीछे का "दिमाग" एक जटिल एल्गोरिथम हो, तो दोष देने का क्या मतलब है। ये विचार उस दुनिया में न्याय के भविष्य को आकार दे रहे हैं जो दिन-ब-दिन और अधिक स्वचालित होती जा रही है।

इलेक्ट्रॉनिक व्यक्तित्व पर विवादास्पद बहस

सबसे साहसिक और सबसे विवादास्पद विचारों में से एक है इलेक्ट्रॉनिक व्यक्तित्व. इस अवधारणा का उद्देश्य कुछ उन्नत एआई को एक सीमित कानूनी दर्जा प्रदान करना है, ठीक वैसे ही जैसे किसी निगम को "कानूनी व्यक्ति" माना जाता है। इसका उद्देश्य एआई को मानवाधिकार प्रदान करना नहीं है। बल्कि, इसका उद्देश्य एक ऐसी इकाई बनाना है जो संपत्ति का मालिक हो, अनुबंधों पर हस्ताक्षर कर सके, और सबसे महत्वपूर्ण बात, अपने द्वारा किए गए नुकसान के लिए उत्तरदायी हो।

एक पूरी तरह से स्वायत्त एआई निवेश कोष की कल्पना कीजिए जो किसी अप्रत्याशित व्यापारिक रणनीति के ज़रिए बाज़ार में गिरावट ला दे। इलेक्ट्रॉनिक व्यक्तित्व के साथ, एआई को ही ज़िम्मेदार ठहराया जा सकता है, और उसकी संपत्तियों का इस्तेमाल उन लोगों को वापस करने के लिए किया जा सकता है जिन्होंने पैसा गंवाया है। यह जवाबदेही का एक ऐसा लक्ष्य बनाता है, जबकि स्पष्ट रूप से कोई भी इंसान दोषी नहीं है।

फिर भी, इस विचार को कुछ गंभीर विरोध का सामना करना पड़ रहा है।

• नैतिक जोखिम: आलोचकों को चिंता है कि यह जेल से छूटने का एक आसान रास्ता है। क्या डेवलपर्स और कंपनियाँ ज़िम्मेदारी से बचने के लिए अपनी AI तकनीकों को ही दोष दे सकती हैं? यह एक वास्तविक जोखिम है।
• नैतिक चिंताएं: कई लोगों के लिए, किसी मशीन को किसी भी प्रकार का व्यक्तित्व प्रदान करना एक खतरनाक दार्शनिक रेखा को पार करना है, जो लोगों और प्रौद्योगिकी के बीच के अंतर को धुंधला कर देता है।
• व्यावहारिकता: सिद्धांत रूप में तो यह अच्छा लगता है, लेकिन असल में यह कैसे काम करेगा? एक AI जुर्माना कैसे भरेगा या "सज़ा कैसे काटेगा"? किसी गैर-मानवीय इकाई को सज़ा देने की वास्तविक दुनिया की चुनौतियाँ बहुत बड़ी हैं।

आपूर्ति श्रृंखला में वितरित जिम्मेदारी

एक अधिक व्यावहारिक और लोकप्रिय मॉडल है वितरित जिम्मेदारीकिसी एक बलि का बकरा ढूँढने के बजाय, यह तरीका एआई के निर्माण और कार्यान्वयन में शामिल सभी लोगों पर जवाबदेही का बोझ डालता है। इसे एक बड़ी निर्माण दुर्घटना की तरह समझें—इसमें आर्किटेक्ट, सामग्री आपूर्तिकर्ता, निर्माण कंपनी और साइट मैनेजर तीनों की गलती हो सकती है।

जब कोई AI विफल हो जाता है, तो दोष कई पक्षों के बीच बांटा जा सकता है:

1. डेटा आपूर्तिकर्ता: यदि उन्होंने पक्षपातपूर्ण या भ्रष्ट प्रशिक्षण डेटा प्रदान किया हो।
2. एल्गोरिथ्म डेवलपर: स्पष्ट, पूर्वानुमानित जोखिमों वाली प्रणाली को डिजाइन करने के लिए।
3. निर्माता: उचित सुरक्षा जांच के बिना किसी उत्पाद में एआई डालने के लिए।
4. अंतिम उपयोगकर्ता: सिस्टम का लापरवाही से उपयोग करने या सुरक्षा चेतावनियों की अनदेखी करने के लिए।

यह मॉडल यह समझता है कि एआई की विफलताएँ अक्सर प्रणालीगत समस्याएँ होती हैं, जो विभिन्न लोगों द्वारा लिए गए निर्णयों की एक पूरी श्रृंखला से उत्पन्न होती हैं। यह प्रक्रिया में शामिल सभी लोगों को शुरू से अंत तक सुरक्षा और नैतिकता को गंभीरता से लेने के लिए प्रेरित करता है।

साझा जवाबदेही का यह विचार नया नहीं है; यह उन सिद्धांतों को दर्शाता है जो हम अन्य पेशेवर क्षेत्रों में देखते हैं। जब हम एआई को संभालने के तरीके पर विचार करते हैं, तो मौजूदा ढाँचों पर विचार करना उचित होगा, जैसे शैक्षणिक अखंडता दिशानिर्देश, जो शिक्षा में एआई का जिम्मेदारी से उपयोग करने के लिए साझा नैतिक मानकों की रूपरेखा प्रस्तुत करता है।

ब्लैक बॉक्स समस्या से निपटना

शायद भविष्य के किसी भी कानूनी मॉडल के लिए सबसे बड़ी बाधा यह है कि "ब्लैक बॉक्स" समस्याआज के कई सबसे शक्तिशाली एआई सिस्टम, खासकर डीप लर्निंग मॉडल, ऐसे तरीके से काम करते हैं जो उन्हें बनाने वालों के लिए भी एक रहस्य है। वे अपना काम दिखाए बिना ही जवाब दे सकते हैं।

पारदर्शिता की कमी के कारण यह पता लगाना अविश्वसनीय रूप से कठिन हो जाता है क्यों किसी AI ने कोई गलती की जिसकी वजह से अपराध हुआ। क्या यह डिज़ाइन में कोई खामी थी? खराब डेटा? या कोई अजीबोगरीब, अप्रत्याशित व्यवहार जिसकी किसी ने कल्पना भी नहीं की थी? जवाबों के बिना, दोष देना सिर्फ़ अनुमान लगाना है।

भविष्य के किसी भी व्यावहारिक कानूनी ढाँचे को और अधिक पारदर्शिता की माँग करनी होगी। इसका मतलब है कि स्पष्ट ऑडिट ट्रेल्स और डिज़ाइन द्वारा "स्पष्टीकरणीयता" जैसी सुविधाएँ आवश्यक होंगी, ताकि यह सुनिश्चित हो सके कि जब कुछ गड़बड़ हो, तो जाँचकर्ता कम से कम मशीन के डिजिटल फ़ुटप्रिंट्स का अनुसरण करके विफलता के स्रोत का पता लगा सकें।

एआई कानूनी जोखिमों को कम करने के लिए एक व्यावहारिक ढांचा

के जटिल प्रतिच्छेदन को नेविगेट करना एआई और आपराधिक कानून इसके लिए सिर्फ़ सैद्धांतिक समझ से कहीं ज़्यादा की ज़रूरत होती है। इसके लिए आपके क़ानूनी जोखिम को कम करने के लिए सक्रिय और व्यावहारिक कदम उठाने होंगे। एआई विकसित या लागू करने वाले किसी भी संगठन के लिए, एक मज़बूत आंतरिक ढाँचा स्थापित करना सिर्फ़ अच्छी नैतिकता ही नहीं है—यह एक ज़रूरी व्यावसायिक ज़रूरत भी है ताकि यह सुनिश्चित किया जा सके कि जब कोई मशीन अपराध करे तो आप ज़िम्मेदार न हों।

इस ढांचे को तीन मुख्य स्तंभों पर बनाया जाना चाहिए: पारदर्शिता, निष्पक्षता, तथा जवाबदेहीइन सिद्धांतों को ऐसे AI सिस्टम बनाने के लिए अपने मार्गदर्शक के रूप में सोचें जो न केवल प्रभावी हों बल्कि कानूनी रूप से भी बचाव योग्य हों। इन मूल्यों को अपने विकास जीवनचक्र में शुरू से ही शामिल करके, आप लापरवाही या असावधानी के संभावित दावों के विरुद्ध एक शक्तिशाली बचाव तैयार करते हैं।

अपनी AI जवाबदेही चेकलिस्ट का निर्माण

इन सिद्धांतों को अमल में लाने के लिए, संगठन आवश्यक प्रथाओं की एक स्पष्ट चेकलिस्ट लागू कर सकते हैं। ये कदम आपके उचित परिश्रम का एक सत्यापन योग्य रिकॉर्ड बनाने में मदद करते हैं, जिससे यह साबित होता है कि आपने संभावित नुकसान को रोकने के लिए उचित उपाय किए थे।

इन प्रमुख कार्यों से शुरुआत करें:

• एल्गोरिथम प्रभाव आकलन (एआईए) का संचालन करें: किसी भी एआई सिस्टम को लागू करने के बारे में सोचने से पहले, आपको इसके संभावित सामाजिक प्रभाव का गहन मूल्यांकन करना होगा। इसमें पूर्वाग्रह, भेदभावपूर्ण परिणामों और दुरुपयोग की किसी भी संभावना का आकलन करना शामिल है जिससे आपराधिक दायित्व हो सकता है।
• मजबूत डेटा शासन स्थापित करें: आपका AI उतना ही अच्छा है जितना उसका डेटा। यह सुनिश्चित करने के लिए सख्त प्रोटोकॉल लागू करना ज़रूरी है कि आपका प्रशिक्षण डेटा सटीक, प्रतिनिधि और उन पूर्वाग्रहों से मुक्त हो जो AI को गैरकानूनी फ़ैसले लेने के लिए प्रेरित कर सकते हैं।
• सावधानीपूर्वक ऑडिट ट्रेल्स बनाए रखें: एआई के संचालन, उसके निर्णयों और होने वाले किसी भी मानवीय हस्तक्षेप का विस्तृत रिकॉर्ड रखें। किसी भी दुर्घटना की स्थिति में, ये रिकॉर्ड यह पता लगाने के लिए ज़रूरी हैं कि क्या गलत हुआ और सिस्टम ने ठीक से कैसे काम किया।

किसी भी जोखिम न्यूनीकरण रणनीति का एक महत्वपूर्ण घटक उच्च-दांव वाले निर्णयों के लिए 'ह्यूमन-इन-द-लूप' (HITL) प्रणालियों का कार्यान्वयन है। यह सुनिश्चित करता है कि एक मानव ऑपरेटर के पास अंतिम नियंत्रण बना रहे और वह एआई को दरकिनार कर सके, जिससे जवाबदेही की एक स्पष्ट श्रृंखला बनी रहे।

मानवीय निगरानी ही सर्वोत्तम सुरक्षा है

'ह्यूमन-इन-द-लूप' मॉडल सिर्फ़ एक तकनीकी विशेषता से कहीं ज़्यादा है; यह एक क़ानूनी पहलू है। महत्वपूर्ण कार्यों के लिए मानवीय पुष्टि की आवश्यकता रखकर, कोई संगठन प्रभावी ढंग से यह तर्क दे सकता है कि एआई सिर्फ़ एक परिष्कृत उपकरण है, न कि कोई स्वायत्त एजेंट जो ख़ुद फ़ैसले लेता है। यह दृष्टिकोण इस क़ानूनी स्थिति को काफ़ी मज़बूत करता है कि अंतिम, निर्णायक फ़ैसला मशीन ने नहीं, बल्कि एक इंसान ने लिया।

अंततः, इन कानूनी जोखिमों को कम करने के लिए ज़िम्मेदारी की एक ऐसी संस्कृति का निर्माण करना आवश्यक है जो पूरे संगठन में व्याप्त हो। नीदरलैंड में देयता और क्षति के दावे इन आंतरिक नीतियों को विकसित करने के लिए मूल्यवान संदर्भ प्रदान कर सकता है। लक्ष्य ऐसी कृत्रिम बुद्धिमत्ता (एआई) बनाना है जो न केवल नवीन हो, बल्कि पारदर्शी, नैतिक और स्पष्ट रूप से मानव नियंत्रण में हो।

एआई और आपराधिक कानून के बारे में अक्सर पूछे जाने वाले प्रश्न

कृत्रिम बुद्धिमत्ता और आपराधिक कानून का अंतर्संबंध एक पेचीदा क्षेत्र है, जहाँ इस समय उत्तरों से ज़्यादा सवाल हैं। जैसे-जैसे कृत्रिम बुद्धिमत्ता हमारे दैनिक जीवन में गहराई से समाती जा रही है, यह समझना ज़रूरी हो गया है कि जब कोई बुद्धिमान प्रणाली किसी अपराध में शामिल हो, तो उसके लिए किसे ज़िम्मेदार ठहराया जाए। यहाँ कुछ सबसे आम सवाल दिए गए हैं जो हमारे सामने आते हैं।

क्या एआई अदालत में गवाह के रूप में काम कर सकता है?

संक्षिप्त उत्तर है, नहीं, कम से कम वर्तमान कानूनी परिदृश्य में तो नहीं। गवाह की अवधारणा मूलतः मानवीय है। गवाह बनने के लिए, व्यक्ति को शपथ लेकर सच बोलने का वादा करना चाहिए। उन्हें संबंधित घटनाओं की व्यक्तिगत जानकारी भी होनी चाहिए और जिरह का सामना करने में सक्षम होना चाहिए, जहाँ उनकी स्मृति, धारणा और विश्वसनीयता की जाँच की जाती है।

एक एआई इन मानदंडों पर खरा नहीं उतरता। इसमें चेतना नहीं होती, यह शपथ नहीं ले सकता, और मानवीय अर्थों में इसकी व्यक्तिगत स्मृतियाँ नहीं होतीं। ज़्यादा से ज़्यादा, यह अपने द्वारा संसाधित डेटा प्रस्तुत कर सकता है। यह इसे एक वास्तविक गवाह की बजाय सीसीटीवी रिकॉर्डिंग जैसे सबूत की तरह ज़्यादा बनाता है। एआई का आउटपुट निश्चित रूप से अदालत में प्रस्तुत किया जा सकता है, लेकिन उस डेटा की व्याख्या करने वाला एक मानव विशेषज्ञ ही वास्तव में गवाह की भूमिका निभाएगा।

एआई के लिए सिविल और आपराधिक दायित्व के बीच क्या अंतर है?

जब भी कोई कृत्रिम बुद्धि नुकसान पहुँचाती है, तो यह अंतर बेहद अहम हो जाता है। हालाँकि दीवानी और फौजदारी, दोनों ही मामलों में कानूनी ज़िम्मेदारी शामिल होती है, लेकिन उनका उद्देश्य, सबूत पेश करने का भार और दंड एक-दूसरे से ज़मीन-आसमान का अंतर रखते हैं।

इसके बारे में सोचने का एक सीधा तरीका यह है:

• नागरिक दायित्व: यह पीड़ित को फिर से पूरी तरह से ठीक करने के बारे में है। इसका ध्यान नुकसान की भरपाई पर है, जैसे किसी दोषपूर्ण एल्गोरिथम से होने वाला वित्तीय नुकसान या किसी स्वचालित वाहन से होने वाली चोटें। प्रमाण का मानक निम्न होता है - अक्सर "संभावनाओं का संतुलन"।
• आपराधिक दायित्व: यह समाज के विरुद्ध किए गए किसी अपराध को दंडित करने के बारे में है। इसके लिए "उचित संदेह से परे" अपराध सिद्ध करना आवश्यक है—जो कि एक बहुत बड़ी बाधा है—और इसके परिणामस्वरूप कारावास या भारी जुर्माने जैसी कठोर सज़ाएँ हो सकती हैं।

जब कोई कृत्रिम बुद्धिमत्ता (एआई) शामिल हो, तो कंपनी को अपने उत्पाद से हुए नुकसान की भरपाई के लिए दीवानी मुकदमे का सामना करना पड़ सकता है। लेकिन आपराधिक आरोपों को साबित करने के लिए, अभियोजक को यह साबित करना होगा कि मानव कर्ता का "दोषी मन" था (आपराधिक मनःस्थिति) यही कारण है कि उत्तरदायित्व मशीन पर नहीं, बल्कि व्यक्ति पर लगाया जाता है।

मेरा संगठन यूरोपीय संघ के एआई अधिनियम के लिए कैसे तैयारी कर सकता है?

जैसे नियमों के साथ यूरोपीय संघ एआई अधिनियम क्षितिज पर, नियमों के पूरी तरह लागू होने तक इंतज़ार करना एक जोखिम भरी रणनीति है। सक्रिय अनुपालन ही आपके कानूनी जोखिमों को प्रभावी ढंग से कम करने का एकमात्र तरीका है।

आरंभ करने के लिए यहां कुछ प्रमुख चरण दिए गए हैं:

1. अपने AI सिस्टम को वर्गीकृत करें: सबसे पहले, आपको यह निर्धारित करना होगा कि आपके AI एप्लिकेशन किस जोखिम श्रेणी में आते हैं—अस्वीकार्य, उच्च, सीमित, या न्यूनतम। यह वर्गीकरण आपके विशिष्ट अनुपालन दायित्वों को निर्धारित करेगा।
2. जोखिम आकलन का संचालन करें: किसी भी उच्च-जोखिम वाली प्रणाली के लिए, आपको मौलिक अधिकारों को संभावित नुकसानों की पहचान करने और उनका समाधान करने के लिए गहन मूल्यांकन करना होगा। यह केवल एक बॉक्स-टिकिंग अभ्यास नहीं है; यह आपके सिस्टम के प्रभाव का गहन विश्लेषण है।
3. पारदर्शिता और दस्तावेज़ीकरण सुनिश्चित करें: अपने AI के डिज़ाइन, प्रशिक्षण के लिए उपयोग किए गए डेटा सेट और उसकी निर्णय लेने की प्रक्रियाओं का सावधानीपूर्वक रिकॉर्ड रखें। यदि कभी कोई घटना घटती है, तो अनुपालन और जवाबदेही प्रदर्शित करने के लिए यह दस्तावेज़ीकरण आवश्यक है।