जब कोई एआई सिस्टम नुकसान पहुंचाता है तो इसके लिए कौन जिम्मेदार होता है?

नीदरलैंड्स में कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों की ज़िम्मेदारी हमेशा किसी व्यक्ति या कंपनी पर होती है, सॉफ्टवेयर पर कभी नहीं। व्यवहार में दो पक्ष महत्वपूर्ण हैं: उपयोगकर्ता, यानी वह व्यक्ति या संगठन जो सिस्टम को तैनात करता है और उसके आधार पर निर्णय लेता है, और निर्माता, यानी वह पक्ष जिसने सिस्टम विकसित किया, उसे बाज़ार में उतारा या उसकी आपूर्ति की। नुकसान का भार किस पर पड़ेगा, यह इस बात पर निर्भर करता है कि गलती किसकी थी, दोनों को क्या जानकारी थी, और उनके बीच हुए अनुबंध में क्या कहा गया है। यह लेख दोनों पक्षों पर विस्तार से चर्चा करता है; आपराधिक कानून का ढांचा, कार्यात्मक अपराध से लेकर आपराधिक संहिता की धारा 51 के तहत कॉर्पोरेट दायित्व तक, हमारे सहयोगी लेख में दिया गया है, जिसमें बताया गया है कि क्या कोई एल्गोरिदम आंशिक रूप से ज़िम्मेदार हो सकता है ।

व्यवस्था कभी प्रतिवादी क्यों नहीं होती?

डच कानून दो प्रकार के व्यक्तियों को मान्यता देता है: प्राकृतिक व्यक्ति और कानूनी व्यक्ति। एक एआई प्रणाली इनमें से कोई भी नहीं है। इसके पास कोई अधिकार नहीं हो सकते, इसे तलब नहीं किया जा सकता, इस पर जुर्माना नहीं लगाया जा सकता और न ही इसे हर्जाना देने का आदेश दिया जा सकता है, क्योंकि इसका कोई स्वामित्व नहीं है और इसे चलाने वाली कंपनी से अलग इसका कोई कानूनी अस्तित्व नहीं है। एक तीसरी श्रेणी बनाने के प्रस्ताव, जिसे कभी-कभी इलेक्ट्रॉनिक व्यक्तित्व कहा जाता है, पर यूरोपीय स्तर पर चर्चा हुई है, लेकिन कोई प्रगति नहीं हुई है, जिसका कारण दार्शनिक से अधिक व्यावहारिक है: एक ऐसी देयता इकाई जिसके पास कोई संपत्ति नहीं है और अपने व्यवहार को बदलने की क्षमता नहीं है, वह जोखिम को उन पक्षों से दूर कर देगी जो वास्तव में नुकसान को रोक सकते हैं।

इसलिए सवाल यह नहीं है कि मशीन ज़िम्मेदार है या नहीं। सवाल यह है कि इस कड़ी में कौन सा मानव या कॉर्पोरेट पक्ष अपने कर्तव्य में विफल रहा, और इस कड़ी का एक निश्चित स्वरूप है: मॉडल बनाने वाला पक्ष, उसे उत्पाद में बदलने वाला पक्ष, उसे आपूर्ति या एकीकृत करने वाला पक्ष, उसे तैनात करने वाला संगठन, और बटन दबाने वाला व्यक्ति। एआई सिस्टम की ज़िम्मेदारी का निर्धारण उस कड़ी में विफलता का पता लगाने और उसे कानूनी आधार से मिलाने की प्रक्रिया है।

इनमें से दो कानूनी आधार प्रमुख हैं। उपयोगकर्ता के लिए, सामान्य अपकृत्य कानून और किसी अन्य व्यक्ति की ओर शक्तिशाली उपकरण का उपयोग करने से उत्पन्न होने वाला कर्तव्य। निर्माता के लिए, उत्पाद दायित्व, जिसके लिए किसी की गलती होना आवश्यक नहीं है। आपराधिक दायित्व सहित बाकी सब कुछ इन आधारों के ऊपर लागू होता है।

उपयोगकर्ता की स्थिति

उपयोगकर्ता अपने जोखिम को कम आंकते हैं क्योंकि वे सिस्टम को एक ब्लैक बॉक्स मानते हैं जिसे किसी और ने बनाया है। कानून में, जो व्यक्ति किसी टूल को तैनात करने, उसे कॉन्फ़िगर करने, उसमें डेटा डालने और उसके आउटपुट पर कार्रवाई करने का निर्णय लेता है, वह कुछ कर रहा होता है, और उस कार्य का मूल्यांकन उसके गुणों के आधार पर किया जाता है।

जब व्यवस्था मात्र अपराध का साधन बन जाती है

सबसे आसान मामले वे होते हैं जिनमें कृत्रिम बुद्धिमत्ता प्रणाली का जानबूझकर उपयोग किया जाता है। किसी कंपनी को धोखा देने के लिए विश्वसनीय बिल बनाना आपराधिक संहिता की धारा 326 के तहत धोखाधड़ी है, चाहे वह बिल किसी व्यक्ति द्वारा तैयार किया गया हो या किसी मॉडल द्वारा, और दस्तावेज़ की जालसाजी करना, उपकरण चाहे जो भी हो, धारा 225 के तहत जालसाजी ही रहती है। किसी सिस्टम में सेंध लगाने के लिए कोड लिखने के लिए मॉडल का उपयोग करना धारा 138ab के तहत कंप्यूटर घुसपैठ है। किसी वास्तविक व्यक्ति की हेरफेर की गई छवियों को बनाना और वितरित करना मानहानि हो सकता है, और यदि सामग्री यौन प्रकृति की है तो यह 1 जुलाई 2024 से लागू यौन अपराध अधिनियम के अंतर्गत आता है। किसी व्यक्ति का लगातार कृत्रिम बुद्धिमत्ता द्वारा उत्पीड़न करना धारा 285b के तहत पीछा करना माना जा सकता है, जिस पर पीड़ित की शिकायत पर ही मुकदमा चलाया जाता है।

यह कोई नया कानून नहीं है। तकनीक धोखे के पैमाने और उसकी विश्वसनीयता को बदलती है, अपराध के तत्वों को नहीं। यह जो बदलती है वह है सबूत: संकेत, खाता लॉग, मॉडल आउटपुट और फ़ाइल निर्माण का समय, ये वे सामग्रियां हैं जो अपराध को किसी व्यक्ति से जोड़ती हैं, और जो उपयोगकर्ता यह मानते हैं कि एआई-जनित सामग्री का पता नहीं लगाया जा सकता है, वे आमतौर पर गलत होते हैं।

लापरवाही से उपयोग: अधिक सामान्य जोखिम

ज़्यादातर संगठन जानबूझकर की गई गलती के बजाय लापरवाही के कारण मुसीबत में पड़ते हैं। यह पैटर्न जाना-पहचाना है। एक सिस्टम किसी और उद्देश्य से खरीदा जाता है और किसी और उद्देश्य के लिए इस्तेमाल किया जाता है। इसके आउटपुट को एक संकेत के बजाय एक निर्णय के रूप में देखा जाता है। कोई भी उन मामलों की जाँच नहीं करता जहाँ यह गलत होता है, क्योंकि इसे चलाने वाले लोगों को कभी यह नहीं बताया गया कि इसकी त्रुटि दर क्या है या यह कहाँ विफल होता है। जब नुकसान सामने आता है, तो संगठन को पता चलता है कि उसके पास इस बात का कोई रिकॉर्ड नहीं है कि निर्णय कैसे लिया गया था।

नागरिक शास्त्र के संदर्भ में, यह एक सीधा अपकृत्य है: नागरिक संहिता का अनुच्छेद 6:162 किसी व्यक्ति को उसके द्वारा किए गए किसी ऐसे गैरकानूनी कृत्य के लिए उत्तरदायी बनाता है जिससे नुकसान होता है। समाज में सावधानी बरतने के कर्तव्य का उल्लंघन गैरकानूनी कृत्यों की श्रेणियों में से एक है, और उस कर्तव्य की सीमा इस बात से निर्धारित होती है कि उस स्थिति में एक सावधान व्यक्ति क्या करता। अनुच्छेद 6:170 के तहत नियोक्ता अपने कर्मचारियों की गलतियों के लिए भी उत्तरदायी होता है, और संविदात्मक दायित्व के निर्वहन के लिए किसी सहायक का उपयोग करने वाला पक्ष अनुच्छेद 6:76 के तहत उस सहायक के लिए उत्तरदायी होता है, जो किसी आपूर्तिकर्ता के मॉडल का उपयोग करके अपनी सेवा प्रदान करने वाले संगठन को भी शामिल करता है।

अब देखभाल का दायित्व पूरी तरह से अदालतों पर नहीं छोड़ा जा सकता। यूरोपीय संघ का कृत्रिम बुद्धिमत्ता अधिनियम उच्च जोखिम वाली प्रणालियों को तैनात करने वालों को ठोस दायित्व देता है: निर्देशों के अनुसार प्रणाली का उपयोग करना, सक्षम और अधिकृत व्यक्तियों को मानवीय निगरानी सौंपना, यह सुनिश्चित करना कि उनके नियंत्रण में मौजूद इनपुट डेटा प्रासंगिक हो, संचालन की निगरानी करना और जोखिम उत्पन्न होने पर उपयोग को निलंबित करना, लॉग रखना और कार्यस्थल पर ऐसी प्रणाली को तैनात करने से पहले कर्मचारियों और उनके प्रतिनिधियों को सूचित करना। ये दायित्व नियामक हैं, लेकिन लापरवाही का आकलन करने वाली अदालत इन्हें सावधानीपूर्वक आचरण के विवरण के रूप में देखेगी। उपयोग के निर्देशों की अनदेखी करने वाला संगठन केवल गैर-अनुपालन ही नहीं है; उसने वादी को अपना मामला सौंप दिया है।

स्वचालन पूर्वाग्रह का अलग से उल्लेख करना आवश्यक है क्योंकि यहीं पर निगरानी प्रक्रिया चुपचाप विफल हो जाती है। एक समीक्षक जो सिस्टम द्वारा प्रस्तावित लगभग हर चीज़ को मंजूरी दे देता है, वह निगरानी का अभ्यास नहीं कर रहा है, और एक संगठन जो अपने कर्मचारियों का मूल्यांकन कार्यप्रवाह के आधार पर करता है, उसने प्रभावी रूप से यही परिणाम निर्धारित किया है। कानूनी प्रश्न यह है कि क्या वास्तव में कोई मानवीय निर्णय लिया गया था, और केवल एक औपचारिक स्वीकृति को इस श्रेणी में नहीं रखा जा सकता।

जहां उपयोगकर्ता जोखिम को आगे नहीं बढ़ा सकता

तीन बिंदु ऐसे हैं जो उन संगठनों को अक्सर आश्चर्यचकित करते हैं जो यह मान लेते थे कि जोखिम आपूर्तिकर्ता वहन करेगा।

सर्वप्रथम, पीड़ित तीसरे पक्ष के लिए उपयोगकर्ता ही प्रत्यक्ष पक्ष होता है। ऋण अस्वीकृत ग्राहक, स्क्रीनिंग टूल द्वारा अस्वीकृत कर्मचारी, गलत ट्राइएज में भर्ती मरीज: इन सभी का अनुबंध या व्यवहार परिनियोजक द्वारा किया जाता है, और वे परिनियोजक पर मुकदमा करेंगे। परिनियोजक अपने आपूर्तिकर्ता से हर्जाना वसूल कर सकता है या नहीं, यह एक अलग प्रश्न है जो अनुबंध पर निर्भर करता है और परिनियोजक के विरुद्ध दावे को विलंबित नहीं करता।

दूसरा, सामान्य डेटा सुरक्षा नियम अन्य सभी चीज़ों से स्वतंत्र रूप से लागू होते हैं। यदि सिस्टम व्यक्तिगत डेटा को संसाधित करता है, तो आमतौर पर सिस्टम को तैनात करने वाला ही नियंत्रक होता है, जो कानूनी आधार, पारदर्शिता, प्रभाव मूल्यांकन और सुरक्षा के लिए ज़िम्मेदार होता है। पूरी तरह से स्वचालित माध्यमों से लिया गया कोई भी निर्णय, जिसका कानूनी प्रभाव पड़ता है या जो किसी व्यक्ति को इसी तरह से महत्वपूर्ण रूप से प्रभावित करता है, अलग से विनियमित होता है और उस व्यक्ति को मानवीय हस्तक्षेप और परिणाम को चुनौती देने का अधिकार देता है। सामान्य डेटा सुरक्षा विनियमन का हमारा अवलोकन इस व्यवस्था को स्पष्ट करता है।

तीसरा, संशोधन से आपकी भूमिका बदल जाती है। कोई भी परिनियोजक जो किसी सिस्टम पर अपना नाम अंकित करता है, उसके इच्छित उद्देश्य को बदलता है, या उसमें पर्याप्त संशोधन करता है, वह एआई अधिनियम के तहत प्रदाता बन जाता है और प्रदाता के दायित्वों का भागी हो जाता है। किसी सामान्य-उद्देश्यीय मॉडल को विनियमित निर्णय के लिए स्क्रीनिंग टूल में रूपांतरित करना ठीक उसी प्रकार का कदम है जो इस सीमा को पार करता है। किसी अन्य के मॉडल पर आधारित संगठन लॉन्च करने से पहले यह निर्धारित कर लें कि वे किस पक्ष में हैं, न कि किसी घटना के बाद।

निर्माता की स्थिति

निर्माता की जवाबदेही एक अलग और अधिक सख्त दायरे में आती है। नागरिक संहिता के अनुच्छेद 6:185 और उसके बाद के अनुच्छेदों के तहत उत्पाद दायित्व के अनुसार, निर्माता अपने उत्पाद में किसी खराबी के कारण हुई क्षति के लिए उत्तरदायी होता है, और पीड़ित पक्ष को दोष साबित करने की आवश्यकता नहीं होती है। कोई उत्पाद तब दोषपूर्ण माना जाता है जब वह उस सुरक्षा की गारंटी नहीं देता जिसकी अपेक्षा किसी व्यक्ति को उसके प्रस्तुतीकरण, उसके संभावित उपयोग और बाजार में आने की अवधि को ध्यान में रखते हुए की जानी चाहिए। दावेदार को क्षति, खराबी और उनके बीच के कारण-कार्य संबंध को साबित करना होगा, और AI मामले में असली मुद्दा यहीं पर होता है।

इस व्यवस्था की कुछ निश्चित सीमाएँ हैं। दावा उस दिन से तीन साल के भीतर किया जाना चाहिए जिस दिन पीड़ित पक्ष को क्षति, दोष और निर्माता की पहचान के बारे में पता चला हो या पता चलना चाहिए था, और यह अधिकार विशिष्ट उत्पाद के प्रचलन में आने के दस साल बाद समाप्त हो जाता है। इस व्यवस्था के तहत दायित्व को अनुबंध द्वारा समाप्त या सीमित नहीं किया जा सकता है, और यह मृत्यु, व्यक्तिगत चोट और निजी तौर पर उपयोग की जाने वाली अन्य संपत्ति को हुए नुकसान को भी कवर करता है, बशर्ते कि इसके लिए न्यूनतम सीमा निर्धारित हो। निर्माता के पास बचाव के कुछ सीमित विकल्प हैं, जिनमें विकास जोखिम बचाव भी शामिल है, जो उस स्थिति में लागू होता है जब प्रचलन के समय वैज्ञानिक और तकनीकी ज्ञान की स्थिति दोष को उजागर नहीं कर सकती थी।

वह सुधार जो सॉफ्टवेयर की स्थिति को बदल देता है

वर्तमान डच व्यवस्था के तहत, उत्पाद एक चल वस्तु है, और स्टैंड-अलोन सॉफ़्टवेयर इस श्रेणी में आता है या नहीं, इस पर वर्षों से विवाद रहा है। अब यह विवाद समाप्त होने वाला है। संशोधित उत्पाद दायित्व निर्देश, निर्देश (ईयू) 2024/2853, 8 दिसंबर 2024 को लागू हुआ और इसे 9 दिसंबर 2026 तक राष्ट्रीय कानून में शामिल किया जाना अनिवार्य है; यह उस तिथि के बाद बाजार में लाए गए या सेवा में लगाए गए उत्पादों पर लागू होता है, इसलिए इससे पहले प्रचलन में रहे उत्पादों पर नागरिक संहिता के वर्तमान प्रावधान लागू रहेंगे। कृत्रिम बुद्धिमत्ता प्रणालियों के दायित्व के लिए चार परिवर्तन महत्वपूर्ण हैं।

सॉफ्टवेयर, जिसमें एआई सिस्टम और डिजिटल विनिर्माण फाइलें शामिल हैं, स्पष्ट रूप से एक उत्पाद है। उत्तरदायी पक्षों का दायरा निर्माता से आगे बढ़कर उन पक्षों तक विस्तृत हो जाता है जो निर्माता के नियंत्रण से बाहर उत्पाद में महत्वपूर्ण बदलाव करते हैं, अधिकृत प्रतिनिधि, आयातक और कुछ निश्चित परिस्थितियों में, पूर्ति सेवा प्रदाता और ऑनलाइन प्लेटफॉर्म भी इसमें शामिल होते हैं। क्षतिपूर्ति योग्य क्षति में व्यावसायिक रूप से उपयोग न किए गए डेटा का विनाश या दूषित होना भी शामिल है, जो सॉफ्टवेयर विफलताओं में वास्तविक नुकसान की श्रेणी है। और कोई उत्पाद बाज़ार में आने के बाद होने वाली घटनाओं के कारण भी दोषपूर्ण हो सकता है: आवश्यक सॉफ्टवेयर अपडेट में खराबी, सुरक्षा अपडेट प्रदान करने में विफलता, या निरंतर सीखने के प्रभाव जहां निर्माता ने उस पर नियंत्रण बनाए रखा हो।

यह सुधार साक्ष्य संबंधी समस्या का भी सीधा समाधान करता है। न्यायालय वादी के अनुरोध पर प्रतिवादी को प्रासंगिक साक्ष्य प्रस्तुत करने का आदेश दे सकता है, और यदि प्रतिवादी इसका पालन नहीं करता है, तो साक्ष्य में त्रुटि मान ली जाती है। त्रुटि और कारण संबंधी खंडनीय अनुमान तब लागू होते हैं जब वादी को तकनीकी या वैज्ञानिक जटिलता के कारण उन्हें सिद्ध करने में अत्यधिक कठिनाई का सामना करना पड़ता है, बशर्ते वादी संभावना को तर्कसंगत साबित कर दे। ऐसे वादी के लिए, जिसके सामने एक ऐसा मॉडल है जिसे कोई पूरी तरह से समझा नहीं सकता, यही एक तर्कपूर्ण मामले और एक असंभव मामले के बीच का अंतर है।

अनुबंध, अनुरूपता और अपवर्जन खंडों की सीमाएँ

व्यवसायों के बीच, पहला विवाद का मैदान आमतौर पर कानून के बजाय अनुबंध होता है। एआई सिस्टम के आपूर्तिकर्ता का दायित्व वही होता है जो उसने देने का वादा किया था: दिया गया सिस्टम अनुबंध के अनुरूप होना चाहिए और उसमें वे गुण होने चाहिए जिनकी अपेक्षा खरीदार को करने का अधिकार था। यदि आपूर्तिकर्ता ने सटीकता स्तर, उपलब्धता स्तर या एआई अधिनियम के अनुपालन का वादा किया है, तो उसे पूरा न कर पाना अनुबंध का उल्लंघन है, और चूक की उचित सूचना के बाद प्रदर्शन, क्षतिपूर्ति और अनुबंध भंग करने जैसे सामान्य उपाय लागू होते हैं।

आपूर्तिकर्ता सीमा और अपवर्जन खंडों के साथ जवाब देते हैं, और ये खंड आमतौर पर व्यावसायिक पक्षों के बीच प्रभावी होते हैं। ये असीमित नहीं होते। किसी खंड को तब रद्द किया जा सकता है जब उस पर भरोसा करना तर्कसंगतता और निष्पक्षता के मानकों के अनुसार अस्वीकार्य हो, यही वह तरीका है जो अदालतें आपूर्तिकर्ता की ओर से जानबूझकर की गई लापरवाही या गंभीर गलती के मामलों में अपनाती हैं। यदि खंड सामान्य शब्दों में है, तो यह तब विफल हो सकता है जब दूसरे पक्ष को कभी भी उन पर ध्यान देने का वास्तविक अवसर नहीं दिया गया हो। उत्पाद दायित्व व्यवस्था के तहत पीड़ित पक्ष के विरुद्ध दायित्व को किसी भी तरह से अनुबंध द्वारा समाप्त नहीं किया जा सकता है। व्यवहार में, बातचीत सीमाओं, डेटा उल्लंघनों और बौद्धिक संपदा उल्लंघन के लिए अपवादों, नियामक जुर्माने के लिए क्षतिपूर्ति, और ग्राहक को अपना बचाव करने के लिए आवश्यक दस्तावेज़ और लॉग प्रदान करने के आपूर्तिकर्ता के दायित्व के बारे में होती है। क्षतिपूर्ति दावों पर हमारा पृष्ठ बताता है कि ये दावे कैसे तैयार किए जाते हैं।

एआई अधिनियम क्या करता है और क्या नहीं करता है

एआई अधिनियम एक नियामक साधन है। यह प्रदाताओं और प्रवर्तकों को निर्देश देता है कि उन्हें क्या करना है और पर्यवेक्षकों को इसे लागू करने की शक्तियाँ प्रदान करता है; यह एआई प्रणाली से पीड़ित व्यक्ति को मुआवज़े का अधिकार नहीं देता है। प्रस्तावित एआई दायित्व निर्देश, जो नागरिक दावों में सामंजस्य स्थापित करता और सभी मामलों में प्रकटीकरण और अनुमानों को लागू करता, वापस ले लिया गया है। अब जो बचा है वह ऊपर वर्णित संयोजन है: राष्ट्रीय अपकृत्य और अनुबंध कानून, साथ ही संशोधित उत्पाद दायित्व व्यवस्था।

इससे एआई अधिनियम दायित्व के संदर्भ में अप्रासंगिक नहीं हो जाता। यह तीन तरह से महत्वपूर्ण है। यह देखभाल के मानक को निर्धारित करता है, ताकि अनुपालन न करना लापरवाही का प्रमाण हो। यह दस्तावेज़ तैयार करता है, क्योंकि तकनीकी दस्तावेज़, उपयोग के निर्देश, लॉग और बाज़ार के बाद की निगरानी फ़ाइल सभी कानून द्वारा मौजूद हैं और कार्यवाही में इनकी मांग की जा सकती है। और यह भूमिकाएँ निर्धारित करता है, ताकि प्रदाता और परिनियोजनकर्ता कौन है, यह प्रश्न, जो पहले विवाद का विषय हुआ करता था, अब कानूनी रूप से हल हो गया है। हमारी आईटी कानून संबंधी टीम इन वर्गीकरण संबंधी प्रश्नों को विवाद बनने से पहले ही सुलझा लेती है।

जहां उपयोगकर्ता और निर्माता मिलते हैं

अधिकांश वास्तविक घटनाएं श्रृंखला के एक छोर पर हुई एक ही विफलता के कारण नहीं होतीं। वे ऐसे मॉडल के कारण होती हैं जिसे ऐसे डेटा पर प्रशिक्षित किया गया था जो उस आबादी का प्रतिनिधित्व नहीं करता था जिस पर इसे लागू किया गया था, ऐसे आपूर्तिकर्ता द्वारा एकीकृत किया गया था जिसने उस संदर्भ में इसका परीक्षण नहीं किया था, ऐसे संगठन द्वारा तैनात किया गया था जिसने इसका उपयोग ऐसे उद्देश्य के लिए किया था जिसका निर्देशों में उल्लेख नहीं था, और ऐसे कर्मचारियों द्वारा संचालित किया गया था जिन्हें इसकी सीमाओं के बारे में कभी नहीं बताया गया था। डच कानून को इससे कोई आपत्ति नहीं है: एक ही क्षति के लिए कई पक्ष उत्तरदायी हो सकते हैं, प्रत्येक पक्ष पीड़ित पक्ष के प्रति पूरी क्षति के लिए उत्तरदायी होता है, और वे बाद में अपने-अपने योगदान के अनुसार आंतरिक रूप से क्षतिपूर्ति का निपटारा कर लेते हैं।

नीचे दी गई तालिका में यह बताया गया है कि आमतौर पर जिम्मेदारी किसके पास होती है और किस आधार पर होती है।

डच बाल देखभाल लाभ विवाद हर डच चर्चा का केंद्र बिंदु बन जाता है, और यह कानून के नियम के बजाय एक विशिष्ट पैटर्न को दर्शाता है: एक अस्पष्ट जोखिम वर्गीकरण प्रणाली, वास्तविक व्यक्तिगत मूल्यांकन के बिना इसके परिणामों पर लिए गए निर्णय, और इसके परिणाम पूरी तरह से प्रभावित लोगों पर पड़े। इसका कानूनी प्रभाव आपराधिक के बजाय प्रशासनिक और राजनीतिक था, और हम एआई और आपराधिक कानून पर अपने लेख में आपराधिक जिम्मेदारी के बारे में इससे क्या पता चलता है और क्या नहीं पता चलता, इस पर चर्चा करते हैं ।

साक्ष्य की समस्या, और यह किस प्रकार बदल रही है

दावा करने वाले को इसे साबित करना होता है, और एआई मामलों में सबूत देना ही सबसे मुश्किल काम है। दावेदार को यह दिखाना होता है कि सिस्टम ने क्या किया, वह गलत क्यों था, और उस गलती के कारण नुकसान हुआ। इसके लिए आवश्यक जानकारी प्रतिवादी के पास होती है, और एक जटिल मॉडल में इसे आंतरिक रूप से भी पुनर्निर्मित करना वास्तव में कठिन हो सकता है।

तीन घटनाक्रम इस संतुलन को बदल रहे हैं। उच्च जोखिम वाली प्रणालियों के लिए लॉगिंग अब एक कानूनी आवश्यकता है, इसलिए जो रिकॉर्ड पहले वैकल्पिक थे, उन्हें रखना अनिवार्य है। संशोधित व्यवस्था के तहत उत्पाद दायित्व दावों में साक्ष्य का खुलासा संभव हो गया है, और यदि प्रतिवादी इसका पालन नहीं करता है तो दोषपूर्णता की धारणा लागू होती है। डच नागरिक प्रक्रिया पहले से ही किसी पक्ष को उन विशिष्ट दस्तावेजों को प्रस्तुत करने की मांग करने की अनुमति देती है जिनमें उसका वैध हित है, जिसका उपयोग नियमित रूप से परीक्षण रिपोर्ट, घटना लॉग और आंतरिक जोखिम मूल्यांकन प्राप्त करने के लिए किया जाता है।

किसी प्रतिवादी के लिए व्यावहारिक निष्कर्ष असुविधाजनक लेकिन स्पष्ट है: आपके द्वारा रखे गए दस्तावेज़ ही आपके विरुद्ध पढ़े जाएँगे, और जो दस्तावेज़ आप रखने में विफल रहे हैं, वे भी आपके विरुद्ध इस्तेमाल किए जाएँगे। परीक्षण, ज्ञात सीमाओं, घटनाओं और उनके निपटान के पूर्ण, दिनांकित और ईमानदार रिकॉर्ड सबसे मजबूत बचाव हैं, क्योंकि वे दर्शाते हैं कि संगठन ने विवेक का प्रयोग किया, न कि केवल अच्छे की उम्मीद की। यदि घटना में आपराधिक पहलू भी शामिल है, उदाहरण के लिए सिस्टम तक अनधिकृत पहुँच या डेटा में हेरफेर, तो नीदरलैंड में कंप्यूटर अपराध और साइबर अपराध के लिए आपराधिक ढाँचा दीवानी दावे के साथ लागू होता है, और आपराधिक जाँच में ठीक वही सामग्री जब्त की जाएगी।

भौतिक जगत में स्वायत्त प्रणालियाँ

जब कोई कृत्रिम बुद्धिमत्ता प्रणाली किसी वाहन को चलाती है, ड्रोन उड़ाती है या रोबोटिक भुजा को गति देती है, तो दायित्व का एक अतिरिक्त स्तर लागू होता है, और यह आमतौर पर अब तक चर्चा किए गए सभी स्तरों से अधिक सख्त होता है। शारीरिक क्षति के मामले में जोखिम दायित्व लागू होता है, जिसमें यह नहीं पूछा जाता कि कोई व्यक्ति लापरवाह था या नहीं।

मोटर वाहनों के लिए, सड़क यातायात अधिनियम 1994 का अनुच्छेद 185 पैदल यात्रियों और साइकिल चालकों को हुई क्षति के लिए वाहन के मालिक या रखवाले को उत्तरदायी बनाता है, जब तक कि अप्रत्याशित घटना (फोर्स मेज्योर) न हुई हो, जो कि एक ऐसा मानक है जिसे पूरा करना बहुत कठिन है। यह नियम इस बात से अप्रभावित रहता है कि वाहन का संचालन मानव द्वारा किया जा रहा था या चालक सहायता प्रणाली द्वारा: पहले रखवाले को जवाबदेह ठहराया जाता है, और सॉफ्टवेयर निर्माता के खिलाफ कोई भी कार्रवाई बाद में की जाती है। सार्वजनिक सड़कों पर वास्तविक स्व-चालित वाहनों का परीक्षण करने के लिए नीदरलैंड के विशेष प्रयोग कानून के तहत परमिट की आवश्यकता होती है, और उस परमिट से जुड़ी शर्तें, जिनमें पर्यवेक्षक की उपस्थिति और भूमिका शामिल है, देखभाल के मानक का हिस्सा बन जाती हैं।

मानवरहित विमान यूरोपीय ड्रोन नियमों द्वारा नियंत्रित होते हैं, और नीदरलैंड्स में Rijksinspectie Digitale Infrastructuur द्वारा ऑपरेटर पंजीकरण और श्रेणी-आधारित आवश्यकताओं का प्रशासन किया जाता है। अपनी श्रेणी से बाहर या आवश्यक योग्यता के बिना उड़ान भरने वाला ऑपरेटर न केवल विमानन नियमों का उल्लंघन करता है, बल्कि वह उस आचरण से भी बाहर निकल जाता है जिसे न्यायालय सावधानीपूर्ण आचरण कहेगा। इससे ऑटोपायलट के बारे में तकनीकी बहस शुरू होने से पहले ही लापरवाही का प्रश्न हल हो जाता है।

इन नियमों के साथ-साथ दोषपूर्ण वस्तुओं से संबंधित सामान्य नियम भी लागू होता है। किसी भी चल वस्तु का स्वामी, यदि वह वस्तु निर्धारित मानकों को पूरा नहीं करती और उससे कोई विशेष खतरा उत्पन्न होता है, तो उस खतरे से होने वाली क्षति के लिए उत्तरदायी होता है। यह नियम भौतिक मशीन पर भी लागू होता है, भले ही मूल दोष उसके सॉफ़्टवेयर में हो। यही कारण है कि औद्योगिक रोबोट या स्वचालित गोदाम प्रणाली का स्वामी विक्रेता पर दोषारोपण नहीं कर सकता। उत्पाद दायित्व व्यवस्था लागू होने पर, दोनों प्रणालियाँ परस्पर क्रिया करती हैं, और पीड़ित पक्ष आमतौर पर उस मार्ग का अनुसरण करता है जिसे साबित करना सबसे आसान हो।

स्वायत्त कार्यों वाली मशीनरी संचालित करने वाले संगठनों के लिए व्यावहारिक परिणाम यह है कि बीमा और अनुबंध को दोष-आधारित विश्लेषण के बजाय सख्त दायित्व के आधार पर व्यवस्थित किया जाना चाहिए। आपूर्तिकर्ता के खिलाफ कानूनी कार्रवाई करना फायदेमंद है, लेकिन इससे दावा आपके दरवाजे पर आने से नहीं रुकता।

दोनों तरफ जोखिम को कम करना

एआई सिस्टम के लिए जवाबदेही कम करने वाले उपाय वही उपाय हैं जो सिस्टम को ठीक से काम करने में सक्षम बनाते हैं, यही कारण है कि नियामक कैलेंडर की परवाह किए बिना उन्हें करना सार्थक है।

किसी संगठन के लिए, सिस्टम की सूची से शुरुआत करें: कौन-कौन से सिस्टम उपयोग में हैं, उन्हें किसने उपलब्ध कराया, वे क्या निर्णय लेते हैं या प्रभावित करते हैं, और उनका संचालन कौन करता है। प्रत्येक सिस्टम के लिए अपनी भूमिका निर्धारित करें, क्योंकि प्रदाता और तैनातीकर्ता के कर्तव्य अलग-अलग होते हैं। फिर, इच्छित उद्देश्य लिखें और उसी के दायरे में रहें; अनावश्यक दायित्व का सबसे आम कारण किसी ऐसे उपकरण का उपयोग करना है जिसके लिए उसे प्रमाणित नहीं किया गया है। सिस्टम का संचालन करने वाले लोगों को इसे ओवरराइड करने का वास्तविक अधिकार दें, और उनकी कार्यकुशलता का मूल्यांकन मात्रा के बजाय निर्णय क्षमता के आधार पर करें। लॉग रखें, और उन्हें विवाद की स्थिति में उपयोगी होने के लिए पर्याप्त समय तक रखें। घटनाओं को रिकॉर्ड करें, जिनमें बाल-बाल बचने वाली घटनाएं भी शामिल हैं, और उनके बारे में क्या किया गया, उसे भी रिकॉर्ड करें।

किसी निर्माता या आपूर्तिकर्ता के लिए, यह सूची उत्पाद के पूरे जीवनचक्र में लागू होती है: दस्तावेजीकृत जोखिम प्रबंधन, नियामक को समझाई जा सकने वाली डेटा गवर्नेंस, सिस्टम का वास्तव में उपयोग किए जाने वाले उपयोगकर्ताओं पर परीक्षण, सीमाओं और त्रुटि दरों के बारे में स्पष्ट निर्देश (जो केवल दिलासा देने के बजाय स्पष्ट हों), ग्राहकों के लिए समस्याओं की रिपोर्ट करने का एक माध्यम, और एक अपडेट नीति जिसमें यह बताया गया हो कि सुरक्षा पैच के लिए कौन और कितने समय तक जिम्मेदार है। संशोधित उत्पाद दायित्व व्यवस्था इस अंतिम बिंदु को पहले से कहीं अधिक स्पष्ट करती है: आपके द्वारा प्रदान किए जाने वाले अपडेट को प्रदान करने में विफलता स्वयं उत्पाद को दोषपूर्ण बना सकती है।

दोनों पक्षों को अनुबंध को औपचारिकता के बजाय जोखिम आवंटन अभ्यास के रूप में लेना चाहिए। महत्वपूर्ण खंड हैं: इच्छित उद्देश्य का विवरण, अनुपालन और प्रदर्शन संबंधी गारंटी, दस्तावेज़ और लॉग सौंपने का दायित्व, दोनों पक्षों द्वारा घटना की सूचना देने का कर्तव्य, देयता सीमा और उसके अपवाद, तृतीय-पक्ष दावों और नियामक जुर्माने के लिए क्षतिपूर्ति, और संबंध समाप्त होने पर मॉडल और डेटा का क्या होगा, यह निर्धारित करने वाली निकास व्यवस्थाएँ। सिस्टम द्वारा वास्तव में लिए गए निर्णयों को ध्यान में रखे बिना, केवल सैद्धांतिक रूप से तय की गई सीमा किसी की भी रक्षा नहीं करती।

अंत में, भले ही तात्कालिक जोखिम दीवानी हो, आपराधिक संभावना को ध्यान में रखें। एआई विफलता के लिए किसी कंपनी पर मुकदमा चलाना अभी भी असामान्य है, लेकिन इसके तत्व सामान्य हैं: कर्तव्य, उल्लंघन, अनुमानित नुकसान और एक ऐसा संगठन जिसने जोखिम को स्वीकार किया हो। यदि किसी सिस्टम का उपयोग स्पष्ट रूप से गैरकानूनी कार्य के लिए किया जाता है, या यदि कोई कंपनी ऐसे सिस्टम का संचालन जारी रखती है जिसके बारे में वह जानती है कि वह नुकसान पहुंचा रहा है, तो आपराधिक कार्रवाई का रास्ता खुल जाता है, और इसका विस्तृत विश्लेषण डच आपराधिक कानून पर हमारे लेख और एल्गोरिदम और आपराधिक उत्तरदायित्व पर संबंधित लेख में दिया गया है।

ज़्यादातर पूछे जाने वाले सवाल

Law & More हम एआई सिस्टम बनाने वाली और उनका उपयोग करने वाली संस्थाओं को अनुबंधों में जोखिम के बंटवारे, एआई अधिनियम के तहत वर्गीकरण और कर्तव्यों, और सिस्टम से हुए नुकसान की स्थिति में बचाव या दावा दायर करने के बारे में सलाह देते हैं। हमें अपनी स्थिति के बारे में बताएं। हम आपको एक कार्य दिवस के भीतर आपके विकल्पों के बारे में बता देंगे।