सुरुदेखि नै स्पष्ट होऔं: हालको डच र EU कानून अन्तर्गत, कुनै पनि अपराधको लागि एल्गोरिथ्मलाई आपराधिक रूपमा जिम्मेवार ठहराउन सकिँदैन। यो सुरुमै हुँदैन। आपराधिक अभिप्राय जस्ता मुख्य कानुनी अवधारणाहरू (mens rea) र कानूनी व्यक्तित्व मानिसहरू र केही परिस्थितिहरूमा निगमहरूको लागि आरक्षित छ।
यद्यपि, त्यो सरल उत्तर धेरै जटिल कुराकानीको सुरुवात मात्र हो। एल्गोरिथ्मका कार्यहरू सिर्जना गर्ने, तैनाथ गर्ने र निरीक्षण गर्ने मानिसहरूको दोष - वा निर्दोषता - प्रमाणित गर्न पूर्ण रूपमा केन्द्रीय बन्दै गइरहेका छन्।
के एल्गोरिथ्म अपराधको दोषी हुन सक्छ?
जब हामी आपराधिक घटनामा एआईको बारेमा कुरा गर्छौं कानुन सन्दर्भमा, वास्तविक प्रश्न यो हो कि एल्गोरिथ्म प्रतिवादीको कुर्सीमा पुग्न सक्छ कि सक्दैन। कानुनी रूपमा भन्नुपर्दा, आज यसको उत्तर दृढ छैन। यो जतिसुकै परिष्कृत भए पनि, एल्गोरिथ्ममा मुद्दा चलाउन आवश्यक पर्ने आधारभूत गुणहरूको अभाव हुन्छ। यसमा कुनै चेतना छैन, जफत गर्ने व्यक्तिगत सम्पत्ति छैन, र खोस्ने स्वतन्त्रता छैन।
यो कानुनी वास्तविकताले स्पटलाइटलाई उपकरणबाट प्रयोगकर्तामा सार्न बाध्य पार्छ। उन्नत एआई प्रणालीलाई अत्यधिक जटिल तर अन्ततः निर्जीव उपकरणको रूपमा सोच्नु उपयोगी हुन्छ - स्व-ड्राइभिङ कार वा स्वचालित कारखाना मेसिन जस्तो होइन। यदि मेसिनले हानि पुर्याउँछ भने, कानूनले मेसिनलाई मुद्दा चलाउँदैन; यसले यसको पछाडि रहेका मानिसहरूको अनुसन्धान गर्छ।
कानुनी व्यक्तित्व र नियतका बाधाहरू
फौजदारी कानून दुई स्तम्भहरूमा निर्मित छ जुन एआईले सन्तुष्ट पार्न सक्दैन: कानूनी व्यक्तित्व र आपराधिक अभिप्राय। कुनै पनि संस्थालाई अभियोजनको सामना गर्न, कानूनले यसलाई "व्यक्ति" को रूपमा मान्यता दिनुपर्छ, जसको अर्थ या त प्राकृतिक व्यक्ति (मानव) वा कानुनी व्यक्ति (कम्पनी जस्तै) हो। एआई प्रणालीहरू कुनै पनि श्रेणीमा फिट हुँदैनन्।
अझ गम्भीर कुरा के छ भने, धेरैजसो गम्भीर अपराधहरूलाई प्रमाण चाहिन्छ mens rea—एक "दोषी दिमाग।" यो प्रमाणित गर्ने बारे हो कि प्रतिवादीले एक विशिष्ट मानसिक अवस्थाको साथ काम गरेको थियो, चाहे त्यो इरादा होस्, ज्ञान होस्, वा लापरवाही होस्। एल्गोरिथ्म कोड र डेटामा चल्छ; यसले इरादा बनाउँदैन वा यसको कार्यहरूको नैतिक गलतता बुझ्दैन।
केन्द्रीय कठिनाई प्रणालीको स्वतन्त्र रूपमा छनौट गर्ने र कार्य गर्ने क्षमताबाट उत्पन्न हुन्छ, जसले गर्दा मानव अभिप्राय र परिणामस्वरूप हुने हानिको बीचमा गैर-मानव एजेन्ट घुस्छ। यसले फौजदारी कानूनमा जिम्मेवारी श्रेय दिने परम्परागत मोडेललाई बाधा पुर्याउँछ।
सीधा कुरामा पुग्नको लागि, शताब्दी पुरानो कानुनी सिद्धान्तहरू स्वायत्त प्रविधिमा लागू गर्न कानूनले केही महत्त्वपूर्ण अवरोधहरूको सामना गर्दछ। तलको तालिकाले मुख्य समस्याको सारांश प्रस्तुत गर्दछ।
एल्गोरिदमिक आपराधिक दायित्वको वर्तमान स्थिति
| कानुनी अवधारणा | मानिसहरूमा प्रयोग | एआई प्रणालीहरूमा आवेदन |
|---|---|---|
| कानूनी व्यक्तित्व | मानवहरू कानून अन्तर्गत अधिकार र कर्तव्यहरू भएका "प्राकृतिक व्यक्ति" हुन्। निगमहरू "कानूनी व्यक्ति" हुन सक्छन्। | एआई प्रणालीलाई सम्पत्ति वा उपकरण मानिन्छ। यसको कुनै स्वतन्त्र कानुनी हैसियत हुँदैन। |
| आपराधिक मनसाय (पुरुष रिया) | अभियोजकहरूले "दोषी मन" प्रमाणित गर्नुपर्छ, जस्तै नियत, लापरवाही, वा गलत कामको ज्ञान। | एउटा एल्गोरिथ्म यसको प्रोग्रामिङ र डेटा इनपुटको आधारमा सञ्चालन हुन्छ। यसमा चेतना, विश्वास वा इच्छाको अभाव हुन्छ। |
| भौतिक ऐन (एक्ट्स रिउस) | व्यक्तिले स्वैच्छिक शारीरिक कार्य (वा दोषपूर्ण भूल) गरेको हुनुपर्छ। | एआईको "कार्यहरू" कोडको आउटपुट हुन्। मानव अर्थमा तिनीहरू स्वैच्छिक कार्यहरू होइनन्। |
| सजाय | दण्डहरूमा कारावास, जरिवाना, वा सामुदायिक सेवा समावेश छ, जुन प्रतिशोध र निवारणको उद्देश्यले गरिन्छ। | एआईलाई कैद वा जरिवाना गर्न सकिँदैन। कोड "दण्ड" दिनु (जस्तै, यसलाई मेटाउनु) कानुनी ढाँचामा फिट हुँदैन। |
तपाईंले देख्न सक्नुहुन्छ, त्यहाँ एउटा आधारभूत बेमेल छ। फौजदारी कानूनको सम्पूर्ण संरचना मानव एजेन्सीको वरिपरि बनेको छ, जसको एआईमा अभाव छ।
कानूनी रूपरेखाको रूपमा विशेष दायित्व
त्यसैले, एल्गोरिथ्मलाई दोषी ठहराउन नसकिने भएकोले, डच कानून अवधारणामा फर्कन्छ श्रेय दिइएको दायित्व। यसको सरल अर्थ यो हो कि एआईको कार्यहरूको जिम्मेवारी मानव वा कर्पोरेट अभिनेतालाई तोकिएको छ - वा श्रेय दिइएको छ। यस परिदृश्यमा, एआईको आउटपुट एक महत्वपूर्ण प्रमाण बन्छ जसले यसको मानव नियन्त्रकहरूको कार्य वा लापरवाहीको संकेत गर्दछ।
यो दृष्टिकोण क्रान्तिकारी छैन। यसले अन्य जटिल उपकरणहरू प्रयोग गरेर गरिएका अपराधहरूलाई कानूनले कसरी ह्यान्डल गर्छ भन्ने कुरा प्रत्यक्ष रूपमा प्रतिबिम्बित गर्दछ। उदाहरणका लागि, यदि कुनै कम्पनीले जानाजानी चोट पुर्याउने खतरनाक रूपमा दोषपूर्ण उत्पादन बेच्छ भने, कम्पनी र यसका कार्यकारीहरू जिम्मेवार हुन्छन्, उत्पादन आफैं होइन।
यसलाई निर्देशित गर्ने सिद्धान्तहरू स्थापित कानुनी सिद्धान्तहरूसँग मेल खान्छ। यस क्षेत्रमा नेभिगेट गर्ने कानुनी पेशेवरहरूको लागि, अवस्थित ढाँचाहरूको ठोस बुझाइ आवश्यक सुरुवात बिन्दु हो। यस बारे हाम्रो विस्तृत गाइड नेदरल्याण्ड्समा आपराधिक प्रक्रिया यी मुद्दाहरू अनुसन्धानबाट फैसलामा कसरी सर्छन् भन्ने बारेमा एउटा उत्कृष्ट प्राइमर प्रदान गर्दछ। अब चुनौती भनेको नयाँ कानूनहरू सुरुदेखि नै आविष्कार गर्नु होइन, तर यी प्रमाणित सिद्धान्तहरूलाई स्वायत्त प्रणालीहरूको अद्वितीय जटिलताहरूमा अनुकूलन गर्नु हो।
डच कानूनले एआई-सहयोगी अपराधहरूको लागि कसरी दोष तोक्छ
एल्गोरिथ्म आफैंलाई परीक्षणमा राख्न नसकिने भएकोले, डच कानुनी प्रणालीले जिम्मेवारी तोक्न अवस्थित, मानव-केन्द्रित सिद्धान्तहरूमा फर्कन्छ जहाँ यसको जिम्मेवारी तोकिएको छ। यस कार्यको लागि मुख्य कानुनी उपकरण सिद्धान्त हो कार्यात्मक कार्यसम्पादन (फङ्सनिल डेडरस्क्याप).
यो शक्तिशाली सिद्धान्तले अदालतलाई कुनै व्यक्ति वा कम्पनीलाई उनीहरूले शारीरिक रूपमा नगरेको कार्यको लागि आपराधिक रूपमा उत्तरदायी ठहराउन अनुमति दिन्छ, जबसम्म उनीहरू परिस्थितिको प्रभावकारी नियन्त्रणमा हुन्छन्।
यसलाई यसरी सोच्नुहोस्: निर्माण फर्मको निर्देशकले साइटमा प्रत्येक क्रेन व्यक्तिगत रूपमा सञ्चालन गर्दैन। तर यदि तिनीहरूले जानाजानी कुनै अपरेटरलाई दोषपूर्ण क्रेन प्रयोग गर्न आदेश दिए र दुर्घटना भयो भने, निर्देशक नै दोषी हुन्छ। "क्रेन" एक परिष्कृत एआई प्रणाली हुँदा पनि यही तर्क लागू हुन्छ। एल्गोरिथ्मले के गर्यो भन्ने कुराबाट ध्यान केन्द्रित हुन्छ जसले यसलाई हुन अनुमति दियो, मानव निर्णयहरूमा।
यो एआईसँग काम गर्ने जो कोहीको लागि एक महत्वपूर्ण अवधारणा हो, किनकि यसले अभियोजकहरूलाई एआईको हानिकारक आउटपुटलाई व्यक्ति वा निगमसँग जोड्ने प्रत्यक्ष मार्ग दिन्छ। यसले एल्गोरिथ्मको "इरादा" प्रमाणित गर्ने असम्भव कार्यलाई सफासँग बेवास्ता गर्छ र यसको सट्टा यसको मानव मालिकहरूको मनसाय र लापरवाहीमा शून्य बनाउँछ।
कार्यात्मक कार्यसम्पादनका दुई परीक्षणहरू
अदालतमा कार्यात्मक अपराधको सफलतापूर्वक बहस गर्न अभियोजकले दुई प्रमुख परीक्षणहरू पूरा गर्नुपर्छ। यी मापदण्डहरू स्तम्भहरू हुन् जसले निर्धारण गर्दछ कि कुनै व्यक्ति वा कम्पनीलाई एआई मार्फत गरिएको अपराधको "कार्यात्मक" लेखकको रूपमा हेर्न सकिन्छ कि सकिँदैन।
नियन्त्रण शक्ति (बेस्चिक्किङ्समाच्ट): के व्यक्ति वा कम्पनीसँग एआईको आपराधिक व्यवहार हुने हो कि होइन भनेर निर्धारण गर्ने वास्तविक शक्ति थियो? यो सबै अधिकार र निरीक्षणको बारेमा हो - एआईको सञ्चालन नियमहरू सेट गर्ने, यसलाई बन्द गर्ने क्षमता राख्ने, वा यसको निर्णयहरूलाई मार्गदर्शन गर्ने प्यारामिटरहरू परिभाषित गर्ने जस्ता कुराहरू।
स्वीकृति (आन्वार्डिङ): के व्यक्ति वा कम्पनीले आपराधिक कार्य हुन सक्ने जोखिम स्वीकार गरे? महत्वपूर्ण कुरा, यसको लागि प्रत्यक्ष मनसाय आवश्यक पर्दैन। यदि उनीहरूलाई थाहा थियो कि हानिकारक परिणामको सम्भावना छ तर सचेत रूपमा पर्याप्त सुरक्षा उपायहरू नराख्ने निर्णय गरेमा यो प्रमाणित गर्न सकिन्छ।
यी दुई स्तम्भहरू - नियन्त्रण र स्वीकृति - डच कानूनले "के एल्गोरिथ्म आंशिक रूपमा जिम्मेवार हुन सक्छ?" भन्ने प्रश्नको जवाफ कसरी दिन्छ भन्ने आधार बनाउँछन्। उत्तर स्पष्ट छैन, तर यसको मानव नियन्त्रकलाई राख्न सकिन्छ। पूर्णतया जिम्मेवार।
एक व्यावहारिक परिदृश्य: स्वायत्त ड्रोन चोट
यसलाई वास्तविक संसारको परिदृश्यमा लागू गरौं। कल्पना गर्नुहोस्, एउटा रसद कम्पनीले स्वायत्त डेलिभरी ड्रोनहरूको फ्लीट तैनाथ गर्छ। एआई नेभिगेसन प्रणालीद्वारा निर्देशित एउटा ड्रोन, भीडभाड भएको सार्वजनिक चोकमा खराब हुन्छ र गम्भीर चोट पुर्याउँछ।
कम्पनी विरुद्ध मुद्दा चलाउने अभियोजकले कार्यात्मक अपराध ढाँचामा धेरै भर पर्नेछ:
नियन्त्रण प्रमाणित गर्दै: तिनीहरूले ड्रोन फ्लीटमाथि कम्पनीको पूर्ण नियन्त्रण रहेको प्रदर्शन गर्थे। कम्पनीले डेलिभरी रुटहरू सेट गर्थ्यो, सफ्टवेयर अपडेटहरू व्यवस्थापन गर्थ्यो, र कुनै पनि क्षणमा ड्रोनहरूलाई ग्राउन्ड गर्न "किल स्विच" समात्थ्यो।
स्वीकृति प्रमाणित गर्दै: कम्पनीलाई थाहा थियो कि उसको एआईमा ए थियो भन्ने प्रमाणहरू प्रकाशमा आउन सक्छन् 5% घना शहरी क्षेत्रहरूमा त्रुटि दर बढ्यो तर लागत घटाउन यसलाई जसरी पनि प्रयोग गर्ने निर्णय गर्यो। यो ज्ञात जोखिमको बावजुद प्रणाली सञ्चालन गरेर, कम्पनीले हानिकारक परिणामको सम्भावनालाई प्रभावकारी रूपमा स्वीकार गर्यो।
यस सिद्धान्त अन्तर्गत, कम्पनी अपराधको दोषी बन्छ (जस्तै, लापरवाहीबाट गम्भीर शारीरिक हानि)। एआई केवल उपकरण हो; कम्पनीको तैनाथी गर्ने र यसलाई पर्याप्त रूपमा सुपरिवेक्षण नगर्ने निर्णयले आपराधिक कार्य गठन गर्दछ।
कर्पोरेट दायित्व र घोर लापरवाही
कार्यात्मक अपराधको यो अवधारणा सिधै कर्पोरेट आपराधिक दायित्वमा फैलिएको छ। यदि आपराधिक आचरणलाई उचित रूपमा जिम्मेवार ठहराउन सकिन्छ भने कुनै संस्थालाई जवाफदेही बनाउन सकिन्छ। यो प्रायः घोर लापरवाहीको घटनाहरूमा लागू हुन्छ, जहाँ कम्पनीको नीतिहरू - वा त्यसको अभावले - एउटा वातावरण सिर्जना गर्यो जहाँ एआई-संचालित अपराध सम्भव मात्र थिएन, तर अनुमान गर्न सकिने पनि थियो।
कानुनी सिद्धान्तहरू राम्रोसँग स्थापित भए तापनि, एआईमा तिनीहरूको प्रयोग अझै पनि आकार लिइरहेको छ। नेदरल्याण्ड्समा, २०२५ सम्म, हानिको लागि आपराधिक दायित्वको बारेमा विशेष रूपमा कुनै प्रकाशित अदालतको निर्णयहरू छैनन्। केवल एआई प्रणालीको स्वायत्त निर्णयद्वारा। यसले देखाउँछ कि कानुनी क्षेत्र अझै पनि प्रविधिसँग खेलिरहेको छ।
अहिलेको लागि, अभियोजकहरूले यी सामान्य सिद्धान्तहरूलाई अनुकूलन गर्छन्, यदि व्यक्तिहरूले एआईलाई नियन्त्रण गरे र गलत कार्यहरूको लागि यसको सम्भावना स्वीकार गरे भने, जस्तै लापरवाह एआई सञ्चालनको परिणामस्वरूप लापरवाहीपूर्ण हत्याको घटनाहरूमा जिम्मेवार ठहराउँछन्। तपाईं हालको अवस्थाको बारेमा थप पढ्न सक्नुहुन्छ डच कानूनमा एआई र यसको प्रभाव.
कानुनी सल्लाहकारको लागि, यो वास्तविकताले एउटा कुरामा ध्यान केन्द्रित गर्दछ: जिम्मेवार मानवीय निरीक्षण र जोखिम व्यवस्थापनको लागि सक्रिय दृष्टिकोण प्रदर्शन गर्नु। नियन्त्रणको अभाव प्रमाणित गर्नु वा हानिकारक परिणाम साँच्चै अप्रत्याशित थियो भनेर तर्क गर्नु त्यस्ता आरोपहरू विरुद्ध बचाउको लागि केन्द्रीय हुनेछ।
आपराधिक दायित्वमा EU AI ऐनको प्रभाव
जबकि डच घरेलु कानून जस्तै फङ्सनिल डेडरस्क्याप दोषारोपणको लागि एक रूपरेखा प्रदान गर्दछ, परिदृश्य नाटकीय रूपमा धेरै व्यापक पहल द्वारा पुन: आकार दिइँदैछ: युरोपेली संघको आर्टिफिसियल इन्टेलिजेन्स ऐन। यो केवल नियमनको अर्को अंश मात्र होइन; यो एक व्यापक जोखिम-आधारित ढाँचा हो जुन एकल बजारमा एआई प्रणालीहरू कसरी विकास र तैनाथ गरिन्छन् भनेर नियमन गर्न डिजाइन गरिएको हो।
कानुनी पेशेवरहरू र व्यवसायहरूका लागि, एआई ऐनसँग समझदारी राख्नु महत्त्वपूर्ण छ किनभने यसले नयाँ अनुपालन कर्तव्यहरू सिर्जना गर्दछ जसको आपराधिक दायित्वमा प्रत्यक्ष असर पर्छ। यसको कडा आवश्यकताहरू पालना गर्न असफलतालाई अभियोजकहरूले लापरवाही वा लापरवाहीको शक्तिशाली प्रमाणको रूपमा प्रयोग गर्न सक्छन्, जब एआई प्रणालीले हानि पुर्याउँछ भने आपराधिक आरोपहरूको आधार बनाउँछ। यो कानूनले कुराकानीलाई हानिको लागि प्रतिक्रिया दिनेबाट सक्रिय रूपमा रोक्नमा परिवर्तन गर्दछ।
एआई ऐनले सुरक्षा वा मौलिक अधिकारलाई हानि पुर्याउने सम्भावनाको आधारमा एआई प्रणालीहरूलाई वर्गीकृत गर्दै स्पष्ट पदानुक्रम स्थापित गर्दछ। यो संरचना फौजदारी कानूनसँग यसको सम्बन्ध बुझ्नको लागि महत्वपूर्ण छ।
जोखिम कोटिहरू बुझ्दै
यस ऐनको सबैभन्दा महत्त्वपूर्ण प्रभाव यसको तहगत दृष्टिकोणबाट आउँछ। यसले सबै एआईलाई समान व्यवहार गर्दैन। बरु, यसले प्रणालीहरूलाई वर्गहरूमा वर्गीकरण गर्दछ, प्रत्येकमा फरक कानुनी दायित्वहरू छन्।
अस्वीकार्य जोखिम: यी प्रणालीहरू मौलिक अधिकारहरूका लागि यति धम्कीपूर्ण मानिन्छन् कि तिनीहरूलाई पूर्ण रूपमा प्रतिबन्ध लगाइएको छ। सरकारद्वारा सञ्चालित सामाजिक स्कोरिङ प्रणालीहरू वा कानून प्रवर्तनद्वारा सार्वजनिक स्थानहरूमा वास्तविक-समय बायोमेट्रिक पहिचान (साँघुरो अपवादहरू बाहेक) विचार गर्नुहोस्।
उच्च जोखिम: यो फौजदारी कानूनको लागि सबैभन्दा महत्वपूर्ण श्रेणी हो। यसले महत्वपूर्ण पूर्वाधार, चिकित्सा उपकरणहरू, र महत्त्वपूर्ण रूपमा, कानून प्रवर्तन र न्याय प्रशासन जस्ता संवेदनशील क्षेत्रहरूमा प्रयोग हुने एआईलाई समेट्छ। भविष्यवाणी गर्ने प्रहरी उपकरणहरू र एआई-संचालित सजाय सफ्टवेयर यस समूहमा स्पष्ट रूपमा पर्छन्।
सीमित जोखिम: च्याटबट जस्ता यी प्रणालीहरूले हल्का पारदर्शिता दायित्वहरूको सामना गर्छन्। प्रयोगकर्ताहरूलाई केवल सचेत गराउनु पर्छ कि तिनीहरू एआईसँग अन्तर्क्रिया गरिरहेका छन्।
न्यूनतम जोखिम: यस श्रेणीमा धेरैजसो एआई अनुप्रयोगहरू समावेश छन्, जस्तै स्प्याम फिल्टरहरू वा भिडियो गेमहरूमा एआई, जुन धेरै हदसम्म अनियमित छन्।
"अस्वीकार्य जोखिम" श्रेणीमा प्रणाली तैनाथ गर्नु प्रत्यक्ष उल्लङ्घन हो जसले हानि पुर्याउँछ भने आपराधिक लापरवाहीको मुद्दालाई सजिलै समर्थन गर्न सक्छ। यद्यपि, मुख्य कानुनी युद्धभूमि उच्च-जोखिम प्रणालीहरूको वरिपरि हुनेछ।
उच्च जोखिम प्रणाली र आपराधिक लापरवाही
उच्च जोखिमयुक्त एआईको लागि, ऐनले कडा आवश्यकताहरू लागू गर्दछ जुन हेरचाहको कानुनी मानकको रूपमा काम गर्दछ। यी दायित्वहरू सुझावहरू होइनन्; तिनीहरू विकासकर्ताहरू र तैनाथकर्ताहरूको लागि अनिवार्य कर्तव्यहरू हुन्।
उच्च-जोखिम प्रणालीहरूको लागि प्रमुख आवश्यकताहरूमा पूर्वाग्रह रोक्न बलियो डेटा प्रशासन, पूर्ण प्राविधिक कागजात, प्रयोगकर्ताहरूको लागि पूर्ण पारदर्शिता, मानव निरीक्षण सधैं सम्भव छ भनी सुनिश्चित गर्ने, र उच्च स्तरको शुद्धता र साइबर सुरक्षा कायम राख्ने समावेश छन्।
कल्पना गर्नुहोस् कि कुनै कम्पनीले जातीय पूर्वाग्रहको लागि तालिम डेटाको उचित जाँच नगरी भविष्यवाणी गर्ने प्रहरी एल्गोरिथ्म प्रयोग गर्छ - यो ऐनको डेटा प्रशासन नियमहरूको स्पष्ट उल्लङ्घन हो। यदि यो पक्षपाती प्रणालीले हानि पुर्याउने गलत गिरफ्तारी निम्त्याउँछ भने, एक अभियोजकसँग तयार तर्क हुन्छ। तिनीहरूले एआई ऐनको पालना नगर्नुलाई कम्पनीको उचित हेरचाह गर्न असफलताको प्रत्यक्ष प्रमाणको रूपमा औंल्याउन सक्छन्, जसले गर्दा कर्पोरेट लापरवाहीको आरोप प्रमाणित गर्न धेरै सजिलो हुन्छ।
फेब्रुअरी २०२५ मा नेदरल्याण्ड्समा लागू भएको EU-व्यापी कृत्रिम बुद्धिमत्ता ऐनले यस कानुनी परिदृश्यलाई मौलिक रूपमा आकार दिन्छ। पालना नगरेमा ठूलो मात्रामा प्रशासनिक जरिवाना हुन सक्छ €३५ मिलियन वा कुल वार्षिक कारोबारको ७%। डच सरकारले संगठनहरूलाई कुनै पनि प्रतिबन्धित प्रणालीहरू पहिचान गर्न र चरणबद्ध गर्न आदेश दिएको छ, जसले अनुहार पहिचान त्रुटिहरूबाट गलत गिरफ्तारीमा देखिने त्रुटिपूर्ण एआईमा गम्भीर चिन्ताहरू प्रतिबिम्बित गर्दछ। कानुनी विद्वानहरूले एआई प्रमाणलाई चुनौती दिन प्रतिवादीहरूको लागि बढी अधिकारको वकालत गर्ने क्रममा, ऐनले थप कठोर न्यायिक छानबिनको लागि मार्ग प्रशस्त गरिरहेको छ। यी नयाँ नियमहरूको बारेमा थप विवरणको लागि, तपाईं अन्वेषण गर्न सक्नुहुन्छ एआई ऐनले लागू गरेका प्रतिबन्धहरू.
डच चाइल्डकेयर बेनिफिट्स स्क्यान्डलबाट सिक्न सकिने पाठहरू
कानुनी सिद्धान्तहरूले हामीलाई एउटा रूपरेखा दिन्छन्, तर डच बाल हेरचाह लाभ घोटाला जस्तै एल्गोरिथमिक असफलताको वास्तविक-विश्व दांवलाई अरू केहीले चित्रण गर्दैन, वा टोस्लाजेनाफेयरयो राष्ट्रिय संकट कुनै एक दुर्भावनापूर्ण पक्षबाट नभई पूर्ण रूपमा नियन्त्रण बाहिर गएको अपारदर्शी, स्वचालित प्रणालीबाट सञ्चालित प्रणालीगत अन्यायको डरलाग्दो केस स्टडी हो।
"ब्ल्याक बक्स" एल्गोरिथ्म भित्र जब जवाफदेहिता हराउँछ तब यसले कति विनाशकारी मानवीय मूल्य चुकाउँछ भन्ने कुरा यस काण्डले प्रकट गर्दछ। कानुनी पेशेवरहरूका लागि, यो स्वचालित प्रणालीहरू, यदि आफैंलाई आपराधिक रूपमा मुद्दा चलाइएको छैन भने पनि, कसरी गहिरो हानि पुर्याउन सक्छ र हाम्रा संस्थाहरूमाथिको जनताको विश्वासलाई चकनाचूर पार्न सक्छ भन्ने कुराको महत्त्वपूर्ण पाठ हो।
कसरी एल्गोरिथ्मले हजारौंलाई झूटो आरोप लगायो
यसको मूलमा, यो घोटाला डच कर र भन्सार प्रशासन द्वारा प्रयोग गरिएको स्व-सिकाइ एल्गोरिथ्मको वरिपरि घुमेको थियो। यसको काम बाल हेरचाह लाभ दावीहरूमा सम्भावित ठगी पत्ता लगाउनु थियो। लक्ष्य राम्रो भए पनि, प्रणालीको आन्तरिक तर्क गहिरो त्रुटिपूर्ण र अन्ततः भेदभावपूर्ण थियो।
एल्गोरिथ्मले हानिरहित हुनुपर्ने मापदण्डको आधारमा हजारौं परिवारहरूलाई गलत रूपमा ठगीकर्ताको रूपमा चिन्ह लगाउन थाल्यो। हस्ताक्षर हराएको जस्तो सानो प्रशासनिक गल्ती पूर्ण ठगी अनुसन्धान सुरु गर्न पर्याप्त थियो। परिणामहरू धेरै समयको लागि विनाशकारी थिए। Families,००० परिवारजसलाई दशौं हजार युरो तिर्न आदेश दिइएको थियो, जसले गर्दा धेरैलाई आर्थिक रूपमा बर्बाद पारिएको थियो।
यो अवस्थाले देखाउँछ कि एआईले अन्यायलाई कति शक्तिशाली रूपमा बढाउन सक्छ। कर अधिकारीहरूको एल्गोरिदममा रहेका भेदभावपूर्ण ढाँचाहरूले विशिष्ट समूहहरूलाई अनुचित रूपमा लक्षित गरे, जसले गर्दा गम्भीर आर्थिक र सामाजिक क्षति भयो। राष्ट्रिय आक्रोशको प्रतिक्रियामा, डच सरकारले २०१५ मा 'डिजाइनद्वारा गैर-भेदभाव सम्बन्धी पुस्तिका' प्रकाशित गर्यो। 2021 भविष्यका एआई प्रणालीहरूमा यस्ता पूर्वाग्रहहरूलाई सक्रिय रूपमा रोक्नको लागि। तपाईंले यस बारे थप अन्तर्दृष्टिहरू पत्ता लगाउन सक्नुहुन्छ globallegalinsights.com मा डच कानूनले कसरी एआईलाई अनुकूलन गरिरहेको छ.
पारदर्शिता र जवाफदेहितामा रहेका महत्वपूर्ण कमीकमजोरीहरू
यो टोस्लाजेनाफेयर स्वचालित निर्णय लिने प्रक्रियाको कानुनी र नैतिक निरीक्षणमा धेरै महत्वपूर्ण खाडलहरू खोलियो। यी असफलताहरू एल्गोरिथ्मको आउटपुटले यसको मानव सञ्चालकहरूको लागि आपराधिक जिम्मेवारीको प्रश्न उठाउन सक्छ भनेर बुझ्नको लागि केन्द्रबिन्दु हुन्।
तीन प्रमुख असफलताहरू उल्लेखनीय थिए:
पारदर्शीताको अभाव: प्रभावित परिवारहरूलाई उनीहरूलाई किन झण्डा लगाइयो भन्ने स्पष्ट कारण कहिल्यै दिइएन। प्रणाली एउटा कालो बक्स थियो, जसले गर्दा उनीहरूलाई यसको निष्कर्षलाई चुनौती दिन असम्भव भयो।
मानव निरीक्षणको अभाव: एल्गोरिथ्मका निर्णयहरूलाई प्रायः सुसमाचारको रूपमा व्यवहार गरिन्थ्यो। स्वचालित ठगी वर्गीकरणमाथि प्रश्न उठाउन वा ओभरराइड गर्न मानव अधिकारीहरूको प्रणालीगत असफलता थियो।
दोषको अनुमान: एक पटक प्रणालीले कुनै परिवारलाई दोषी ठहर गरेपछि, उनीहरूलाई दोषी ठहराइयो। यसले प्रमाणको बोझलाई उल्ट्यायो, जसले गर्दा उनीहरूलाई अदृश्य आरोप लगाउने व्यक्ति विरुद्ध आफ्नो निर्दोषता प्रमाणित गर्न असम्भव लडाईंमा बाध्य तुल्यायो।
यो काण्डले एउटा स्पष्ट सम्झना गरायो कि जब स्वचालित प्रणालीले जीवन परिवर्तन गर्ने निर्णय गर्छ, "स्पष्टीकरणको अधिकार" कुनै विलासिता होइन - यो न्यायको आधारभूत अंश हो। यो बिना, कुनै अर्थपूर्ण अपील हुन सक्दैन।
यस्ता आरोपहरूको सामना गर्ने जो कोहीको लागि, कानुनी ढाँचा बुझ्नु सर्वोपरि छ। ठगीको लागि डच दृष्टिकोण जटिल छ, र यो घोटालाले विशेषज्ञ मार्गदर्शनको आवश्यकतालाई जोड दिन्छ। यस बारे थप जान्नुहोस् हाम्रो लेखमा ठगी र वित्तीय अपराधको लागि डच कानुनी दृष्टिकोण.
परिणाम: नियमनको लागि एक धक्का
कुनै पनि एल्गोरिथ्म परीक्षणमा नराखिए पनि, यसको मानवीय र राजनीतिक परिणाम ठूलो थियो। यसले सन् २००८ मा सम्पूर्ण डच सरकारको राजीनामा निम्त्यायो। 2021। यो घोटाला परिवर्तनको लागि एक शक्तिशाली उत्प्रेरक बन्यो, जसले सार्वजनिक प्रशासनमा एआई प्रयोगको लागि कडा निर्देशिकाहरूको विकासलाई प्रत्यक्ष रूपमा प्रभाव पार्यो।
यसले प्रमाणित गर्यो कि संहिता विरुद्ध आपराधिक आरोप बिना पनि, लापरवाहीपूर्वक त्रुटिपूर्ण, पक्षपाती प्रणाली तैनाथ गर्दा व्यापक संस्थागत लापरवाही जस्तै परिणाम हुन सक्छ। यो सावधानीपूर्ण कथाले अब युरोपभरि नियामक छलफलहरूलाई सूचित गर्दछ, EU AI ऐन सहित, पारदर्शिता, निष्पक्षता र मानव निरीक्षण भविष्यको कुनै पनि AI तैनाथीको अग्रभागमा छन् भनी सुनिश्चित गर्दै।
एआई संलग्न हुँदा रक्षा रणनीतिहरू
जब कुनै ग्राहकले एआई प्रणालीले गरेको कुनै कामको कारणले आपराधिक आरोपहरूको सामना गरिरहेको हुन्छ, तब उनीहरूको कानुनी सल्लाहकार चुनौतीपूर्ण नयाँ संसारमा प्रवेश गर्छन्। मानक कानुनी प्लेबुकलाई ठूलो पुनर्विचार गर्न आवश्यक छ। ठोस प्रतिरक्षाले मानव मनसाय वा लापरवाहीको लागि अभियोजन पक्षको मुद्दालाई अलग गर्नमा ध्यान केन्द्रित गर्नुपर्छ, र यसको अर्थ प्रायः एल्गोरिथ्मको आफ्नै स्वायत्त र कहिलेकाहीं अप्रत्याशित प्रकृतिमा ध्यान केन्द्रित गर्नु हो।
कुनै पनि अभियोजकको लागि सबैभन्दा ठूलो बाधा भनेको कुनै मानिसको खास आपराधिक मनसाय थियो भनेर प्रमाणित गर्नु हो (mens rea) जब हानिको प्रत्यक्ष कारण जटिल एल्गोरिथ्म थियो। यो ठ्याक्कै त्यहीं हो जहाँ प्रतिरक्षाको सबैभन्दा राम्रो सुरुवात हुन्छ। उद्देश्य भनेको मानवसँग एआईको स्वतन्त्र निर्णयको लागि आपराधिक रूपमा जिम्मेवार ठहराउन नियन्त्रण वा दूरदर्शिता थिएन भनेर देखाएर उचित शंका सिर्जना गर्नु हो।
ब्ल्याक बक्स डिफेन्ससँग चुनौतीपूर्ण उद्देश्य
उपलब्ध सबैभन्दा बलियो तर्कहरू मध्ये एक हो "ब्ल्याक बक्स" रक्षा। यो रणनीति यस तथ्यमा आधारित छ कि धेरै उन्नत एआई प्रणालीहरू, विशेष गरी गहिरो सिकाइ वा तंत्रिका सञ्जालहरूमा निर्मित, स्वाभाविक रूपमा अपारदर्शी छन्। तर्क सीधा छ: यदि प्रणाली सिर्जना गर्ने व्यक्तिहरूले यो कसरी कुनै विशेष निष्कर्षमा पुग्यो भनेर पूर्ण रूपमा व्याख्या गर्न सक्दैनन् भने, प्रयोगकर्ताले कसरी आपराधिक परिणामको पूर्वानुमान र उद्देश्य राखेको अपेक्षा गर्न सकिन्छ?
यो बचाउ उद्देश्य आवश्यकताको मुटुमा जान्छ। वकिलले तर्क गर्न सक्छन् कि एआईको हानिकारक कार्य एक अप्रत्याशित, आकस्मिक व्यवहार थियो - एक प्रकारको डिजिटल फ्लुक, योजनाबद्ध आपराधिक कार्य होइन। एआई जति जटिल र स्वायत्त हुन्छ, यो तर्क त्यति नै बलियो हुँदै जान्छ।
यो रक्षा कार्यलाई सफल बनाउनको लागि, तपाईंलाई आफ्नो पक्षमा सही विशेषज्ञहरू चाहिन्छ।
डिजिटल फोरेन्सिक विशेषज्ञहरू: तिनीहरूले एआईको कोड, डेटा लग, र निर्णय लिने मार्गहरूमा डुब्न सक्छन् र यो आफ्नो अपेक्षित व्यवहारबाट कहाँ विचलित भयो भनेर सही बिन्दु पत्ता लगाउन सक्छन्।
एआई नीतिशास्त्री र कम्प्युटर वैज्ञानिकहरू: यी विज्ञहरूले निश्चित एआई मोडेलहरूको अन्तर्निहित अप्रत्याशितताको बारेमा गवाही दिन सक्छन्। तिनीहरूले अदालतलाई व्याख्या गर्न सक्छन् कि किन "दुष्ट" परिणाम प्राविधिक विफलता थियो, प्रतिवादीको इच्छाको उत्पादन होइन।
घटनालाई अप्रत्याशित खराबीको रूपमा प्रस्तुत गरेर, बचाउ पक्षले प्रभावकारी रूपमा तर्क गर्न सक्छ कि दोषी ठहराउन आवश्यक पर्ने "दोषी दिमाग" त्यहाँ छैन।
नियन्त्रणको अभाव वा दोषपूर्ण छुट प्रमाणित गर्दै
अर्को प्रभावकारी रणनीति भनेको अभावको बहस गर्नु हो प्रभावकारी नियन्त्रण। डच कानुनी सिद्धान्त अन्तर्गत फङ्सनिल डेडरस्क्याप (कार्यात्मक अपराध), दायित्वको लागि प्रतिवादीसँग कार्य नियन्त्रण गर्ने शक्ति हुनु आवश्यक छ। प्रतिरक्षाले यो प्रदर्शन गरेर यसलाई पछाडि धकेल्न सक्छ कि, एक पटक एआई सक्रिय र चलिरहेको बेला, यो स्वायत्तताको डिग्रीको साथ संचालित थियो जसले यसको कार्यहरूलाई प्रतिवादीको प्रत्यक्ष प्रभावभन्दा बाहिर राख्यो।
यसमा प्रणालीलाई वास्तविक समयमा सिक्न र अनुकूलन गर्न डिजाइन गरिएको थियो भनेर देखाउनु समावेश हुन सक्छ, जसले गर्दा यसको व्यवहार तरल हुन्छ र पूर्ण रूपमा अनुमान गर्न सकिँदैन। बचाउ पक्षको अडान यो हुन्छ कि प्रतिवादीलाई त्यस्तो कार्यको लागि जिम्मेवार ठहराउन सकिँदैन जुन उनीहरूले प्रत्यक्ष रूपमा आदेश दिन वा उचित रूपमा रोक्न सक्दैनन्।
यस प्रतिरक्षाको मूल उद्देश्य भनेको मानव दोषीबाट प्राविधिक स्वायत्ततामा कथा परिवर्तन गर्नु हो। यसले प्रतिवादीलाई अपराधीको रूपमा होइन, तर प्रणालीको अप्रत्याशित तर्कको शिकारको रूपमा पुन: फ्रेम गर्दछ।
जब एआईको कार्यले आपराधिक दायित्व निम्त्याउन सक्छ, बलियो हुनु एआई एजेन्ट रेलिङहरू यो केवल एक महत्वपूर्ण रोकथाम कदम मात्र होइन तर बलियो प्रतिरक्षाको एक प्रमुख भाग पनि हो। यस प्रकारका अत्याधुनिक सुरक्षा उपायहरू लागू गरिएको थियो भनेर प्रमाणित गर्नाले प्रतिवादीले हानिकारक परिणामको जोखिमलाई लापरवाहीपूर्वक स्वीकार गरेन भन्ने तर्कलाई शक्तिशाली रूपमा समर्थन गर्न सक्छ।
अन्ततः, निष्पक्ष प्रतिरक्षाको अधिकार सर्वोपरि छ, प्राविधिक रूपमा जटिल मामिलाहरूमा पनि। प्रतिवादीलाई आधारभूत सुरक्षा हुन्छ, जस्तै कुनै पनि मानव-केन्द्रित अपराधमा। यी मुख्य सिद्धान्तहरूलाई फराकिलो सन्दर्भमा बुझ्नको लागि, तपाईंले थप जान्न सक्नुहुन्छ आपराधिक मामिलामा मौन बस्ने अधिकार र यो डच कानून भित्र कसरी लागू हुन्छ।
एआई प्रयोग गर्ने व्यवसायहरूको लागि व्यावहारिक अनुपालन रोडम्याप
कानुनी सिद्धान्तहरू जान्नु एउटा कुरा हो, तर वास्तवमा ठोस अनुपालन ढाँचा निर्माण गर्नु पूर्ण रूपमा अर्को चुनौती हो। नेदरल्याण्ड्स र EU भरि AI प्रयोग गर्ने व्यवसायहरूको लागि, आपराधिक दायित्वको जोखिम व्यवस्थापन गर्ने उत्तम तरिका भनेको सक्रिय शासन र तपाईंले आफ्नो गृहकार्य पूरा गर्नुभएको देखाउन सक्षम हुनु हो। स्पष्ट रोडम्याप आवश्यक छ।
यो नवप्रवर्तनलाई दबाउने बारेमा होइन। यो तपाईंको कम्पनी, तपाईंका ग्राहकहरू र तपाईंको प्रतिष्ठालाई जोगाउन स्मार्ट सुरक्षा उपायहरू राख्ने बारेमा हो। बलियो आन्तरिक रूपरेखा सिर्जना गरेर, यदि कुनै AI प्रणालीले कहिल्यै अप्रत्याशित हानि पुर्याउँछ भने, तपाईंले लापरवाही वा लापरवाहीको कुनै पनि दावी विरुद्ध शक्तिशाली प्रतिरक्षा पनि निर्माण गर्दै हुनुहुन्छ।
तपाईंको एआई गभर्नेन्स फाउन्डेसन निर्माण गर्दै
पहिलो कुरा: तपाईंलाई निरीक्षण र जवाफदेहिताको लागि स्पष्ट संरचना चाहिन्छ। यो केवल एक IT समस्या होइन; यो एक मुख्य व्यावसायिक जिम्मेवारी हो जसलाई तपाईंको कानुनी, अनुपालन, र कार्यकारी टोलीहरूबाट पूर्ण समर्थन चाहिन्छ। बलियो अपनाउने एआई प्रशासनका उत्कृष्ट अभ्यासहरू जोखिम व्यवस्थापन गर्न र तपाईंको एआई कानुनी र नैतिक रूपमा तैनाथ गरिएको सुनिश्चित गर्नको लागि यो एक महत्त्वपूर्ण कदम हो।
तपाईंको शासन मोडेल केही प्रमुख स्तम्भहरूमा निर्माण हुनुपर्छ:
मानव-इन-द-लूप निरीक्षण: कुनै पनि उच्च दांवको निर्णयको लागि, अन्तिम निर्णय एक व्यक्तिको हुनुपर्छ। यो व्यक्ति वा टोलीलाई हस्तक्षेप गर्न, सुधार गर्न, वा AI को सुझावहरूलाई पूर्ण रूपमा ओभरराइड गर्न अधिकार र प्राविधिक ज्ञान चाहिन्छ।
जवाफदेहिताका रेखाहरू स्पष्ट गर्नुहोस्: विकास र डेटा सोर्सिङदेखि तैनाती र निरन्तर अनुगमनसम्म - प्रत्येक चरणमा तपाईंले एआई प्रणालीको लागि को जिम्मेवार छ भनेर ठ्याक्कै परिभाषित गर्नुपर्छ। यहाँ कुनै पनि खैरो क्षेत्रले महत्त्वपूर्ण कानुनी जोखिमहरू सिर्जना गर्दछ।
नियमित एल्गोरिदमिक लेखा परीक्षण: जसरी तपाईंले आफ्नो कम्पनीको वित्तको लेखा परीक्षण गर्नुहुन्छ, त्यसरी नै तपाईंले आफ्नो एआई प्रणालीहरूको नियमित रूपमा लेखा परीक्षण गर्नुपर्छ। यी लेखा परीक्षणहरू स्वतन्त्र तेस्रो पक्षहरूद्वारा प्रदर्शन, निष्पक्षता, र EU एआई ऐन जस्ता नियमहरूको पालना जाँच गर्न गरिनुपर्छ।
व्याख्यायोग्यता र डेटा अखण्डतामा जोड दिँदै
यदि तपाईं आफ्नो प्रणाली कसरी काम गर्छ भनेर व्याख्या गर्न सक्नुहुन्न भने, तपाईं अदालतमा यसको बचाउ गर्न सक्नुहुन्न। "ब्ल्याक बक्स" समस्या एउटा ठूलो कानुनी कमजोरी हो, जसले पारदर्शिताको लागि डिजाइनलाई अत्यन्तै महत्वपूर्ण बनाउँछ।
डिजाइनद्वारा व्याख्यायोग्यता एक गैर-वार्तालापयोग्य सिद्धान्त हुनुपर्छ। तपाईंका प्राविधिक टोलीहरूले त्यस्तो प्रणाली निर्माण गर्नुपर्छ जहाँ निर्णय प्रक्रियालाई न्यायाधीश र नियामकहरू जस्ता गैर-प्राविधिक व्यक्तिहरूलाई दस्तावेजीकरण गर्न, बुझ्न र व्याख्या गर्न सकिन्छ।
यो सबै तपाईंको मोडेलहरूलाई तालिम दिन प्रयोग गरिने डेटाबाट सुरु हुन्छ। पूर्वाग्रह विरुद्ध सावधानीपूर्वक डेटा प्रशासन तपाईंको उत्तम प्रतिरक्षा हो—एल्गोरिथमिक हानिको प्रमुख स्रोत। तपाईंको डेटा उच्च-गुणस्तरको, सान्दर्भिक छ, र यसले असर गर्ने मानिसहरूलाई उचित रूपमा प्रतिनिधित्व गर्दछ भनी सुनिश्चित गर्नुहोस्। स्पष्ट लेखा परीक्षण ट्रेल सिर्जना गर्न तपाईंले डेटा कसरी स्रोत गर्नुहुन्छ, सफा गर्नुहुन्छ र प्रशोधन गर्नुहुन्छ भन्ने प्रत्येक चरणको दस्तावेजीकरण गर्नुहोस्। यो कागजात तपाईंले उचित परिश्रम प्रयोग गर्नुभएको छ भन्ने अमूल्य प्रमाण हो।
EU AI ऐन अनुपालन चेकलिस्ट
EU AI ऐन सक्रिय जोखिम व्यवस्थापनको बारेमा हो, विशेष गरी उच्च-जोखिम प्रणालीहरूको लागि। तपाईंको अनुपालन रणनीतिले सुरक्षा र निष्पक्षताप्रति निरन्तर प्रतिबद्धता देखाउनु आवश्यक छ।
व्यावहारिक चेकलिस्टमा समावेश हुनुपर्छ:
जोखिम वर्गीकरण: तपाईंको कम्पनीले प्रयोग गर्ने प्रत्येक एआई प्रणालीलाई ऐनको जोखिम वर्गहरू अनुसार औपचारिक रूपमा वर्गीकृत गर्नुहोस्।
प्रभाव मूल्याङ्कन: कुनै पनि उच्च-जोखिमयुक्त एआई प्रयोग गर्नु अघि, डेटा सुरक्षा प्रभाव मूल्याङ्कन (DPIAs) र मौलिक अधिकार प्रभाव मूल्याङ्कन (FRIAs) सञ्चालन र दस्तावेजीकरण गर्नुहोस्।
प्राविधिक दस्तावेज: नियामकहरूले माग गर्दा प्रदान गर्न विस्तृत, अद्यावधिक प्राविधिक कागजातहरू तयार राख्नुहोस्।
सतत निगरानी: एआईको कार्यसम्पादनमा निगरानी राख्न र यसलाई तैनाथ गरिसकेपछि देखा पर्ने कुनै पनि अप्रत्याशित जोखिमहरू समात्न पोस्ट-मार्केट अनुगमनको लागि प्रक्रियाहरू सेट अप गर्नुहोस्।
एआई र आपराधिक दायित्वको बारेमा बारम्बार सोधिने प्रश्नहरू
के कुनै कम्पनीले आफ्नो एआई भेदभाव गर्छ भने उसलाई आपराधिक रूपमा उत्तरदायी ठहराउन सकिन्छ?
हो, यो बिल्कुलै सम्भव छ। तपाईंले एआई प्रणालीलाई आफैंलाई कठघरामा देख्नुहुने छैन, तर यसलाई प्रयोगमा ल्याउने कम्पनीले डच कर्पोरेट आपराधिक दायित्व सिद्धान्तहरू अन्तर्गत भेदभावपूर्ण परिणामहरूको लागि निश्चित रूपमा आपराधिक आरोपहरूको सामना गर्न सक्छ। यदि कुनै कम्पनीको नेतृत्वलाई एआईको पूर्वाग्रहको सम्भावनाको बारेमा थाहा थियो र केही गरेन, वा यदि तिनीहरू आफ्नो निरीक्षणमा घोर लापरवाही गरे भने, आपराधिक आरोपहरू एक धेरै वास्तविक सम्भावना हो। EU एआई ऐनले उच्च-जोखिम प्रणालीहरूको लागि कडा पूर्वाग्रह विरोधी नियमहरू पनि सेट गर्दछ। ती मापदण्डहरू पूरा गर्न असफल हुनु कुनै पनि आपराधिक मुद्दामा लापरवाहीको शक्तिशाली प्रमाण हुनेछ। एआईको सिर्जना, प्रशिक्षण र तैनाती वरिपरि गरिएका मानवीय निर्णयहरूमा कानुनी स्पटलाइट सधैं सबैभन्दा चम्किलो हुनेछ।
एआईमा ब्ल्याक बक्स समस्या के हो?
"ब्ल्याक बक्स" समस्या जटिल एआई मोडेलहरूको लागि एक शब्द हो जहाँ तिनीहरूलाई निर्माण गर्ने मानिसहरूले पनि कुनै विशेष आउटपुट कसरी पुग्यो भनेर पूर्ण रूपमा पत्ता लगाउन सक्दैनन्। एआई र फौजदारी कानून टक्कर हुँदा यो एक ठूलो मुद्दा हो। अदालतमा, यो वास्तवमा बचाउको आधारशिला बन्न सक्छ। एक वकिलले तर्क गर्न सक्छ कि हानिकारक परिणाम पूर्ण रूपमा अप्रत्याशित थियो, जसको अर्थ प्रतिवादीसँग आवश्यक आपराधिक मनसाय (पुरुषार्थ) को अभाव थियो। तर्क सरल छ: तिनीहरूले कसरी त्यस्तो परिणामको उद्देश्य राखेका थिए जुन तिनीहरूले सम्भवतः भविष्यवाणी गर्न सक्दैनन्? तर अभियोजकहरूको बलियो पुनरागमन छ। तिनीहरू तर्क गर्न सक्छन् कि उचित सुरक्षा बिना शक्तिशाली, अप्रत्याशित प्रणाली तैनाथ गर्नु आफैमा लापरवाही वा घोर लापरवाहीको कार्य हो। र त्यो आपराधिक दायित्वको लागि आवश्यक मानसिक तत्वलाई सन्तुष्ट पार्न पर्याप्त हुन सक्छ। यसले पूर्वानुमान र हेरचाहको कर्तव्यमाथि उच्च-दांव कानुनी लडाईको लागि चरण सेट गर्दछ।
विकासकर्ताहरूको लागि कानुनी जोखिम सीमित गर्ने उत्तम तरिका के हो?
विकासकर्ताहरूले कानुनी जोखिमबाट आफूलाई जोगाउन गर्न सक्ने सबैभन्दा प्रभावकारी कुरा भनेको एआईको जीवनको हरेक चरणमा सावधानीपूर्वक, पारदर्शी कागजातहरू राख्नु हो। यसलाई तपाईंको सबैभन्दा महत्त्वपूर्ण प्रमाण बन्न सक्ने विस्तृत "अडिट ट्रेल" सिर्जना गर्ने रूपमा सोच्नुहोस्। यो कागजातले सुरुदेखि अन्त्यसम्म सबै कुरा समेट्नु आवश्यक छ: डेटा स्रोतहरू: प्रशिक्षण डेटा कहाँबाट आयो, र गुणस्तर र पूर्वाग्रहको लागि कसरी जाँच गरियो?; पूर्वाग्रह न्यूनीकरण: डेटासेटहरूबाट पूर्वाग्रहहरू फेला पार्न र हटाउन कस्ता विशेष कदमहरू चालिएका थिए?; डिजाइन तर्क: मुख्य वास्तुकला विकल्पहरू र एल्गोरिदमहरू पछाडिको तर्क के थियो?; परीक्षण परिणामहरू: प्रत्येक परीक्षण रनको पूर्ण रेकर्ड, जसमा असफलताहरू र तपाईंले तिनीहरूलाई कसरी ठीक गर्नुभयो। मानव निरीक्षणको लागि स्पष्ट रूपरेखा राख्नु पनि उत्तिकै महत्त्वपूर्ण छ। यदि कहिल्यै अनुसन्धान हुन्छ भने, यो कागजी कार्य उचित परिश्रमको निर्विवाद प्रमाणको रूपमा काम गर्दछ। यसले देखाउन मद्दत गर्दछ कि कुनै पनि क्षति साँच्चै अप्रत्याशित दुर्घटना थियो, लापरवाहीको परिणाम होइन - र त्यो ठोस कानुनी प्रतिरक्षाको आधार बनाउँछ।
के हालको डच र EU कानून अन्तर्गत कुनै अपराधको लागि एल्गोरिथ्मलाई आपराधिक रूपमा जिम्मेवार ठहराउन सकिन्छ?
होइन। हालको कानून अन्तर्गत एल्गोरिथ्मलाई आपराधिक रूपमा जिम्मेवार ठहराउन सकिँदैन। आपराधिक अभिप्राय (पुरुषार्थ) र कानूनी व्यक्तित्व जस्ता मुख्य कानुनी अवधारणाहरू मानिसहरू र केही परिस्थितिहरूमा, निगमहरूका लागि आरक्षित छन्।
किन एउटा एआई प्रणालीलाई एक व्यक्ति जस्तै परीक्षणमा राख्न सकिँदैन?
एउटा एल्गोरिथ्ममा मुद्दाको सामना गर्न आवश्यक पर्ने आधारभूत गुणहरूको अभाव हुन्छ: यसमा कुनै चेतना हुँदैन, कब्जा गर्न कुनै व्यक्तिगत सम्पत्ति हुँदैन, र खोस्न सकिने कुनै स्वतन्त्रता हुँदैन, जुन प्राकृतिक व्यक्ति वा कानुनी व्यक्तिको रूपमा मान्यता प्राप्त निगम जस्तो हुँदैन।
के यसको अर्थ एआई आपराधिक मुद्दाहरूमा अप्रासंगिक छ भन्ने हो?
होइन, ठीक उल्टो। यद्यपि एल्गोरिथ्म आफैं दोषी हुन सक्दैन, यसको कार्यहरू यसलाई सिर्जना गर्ने, तैनाथ गर्ने र निरीक्षण गर्ने मानिसहरूको दोष वा निर्दोषता प्रमाणित गर्न केन्द्रीय बन्दै गइरहेका छन्।
एआई प्रणालीहरूमा कुन कानुनी अवधारणा लागू गर्न सबैभन्दा गाह्रो छ?
आपराधिक मनसाय (mens rea) विशेष गरी गाह्रो छ, किनकि अभियोजकहरूले सामान्यतया दोषी मनसाय जस्तै मनसाय, लापरवाही वा गलत कामको ज्ञान प्रमाणित गर्नुपर्छ, जबकि एल्गोरिथ्म केवल यसको प्रोग्रामिङ र डेटा इनपुटहरूमा आधारित हुन्छ र चेतना, विश्वास वा इच्छाहरूको अभाव हुन्छ।
