एल्गोरिदमिक व्यवस्थापन: के एल्गोरिदमले तपाईंको कार्यसम्पादनको मूल्याङ्कन गर्न सक्छ?

एल्गोरिथमिक व्यवस्थापन, कर्मचारीहरूको निगरानी, ​​स्कोर र निर्देशन गर्न एआई प्रणालीहरूको प्रयोग, नेदरल्याण्ड्समा अनुमति छ तर दृढ सीमा भित्र मात्र। एल्गोरिथ्मले कार्यसम्पादन मूल्याङ्कनलाई समर्थन गर्न सक्छ; यो तपाईंमा महत्त्वपूर्ण प्रभाव पार्ने निर्णयको लागि एकमात्र आधार नहुन सक्छ, जस्तै बर्खास्त, पदावनति वा बोनस अस्वीकार, किनभने GDPR को धारा २२ ले ती निर्णयहरू एक व्यक्तिको लागि सुरक्षित गर्दछ जसले साँच्चै तिनीहरूको समीक्षा गर्दछ। यसको माथि, EU AI ऐनले कामदारहरूको निगरानी र मूल्याङ्कन गर्न प्रयोग गरिने प्रणालीहरूलाई उच्च-जोखिमको रूपमा वर्गीकृत गर्दछ, र यसले कार्यस्थलमा कर्मचारीहरूको भावनाहरू अनुमान गर्न एआईको प्रयोगलाई पूर्ण रूपमा निषेध गर्दछ।

एल्गोरिदमिक व्यवस्थापन वास्तवमा के हो?

एल्गोरिदमिक व्यवस्थापन भनेको त्यस्तो अवस्था हो जहाँ सफ्टवेयरले पर्यवेक्षकको सट्टा अवलोकन, मापन र प्रायः न्याय गर्ने काम गर्छ। यो गोदामहरू र वितरण केन्द्रहरूमा, ग्राहक सम्पर्क केन्द्रहरूमा, प्लेटफर्मको काममा, र बढ्दो रूपमा सामान्य कार्यालय भूमिकाहरूमा देखा पर्दछ जहाँ उत्पादकता उपकरण मानिसहरूले पहिले नै प्रयोग गर्ने प्रणालीहरूमा निर्मित हुन्छ। कानुनी प्रश्नहरू उठ्नको लागि रोजगारदाताले एआई प्रबन्धक भनिने उत्पादन किन्नु पर्दैन; स्वचालित रूपमा सङ्कलन गरिएको डेटामा कर्मचारीहरूलाई स्कोर गर्ने ड्यासबोर्ड पर्याप्त छ।

यस्तो प्रणालीले राम्रो काम गर्ने कुरा गणना हो। यसले पूरा भएका कार्यहरू, ह्यान्डल गर्ने समय, प्रतिक्रिया समय, स्क्रिप्टको पालना, आवेदनमा लग इन गरिएका घण्टाहरू दर्ता गर्दछ। यसले के गर्न सक्दैन भने संख्या किन सारियो भनेर बुझ्नु हो। एक कर्मचारी जसको उत्पादन घट्छ किनभने उनले तीन हप्ता नयाँ सहकर्मीलाई तालिम दिन बिताएकी थिइन्, किनभने उनी एक ग्राहकलाई ह्यान्डल गर्दै थिए जसलाई अरू कसैले व्यवस्थापन गर्न सक्दैनथ्यो, वा त्यो अवधिमा काम असामान्य रूपमा जटिल थियो, डेटामा कम काम गर्ने कर्मचारी जत्तिकै देखिन्छ। मापन र अर्थ बीचको त्यो खाडल यस क्षेत्रमा लगभग हरेक कानुनी विवादको स्रोत हो।

कुरा यो होइन कि कार्यसम्पादन मापन गर्नु गैरकानूनी हो। रोजगारदाताहरूलाई काम कसरी भइरहेको छ भनेर जान्न पाउने अधिकार छ, र उचित अनुगमन व्यवसाय सञ्चालनको एक सामान्य भाग हो। कुरा यो हो कि डच र युरोपेली कानूनले मापन गर्ने तरिका र सबैभन्दा माथि, यसको उत्पादन प्रयोग गर्ने तरिकामा सर्तहरू जोड्दछ।

यी प्रणालीहरूले तपाईंको कार्यसम्पादनलाई कसरी स्कोर गर्छन्

मेकानिक्स बुझ्नु महत्त्वपूर्ण छ, किनकि तपाईंको अधिकार प्रक्रियाको विशिष्ट चरणहरूसँग सम्बन्धित छ। व्यापक रूपमा, तीन कुराहरू हुन्छन्: डेटा सङ्कलन गरिन्छ, एउटा मोडेलले त्यो डेटालाई निर्णयमा परिणत गर्छ, र कोही वा केहिले यसमा कार्य गर्दछ।

प्रणालीले के सङ्कलन गर्छ

सङ्कलन सामान्यतया अदृश्य र निरन्तर हुन्छ। ग्राहक सम्पर्क वातावरणमा प्रणालीले ह्यान्डल गरिएका सम्पर्कहरूको संख्या, औसत ह्यान्डलिङ समय, पहिलो पटकको रिजोल्युसन, कलहरू बीचको निष्क्रिय समय, र निर्धारित लिपिको पालना दर्ता गर्न सक्छ। यसले थप जान सक्छ र सामग्रीको विश्लेषण गर्न सक्छ: इमेल र कल ट्रान्सक्रिप्टहरूमा लागू गरिएको प्राकृतिक भाषा प्रशोधन, किवर्ड पत्ता लगाउने, र कुराकानीको ग्राहक पक्षको भावना स्कोरिङ। रसदमा यो स्क्यान दरहरू र छनौट गति हुनेछ; कार्यालयको काममा, सहकार्य उपकरणहरूमा गतिविधि।

यी प्रत्येक डेटा पोइन्टहरू तपाईंको बारेमा व्यक्तिगत डेटा हुन्, र प्रत्येकलाई उचित ठहराउनुपर्छ। GDPR अन्तर्गत, रोजगारदाताले प्रणालीले सङ्कलन गर्न सक्ने सबै कुरा सङ्कलन गर्न सक्दैन; प्रशोधन निर्दिष्ट उद्देश्यको लागि आवश्यक हुनुपर्छ र यसको अनुपातमा हुनुपर्छ। कडा परिश्रम गर्ने व्यक्ति स्थापित गर्न किस्ट्रोकहरू रेकर्ड गर्ने वा आवधिक स्क्रिनसटहरू लिने प्रणालीलाई समानुपातिक रूपमा बचाउन धेरै गाह्रो छ, र Autoriteit Persoonsgegevens (डच डेटा संरक्षण प्राधिकरण) ले त्यस प्रकारको कम्बल अनुगमनको निरन्तर आलोचना गर्दै आएको छ।

नियमदेखि मोडेलसम्म, र ब्ल्याक बक्ससम्म

सबैभन्दा सरल प्रणालीहरू नियम-आधारित हुन्छन्। यदि औसत ह्यान्डलिङ समय हप्तामा एक निश्चित संख्या भन्दा बढी पटक निर्धारित सीमा भन्दा बढी भयो भने, कर्मचारीलाई फ्ल्याग गरिन्छ। यस्तो प्रणाली कठोर र सन्दर्भमा अन्धो हुन्छ, तर यसको एउटा महत्त्वपूर्ण गुण छ: तपाईं नियम पढ्न सक्नुहुन्छ र तपाईंलाई किन फ्ल्याग गरिएको थियो भनेर ठ्याक्कै हेर्न सक्नुहुन्छ, जसले यसको बारेमा तर्क गर्न सम्भव बनाउँछ।

मेसिन लर्निङ मोडेलहरू फरक तरिकाले काम गर्छन्। तिनीहरूलाई कसले राम्रो प्रदर्शन गर्‍यो र कसले गरेन भन्ने बारे ऐतिहासिक डेटामा तालिम दिइन्छ, र तिनीहरूले ती परिणामहरूसँग सम्बन्धित ढाँचाहरू अनुमान गर्छन्। यो अधिक शक्तिशाली र धेरै कम पारदर्शी छ। मोडेलले त्यस्तो चीजमा ध्यान केन्द्रित गरिरहेको हुन सक्छ जसको प्रदर्शनसँग कुनै पनि सुरक्षात्मक सम्बन्ध छैन, र न त रोजगारदाताले न त कहिलेकाहीं आपूर्तिकर्ताले नै किन कुनै विशेष स्कोर यसरी बाहिर आयो भनेर ठ्याक्कै भन्न सक्दैन।

त्यो अस्पष्टतालाई सामान्यतया ब्ल्याक बक्स समस्या भनिन्छ, र कानुनी परिवेशमा यो केवल असुविधाजनक हुनुको सट्टा घातक हुन्छ। मूल्याङ्कनको आधार व्याख्या गर्न नसक्ने रोजगारदाताले संलग्न तर्कको बारेमा अर्थपूर्ण जानकारी दिने कर्तव्य पालना गर्न सक्दैन, यदि यसलाई चुनौती दिइयो भने मूल्याङ्कनको उचित रूपमा बचाउ गर्न सक्दैन, र यो भेदभावपूर्ण प्रभावबाट मुक्त छ भनेर प्रदर्शन गर्न सक्दैन। व्यवहारमा, यदि तपाईं यसलाई व्याख्या गर्न सक्नुहुन्न भने, तपाईं यसमा भर पर्न सक्नुहुन्न।

GDPR ले AI प्रदर्शन प्रणालीको लागि के चाहिन्छ

GDPR यस क्षेत्रमा पहिलो र अझै पनि सबैभन्दा व्यावहारिक उपकरण हो, किनकि यो कर्मचारी डेटा प्रशोधन गर्ने प्रत्येक रोजगारदातामा लागू हुन्छ र यो वर्षौंदेखि लागू गरिएको छ। यसका चार नियमहरूले धेरैजसो काम गर्छन्।

धारा २२: मेसिनले मात्र कुनै महत्त्वपूर्ण निर्णय लिन सक्दैन

GDPR को धारा २२ ले प्रत्येक व्यक्तिलाई स्वचालित प्रशोधनमा आधारित निर्णयको अधीनमा नपर्ने अधिकार दिन्छ, जसमा प्रोफाइलिङ पनि समावेश छ, जसले उनीहरूमाथि कानुनी प्रभाव पार्छ वा त्यस्तै गरी उनीहरूलाई महत्त्वपूर्ण रूपमा असर गर्छ। बर्खास्तगी, सम्झौताको नवीकरण नगर्ने, पदावनति, बोनस रोक्का गर्ने र पदोन्नति अस्वीकार गर्ने सबै कुरा त्यो विवरण भित्र सहज रूपमा पर्छन्।

दुई शब्दले वजन बोक्छन्। केवल भन्ने अर्थ भनेको प्रणालीले प्रस्ताव गरेको कुरा पुष्टि गर्ने मानवले धारा २२ बाट निर्णय लिँदैन; पर्यवेक्षक अधिकारीहरूले वर्षौंदेखि स्पष्ट पारेका छन् कि रबर-स्ट्याम्पिङ मानव संलग्नता होइन। अर्थपूर्ण संलग्नताको लागि फरक निष्कर्षमा पुग्न अधिकार भएको समीक्षक, मुद्दाको मूल्याङ्कन गर्ने क्षमता र यो गर्न समय आवश्यक पर्दछ। महत्त्वपूर्ण रूपमा प्रभाव पार्ने कुरालाई व्यापक रूपमा पढिन्छ, र यसलाई औपचारिक कानुनी परिणामको आवश्यकता पर्दैन: कुन परिवर्तनहरू वा तपाईंलाई कुन असाइनमेन्टहरू प्रस्ताव गरिएको छ भनेर निर्धारण गर्ने स्कोरिङ प्रणालीले तपाईंलाई लेखमा संलग्न गराउन पर्याप्त प्रभाव पार्न सक्छ।

जहाँ धारा २२ लागू हुन्छ, रोजगारदाताले कुनै पनि अवस्थामा यसले तोकेका सुरक्षा उपायहरू प्रदान गर्नुपर्छ: मानव हस्तक्षेप प्राप्त गर्ने, आफ्नो दृष्टिकोण व्यक्त गर्ने र निर्णयको विरोध गर्ने अधिकार।

पारदर्शिता, पहुँच र संलग्न तर्क

कर्मचारीहरूलाई प्रणाली अवस्थित छ र यसले के गर्छ भन्ने तथ्य थाहा पाउनु अघि नै जानकारी गराउनुपर्छ। जहाँ धारा २२ को अर्थ भित्र स्वचालित निर्णय लिने कार्य हुन्छ, रोजगारदाताले यसमा संलग्न तर्क र प्रशोधनको महत्त्व र परिकल्पित परिणामहरूको बारेमा अर्थपूर्ण जानकारी पनि प्रदान गर्नुपर्छ। उही जानकारी पछि विषय पहुँच अनुरोध मार्फत अनुरोध गर्न सकिन्छ, जसले तपाईंलाई तपाईंको बारेमा प्रशोधन भइरहेको व्यक्तिगत डेटाको प्रतिलिपिको लागि पनि हकदार बनाउँछ: स्कोरहरू, अन्तर्निहित मापनहरू र प्रणालीले तपाईंलाई तोकेका कोटीहरू।

अर्थपूर्ण मानिने कुरा औपचारिकता भन्दा सारको दिशामा समाधान गरिएको छ। यो प्रविधिको विवरण होइन; यो कुन कारकहरू प्रयोग गरियो र तिनीहरूले कसरी तौलिए, सम्बन्धित व्यक्तिले वास्तवमा बुझ्न र कार्य गर्न सक्ने शब्दहरूमा राखे भन्ने व्याख्या हो।

कानुनी आधार, सहमति र DPIA

प्रत्येक प्रशोधन कार्यलाई कानुनी आधार चाहिन्छ। रोजगारी सन्दर्भमा सहमति विरलै प्रयोग गर्न सकिन्छ, ठ्याक्कै रोजगारदाता र कर्मचारी बीचको निर्भरताको कारणले: परिणाम बिना अस्वीकार गर्न नसकिने सहमति स्वतन्त्र रूपमा दिइँदैन। त्यसकारण रोजगारदाताहरू सामान्यतया रोजगार सम्झौताको कार्यसम्पादनको लागि प्रशोधनको आवश्यकता, कानुनी दायित्वमा, वा वैध हितमा भर पर्छन्, र यी मध्ये अन्तिमलाई कार्यबलको गोपनीयता विरुद्ध पछ्याइएको हितको दस्तावेजीकृत सन्तुलन आवश्यक पर्दछ।

यस स्केलमा कार्यसम्पादन अनुगमनमा स्वचालित प्रशोधनमा आधारित व्यक्तिहरूको व्यवस्थित र व्यापक मूल्याङ्कन समावेश भएको हुनाले, डेटा सुरक्षा प्रभाव मूल्याङ्कन ऐच्छिक छैन। प्रणाली लाइभ हुनुभन्दा पहिले यो आवश्यक हुन्छ, र यसले प्रशोधनको वर्णन गर्नुपर्छ, यसको आवश्यकता र समानुपातिकतालाई औचित्य दिनुपर्छ, कर्मचारीहरूलाई हुने जोखिमहरू पहिचान गर्नुपर्छ र तिनीहरूलाई सम्बोधन गर्ने उपायहरू सेट गर्नुपर्छ। मूल्याङ्कन छोड्ने रोजगारदाताहरूले सामान्यतया पछि समस्याहरू पत्ता लगाउँछन्, विवादमा, जब छनौटहरू अब चुपचाप सच्याउन सकिँदैन।

रोजगारदाताले अनुगमनमा कति हदसम्म जान सक्छ?

कार्यसम्पादन स्कोरिङलाई यसलाई खुवाउने अनुगमनबाट अलग गर्न सकिँदैन, र अनुगमनको आफ्नै सीमा हुन्छ। कर्मचारीले कार्यालयको ढोकामा निजी जीवन त्याग्दैन: बार्बुलेस्कु विरुद्ध रोमानियामा भएको युरोपेली मानव अधिकार अदालतले फैसला सुनाएको छ कि कर्मचारीको सञ्चारको अनुगमनले महासन्धिको धारा ८ अन्तर्गत निजी जीवन र पत्राचारको सम्मान गर्ने अधिकारलाई संलग्न गर्दछ, र रोजगारदाताले कर्मचारीलाई अनुगमनको प्रकृति र हदको बारेमा पहिले नै जानकारी गराएको हुनुपर्छ, वैध उद्देश्य पछ्याउनुपर्छ, र यसलाई प्राप्त गर्न सक्षम कम्तीमा हस्तक्षेपकारी माध्यमहरू छनौट गर्नुपर्छ। कार्यबलको गोप्य अनुगमन असाधारण छ र यसको लागि ठोस शंका, सीमित अवधि र दस्तावेजीकृत मूल्याङ्कन आवश्यक पर्दछ जुन कुनै पनि हल्का उपायले गर्न सक्दैन।

एल्गोरिथमिक व्यवस्थापन परियोजनामा ​​अनुवाद गरिएको, यसको अर्थ रोजगारदाताले प्रत्येक डेटा स्ट्रिमको बारेमा तीन प्रश्नहरूको जवाफ दिन सक्षम हुनुपर्छ: यो डेटा उल्लेख गरिएको उद्देश्यको लागि किन आवश्यक छ, किन कम हस्तक्षेपकारी मापनले यो प्राप्त गर्दैन, र कर्मचारीहरूलाई पहिले नै भनिएको थियो कि छैन। निरन्तर स्क्रिन रेकर्डिङ, किस्ट्रोक लगिङ र काम गर्ने घण्टा बाहिर स्थान ट्र्याकिङले धेरैजसो सामान्य रोजगार सेटिङहरूमा ती प्रश्नहरू असफल हुन्छन्।

अनुपस्थिति, रोग र विशेष श्रेणीको डेटा

एउटा वर्गले विशेष सावधानी अपनाउनुपर्छ। स्वास्थ्य प्रकट गर्ने डेटा GDPR अन्तर्गत विशेष श्रेणीको डेटा हो र सिद्धान्तमा यसलाई प्रशोधन नगर्न सकिन्छ, सीमित अपवादहरूको अधीनमा। बिरामी अनुपस्थितिमा डच नियमहरू कडा छन्: रोजगारदाताले कर्मचारी अनुपस्थित छ र कति समयको लागि हो भनेर दर्ता गर्न सक्छ, तर रोगको प्रकृति, निदान र सीमितताहरू बेड्रिजफसार्ट्स (कम्पनी डाक्टर) सँग सम्बन्धित छन्, रोजगारदातासँग होइन। अनुपस्थिति ढाँचा, टाइपिङ गति, ब्रेक वा आवाजको स्वरबाट स्वास्थ्य अवस्थाको अनुमान गर्ने कार्यसम्पादन प्रणालीले अनुमानद्वारा स्वास्थ्य डेटा प्रशोधन गरिरहेको छ, र कसैले पनि यसमा निदान टाइप गरेको छैन भन्ने तथ्यले कुनै फरक पार्दैन।

गर्भावस्था, अभिभावकीय बिदा वा हेरचाह बिदा जस्ता संरक्षित अनुपस्थितिबाट प्रभावित हुने प्रणालीहरूमा पनि यही सावधानी लागू हुन्छ। यदि मोडेलले ती अवधिहरूलाई कम प्रदर्शनको रूपमा व्यवहार गर्छ भने, रोजगारदाताले संवेदनशील डेटा प्रशोधन मात्र गरिरहेको छैन तर वैधानिक अधिकारलाई बेफाइदामा रूपान्तरण गरिरहेको छ।

कार्यान्वयनको माथिल्लो तह

मुख्य सिद्धान्तहरूको उल्लङ्घन, प्रशोधनको वैधता र डेटा विषयहरूको अधिकारको उल्लङ्घन GDPR को धारा ८३ को माथिल्लो फाइन तहमा पर्दछ, जुन नियमनले प्रदान गर्ने सबैभन्दा भारी श्रेणी हो। दैनिक अभ्यासको लागि पनि महत्त्वपूर्ण कुरा, यी नियमहरूको उल्लङ्घनमा उत्पादन गरिएको मूल्याङ्कन रोजगार विवादमा भर पर्न गाह्रो छ: कमजोर प्रदर्शनको आधारमा रोजगार सम्झौता समाप्त गर्न भनिएको अदालतले कमजोर प्रदर्शन कसरी स्थापित भयो भनेर हेर्न चाहन्छ।

एआई ऐनले रोजगारदाता र कामदारहरूका लागि के थप्छ

EU AI ऐन लागू छ र चरणबद्ध रूपमा लागू हुन्छ, त्यसैले प्रश्न अब यो आउँदैछ कि आउँदैछ भन्ने होइन तर यसको कुन दायित्व पहिले नै पूरा भइसकेको छ भन्ने हो। यसका दुई तहहरू यहाँ महत्त्वपूर्ण छन्।

पहिलो निषेधित अभ्यासहरूको सूची हो, जुन ऐनको प्रारम्भिक चरणदेखि नै लागू भएको छ। यसमा कार्यस्थलमा प्रत्यक्ष रूपमा लक्षित नियम समावेश छ: कार्यस्थल र शिक्षा संस्थाहरूको क्षेत्रमा प्राकृतिक व्यक्तिको भावनाहरू अनुमान गर्न प्रयोग गरिने एआई प्रणालीहरू निषेधित छन्, जबसम्म प्रणाली चिकित्सा वा सुरक्षा कारणहरूले गर्दा राख्न वा बजारमा राख्ने उद्देश्यले गरिएको छैन। कर्मचारीहरूको आवाज, अनुहार वा लेखनबाट उनीहरूको मुड, तनाव स्तर, संलग्नता वा इमानदारीलाई स्कोर गर्ने सफ्टवेयर त्यसैले व्यवस्थापन गर्नुपर्ने अनुपालन समस्या होइन। यो तालिका बाहिर छ, र साँघुरो चिकित्सा र सुरक्षा अपवादले उत्पादकता व्यवस्थापनलाई समेट्दैन। सीमालाई ध्यानपूर्वक ध्यान दिनुहोस्: ग्राहकले भनेको कुराको भावना विश्लेषण कर्मचारीको भावनाहरू अनुमान गर्नु भन्दा फरक प्रश्न हो।

दोस्रो तह उच्च-जोखिम शासन हो। एआई ऐनको अनुसूची III ले उच्च-जोखिमको रूपमा तोकेको छ, अन्य चीजहरूका साथै, एआई प्रणालीहरूलाई काम-सम्बन्धित सम्बन्धहरूको सर्तहरू, त्यस्ता सम्बन्धहरूको पदोन्नति वा समाप्ति, व्यक्तिगत व्यवहार वा व्यक्तिगत विशेषताहरूमा आधारित कार्यहरूको बाँडफाँड, र कामदारहरूको प्रदर्शन र व्यवहारको अनुगमन र मूल्याङ्कनलाई असर गर्ने निर्णयहरू गर्न प्रयोग गरिने उद्देश्यले। एआई प्रदर्शन मूल्याङ्कन उपकरण त्यो विवरण भित्र स्पष्ट रूपमा छ। डिजिटल ओम्निबस प्याकेज अन्तर्गत एनेक्स III प्रणालीहरूको लागि उच्च-जोखिम दायित्वहरूको आवेदन मितिहरू स्थगित गरिएको थियो, त्यसैले रोजगारदाताहरूसँग तयारी गर्न थप समय छ; निषेधहरू, सामान्य-उद्देश्य एआई मोडेलहरूको लागि नियमहरू र धारा 50 को पारदर्शिता कर्तव्यहरू पहिले नै लागू हुन्छन्।

एउटा दायित्व छुट्टै उल्लेख गर्न लायक छ किनभने रोजगारदाताहरूले यसलाई नियमित रूपमा बेवास्ता गर्छन्। रोजगारदाता भएका डिप्लोयर्सहरूले कार्यस्थलमा उच्च जोखिमयुक्त एआई प्रणालीलाई सेवामा राख्नु अघि कामदार प्रतिनिधिहरू र प्रभावित कामदारहरूलाई जानकारी गराउनुपर्छ, सूचना र परामर्श सम्बन्धी लागू नियमहरू अनुसार। यो एक सूचना कर्तव्य हो जुन डच कानून अन्तर्गत GDPR पारदर्शिता दायित्वहरू र कार्य परिषद्को अधिकारहरूसँगै बस्छ र प्रतिस्थापन गर्दैन। ऐन र यसको समयतालिकाको पूर्ण उपचारको लागि, कृत्रिम बुद्धिमत्ताको कानुनी पक्ष र EU AI ऐनमा हाम्रो लेख हेर्नुहोस् ।

कसले जिम्मेवारी वहन गर्छ: आपूर्तिकर्ता वा रोजगारदाता?

रोजगारदाताहरूले प्रायः मान्छन् कि सफ्टवेयर विशेषज्ञ आपूर्तिकर्ताबाट खरिद गरिएको हुनाले, आपूर्तिकर्ताले कानुनी जोखिम वहन गर्दछ। त्यसरी दुवै ढाँचाले जिम्मेवारी बाँडफाँड गर्दैन।

GDPR अन्तर्गत रोजगारदाताले कर्मचारी डेटा किन र कसरी प्रशोधन गरिन्छ भन्ने निर्णय गर्छ र त्यसैले नियन्त्रक नै हो। रोजगारदाताको निर्देशनमा प्रणाली चलाउने आपूर्तिकर्ता एक प्रशोधक हो, र सम्बन्ध प्रशोधन सम्झौतामा राखिएको हुनुपर्छ, तर पारदर्शिता, वैधता र मानवीय निरीक्षणको कर्तव्यहरू रोजगारदाताले आफ्नै कर्मचारीहरूप्रति जिम्मेवारी लिनुपर्छ, र यो रोजगारदाताले स्व-निर्वाचित कर्मचारीहरू र कर्मचारीहरूप्रति जवाफदेही बनाउँछ।

एआई ऐनले एआई प्रणाली विकास गर्ने र बजारमा राख्ने प्रदायक र आफ्नै अधिकार अन्तर्गत प्रयोग गर्ने डिप्लोयर बीच तुलनात्मक रेखा कोर्छ। खरिद गरिएको उपकरण प्रयोग गर्ने रोजगारदाता सामान्यतया डिप्लोयर हुन्छ र निर्देशन अनुसार प्रणाली प्रयोग गर्ने, आवश्यक क्षमता र अधिकार भएका व्यक्तिहरूद्वारा उचित स्तरको मानवीय निरीक्षण सुनिश्चित गर्ने, यसको सञ्चालनको अनुगमन गर्ने र कामदारहरूलाई जानकारी दिने लगायत डिप्लोयर दायित्वहरू वहन गर्दछ। प्रणालीमा आफ्नो नाम राख्ने, वा यसलाई पर्याप्त रूपमा परिमार्जन गर्ने वा यसको अभिप्रेत उद्देश्य परिवर्तन गर्ने रोजगारदाता प्रदायक बन्न सक्छ र त्यो भूमिकासँग जाने धेरै भारी दायित्वहरू लिन सक्छ।

खरिदको व्यावहारिक परिणाम भनेको यी भूमिकाहरूलाई ध्यानमा राखेर सम्झौता पढ्नु हो। रोजगारदातालाई आपूर्तिकर्ताले अनुपालन सम्भव बनाउने जानकारी प्रदान गर्नु आवश्यक छ, र उसले आफ्नो उत्पादन व्याख्या गर्न नसक्ने कुनै पनि उत्पादनप्रति शंका गर्नुपर्छ, किनभने इजाजतपत्रले जे भने पनि व्याख्या गर्ने कर्तव्य रोजगारदातामा पर्नेछ।

प्लेटफर्म कार्य: नियमहरूको अतिरिक्त तह

डिजिटल श्रम प्लेटफर्महरू मार्फत काम गर्ने मानिसहरूका लागि, अर्को उपकरण आउँदैछ। प्लेटफर्म कार्यमा काम गर्ने अवस्था सुधार गर्ने निर्देशिका (EU) २०२४/२८३१ ले एल्गोरिथमिक व्यवस्थापनको पूर्ण अध्याय समर्पित गर्दछ। यसले प्लेटफर्महरूलाई कामदारहरूलाई उनीहरूको काम गर्ने अवस्थालाई उल्लेखनीय रूपमा असर गर्ने स्वचालित अनुगमन र निर्णय लिने प्रणालीहरूको बारेमा जानकारी दिन बाध्य पार्छ, भावनात्मक र मनोवैज्ञानिक अवस्थाको डेटा र निजी कुराकानीहरूमा डेटा सहित डेटाको निश्चित वर्गहरूको प्रशोधनलाई प्रतिबन्धित गर्दछ, यी प्रणालीहरूको प्रभावहरूको मानवीय निरीक्षण आवश्यक पर्दछ, र कामदारहरूलाई खाताको प्रतिबन्ध वा निलम्बन जस्ता महत्त्वपूर्ण निर्णयहरूको व्याख्या र मानवीय समीक्षाको अधिकार दिन्छ। उल्लेखनीय रूपमा, ती मध्ये धेरै सुरक्षा उपायहरू प्लेटफर्म कार्य गर्ने मानिसहरूमा लागू हुन्छन् चाहे तिनीहरू कर्मचारीको रूपमा योग्य छन् वा छैनन्।

सदस्य राष्ट्रहरूले २ डिसेम्बर २०२६ सम्ममा निर्देशन हस्तान्तरण गर्नुपर्नेछ। राष्ट्रिय कार्यान्वयन कानून लागू नभएसम्म, GDPR र AI ऐन सञ्चालन नियमहरू नै रहनेछन्, र तिनीहरूका आवश्यकताहरूले पहिले नै धेरैजसो समान आधारहरू समेट्छन्।

डच रोजगार कानून: एल्गोरिथ्मले तपाईंको सम्झौता समाप्त गर्न सक्दैन

युरोपेली डेटा सुरक्षा र एआई नियमहरूले प्रणाली कसरी काम गर्न सक्छ भनेर नियन्त्रण गर्छन्। डच रोजगार कानूनले रोजगारदाताले यसको उत्पादनसँग के गर्न सक्छ भनेर नियन्त्रण गर्दछ, र यो धेरैजसो एल्गोरिथमिक व्यवस्थापन परियोजनाहरूले अनुमान गरेभन्दा धेरै कडा छ।

नेदरल्याण्ड्समा रोजगारदाताले रोजगार सम्झौतालाई मात्र समाप्त गर्न सक्दैन। बर्खास्त गर्न डच नागरिक संहिताको धारा ७:६६९ मा सूचीबद्ध उचित आधार चाहिन्छ, र यसको लागि UWV को पूर्व अनुमति वा कान्टोनरेक्टर (उपजिल्ला अदालत) को निर्णय आवश्यक पर्दछ, जुन आधारको आधारमा हुन्छ। कमजोर प्रदर्शन ती आधारहरू मध्ये एक हो, र यो माग गर्ने आधार हो। रोजगारदाताले कर्मचारी भूमिकाको लागि अनुपयुक्त छ भनेर देखाउनु पर्छ, कर्मचारीलाई यसको बारेमा राम्रो समयमा जानकारी गराइएको थियो, र उपयुक्त ठाउँमा समर्थन सहित सुधार गर्ने वास्तविक अवसर प्रदान गरिएको थियो। ड्यासबोर्ड पढाइ सुधार प्रक्रिया होइन, र अदालतले के छलफल गरियो, कहिले, र के मद्दत दिइयो भनेर सोध्नेछ। डच रोजगार कानूनको लागि हाम्रो गाइडले बर्खास्त ढाँचालाई थप विवरणमा सेट गर्दछ।

भेदभाव कानून नतिजामा लागू हुन्छ, मनसायमा होइन। यदि कुनै प्रणालीले कर्मचारीहरूलाई लिङ्ग, जाति, उमेर, धर्म, अपाङ्गता वा दीर्घकालीन रोग जस्ता आधारमा हानि पुर्‍याउँछ भने, यो अल्जेमेन वेट जेलिजके व्यवहार (सामान्य समान उपचार ऐन) र उमेर र अपाङ्गता सम्बन्धी विशिष्ट समान उपचार कानूनहरू अन्तर्गत गैरकानूनी छ, चाहे कसैले त्यो परिणामको उद्देश्य राखेको होस् वा नहोस्। ऐतिहासिक तालिम डेटा सामान्य अपराधी हो: विगतमा कसलाई पदोन्नति गरिएको थियो भन्ने बारे प्रशिक्षित मोडेलले विगतको प्राथमिकताहरू पुनरुत्पादन गर्नेछ। समयसँगै कच्चा उपलब्धता वा आउटपुट मापन गर्ने प्रणालीहरूले अभिभावकीय बिदा लिने, कम घण्टा काम गर्ने वा बिरामीको कारण अनुपस्थित हुने कर्मचारीहरूलाई दण्डित गर्ने र वैधानिक अधिकार प्रयोग गरेकोमा कर्मचारीलाई दण्डित गर्ने प्रवृत्ति हुन्छ।

कार्य परिषद्ले सहमति जनाउनुपर्छ

कुनै कम्पनीमा जहाँ कार्य परिषद् हुन्छ, त्यहाँ रोजगारदातालाई राम्रो नियतभन्दा बढी आवश्यक पर्दछ। Wet op de ondernemingsraden (कार्य परिषद् ऐन) को धारा २७ ले कर्मचारी मूल्याङ्कन, कर्मचारीहरूको व्यक्तिगत डेटाको प्रशोधन र सुरक्षा, र कर्मचारीहरूको उपस्थिति, आचरण वा कार्यसम्पादन अवलोकन वा अनुगमन गर्न लक्षित वा उपयुक्त सुविधाहरू सहितको व्यवस्थाहरू अपनाउने, संशोधन गर्ने वा फिर्ता लिने कार्य परिषद्को सहमति आवश्यक पर्दछ। एआई कार्यसम्पादन प्रणालीले एकैचोटि तीनवटैलाई संलग्न गर्दछ।

यहाँ सहमति औपचारिकता होइन। आवश्यक सहमति बिना गरिएको निर्णयलाई कार्य परिषद्ले अमान्य घोषित गर्न सक्छ, र त्यसपछि रोजगारदातालाई यसलाई लागू गर्नबाट रोक्न सकिन्छ। आफूमाथि कुनै प्रणाली लादिएको महसुस गर्ने कर्मचारीहरूका लागि, कार्य परिषद् प्रायः परिवर्तनको लागि सबैभन्दा छिटो र प्रभावकारी मार्ग हो, कसैले मुद्दाको बारेमा सोच्नुभन्दा धेरै अघि।

अदालतले अहिलेसम्म के फैसला गरेको छ

मुद्दा कानून अझै विकास भइरहेको छ, तर दुई डच फैसलाले पहिले नै यात्राको दिशा तय गरिसकेका छन् र दुवैलाई नेदरल्याण्ड्सभन्दा बाहिर उल्लेख गरिएको छ।

उबर र ओलाको फैसला

4 अप्रिल 2023 मा Gerechtshof Amsterdam (Amsterdam (अपील अदालत) ले उबर र ओला विरुद्ध चालकहरूले ल्याइएका मुद्दाहरूको श्रृंखलामा फैसला सुनायो। चालकहरूले जान्न चाहन्थे कि उनीहरूको खाताहरू किन निष्क्रिय पारिएको थियो र उनीहरूलाई काम र मूल्यहरू कसरी बाँडफाँड गरिएको थियो। अदालतले सूचना बिन्दुहरूमा ठूलो मात्रामा उनीहरूको पक्षमा फैसला सुनायो। प्लेटफर्ममा पहुँच गुमाउने चालकहरू, र यसको साथसाथै उनीहरूको आम्दानी, स्वचालित निर्णय लिने प्रक्रियाबाट उल्लेखनीय रूपमा प्रभावित भए, र कम्पनीहरूले त्यो आपत्तिलाई प्रमाणित नगरी व्यापार गोप्य कुराहरू वा हेरफेरको जोखिमलाई औंल्याएर स्पष्टीकरण रोक्न सकेनन्।

अदालतले चाहेको कुरा ठोस थियो: प्रविधिको सामान्य विवरण होइन, तर प्रयोग गरिएका कारकहरू र तिनीहरूलाई दिइएको वजनको बारेमा जानकारी, ताकि सम्बन्धित व्यक्तिले परिणाम बुझ्न र प्रतिस्पर्धा गर्न सकोस्। मानक रोजगारदाताहरूले त्यो मान्नुपर्छ कि प्रदर्शन एल्गोरिथ्ममा पनि लागू हुन्छ। यदि मैले किन नराम्रो स्कोर गरें भन्ने तपाईंको उत्तर मोडेलले निर्धारण गरेको हो भने, तपाईंले मानक पूरा गर्नुभएको छैन।

SYRI को फैसला

दोस्रो मुद्दा रोजगार विवाद थिएन, तर यसको तर्क कार्यस्थलसम्म पुग्छ। ५ फेब्रुअरी २०२० (ECLI:NL:RBDHA:2020:865) को आफ्नो फैसलामा Rechtbank Den Haag (द हेगको जिल्ला अदालत) ले लाभ र कर ठगी पत्ता लगाउन प्रयोग गरिने सरकारी जोखिम-संकेत प्रणाली, SyRI अन्तर्गतको कानूनले मानव अधिकार सम्बन्धी युरोपेली महासन्धिको धारा ८ को परीक्षण असफल भएको ठहर गर्‍यो। प्रणाली अपर्याप्त रूपमा पारदर्शी र प्रमाणित गर्न सकिने थियो: बाहिरका कसैले पनि व्यक्तिलाई कसरी झण्डा लगाइयो भनेर स्थापित गर्न सकेनन्, जसले गर्दा यसको विरुद्धमा बचाउ गर्न असम्भव भयो।

सिद्धान्त सामान्य छ। जुन प्रणालीको कामको जाँच गर्न सकिँदैन, त्यसलाई चुनौती दिन सकिँदैन, र जुन निर्णयलाई चुनौती दिन सकिँदैन त्यो निष्पक्ष निर्णय होइन। कर्मचारी वा रोजगारदाताले न त व्याख्या गर्न सक्ने मोडेलमा मूल्याङ्कनहरू आधारित गर्न चाहने रोजगारदाताले त्यही आधारमा निर्माण गरिरहेको हुन्छ जुन त्यस अवस्थामा असफल भएको थियो। स्वचालित आचरणको लागि जिम्मेवारीका यी प्रश्नहरू रोजगार कानूनभन्दा बाहिर जान्छन्, जस्तै हाम्रो एआई र फौजदारी कानूनको लेखले देखाउँछ।

यदि कुनै एल्गोरिथ्मले तपाईंलाई स्कोर गरिरहेको छ भने तपाईंको अधिकारहरू

यदि तपाईंको मूल्याङ्कन एआई प्रणालीको सहयोगमा भइरहेको छ भने, तपाईंसँग ठोस र लागू गर्न सकिने अधिकारहरू छन्, र तपाईंले तिनीहरूलाई प्रयोग गर्नु अघि प्रणाली गलत छ भनेर प्रमाणित गर्नु पर्दैन।

तपाईं आफ्नो बारेमा के डेटा राखिएको छ भनेर सोध्न सक्नुहुन्छ र त्यसको प्रतिलिपि प्राप्त गर्न सक्नुहुन्छ, जसमा मूल्याङ्कनलाई खुवाउने मापन र त्यसबाट प्राप्त स्कोरहरू समावेश छन्। तपाईं प्रणालीको तर्क, गणना गर्ने कारकहरू र तिनीहरूको भारको बारेमा अर्थपूर्ण जानकारी सोध्न सक्नुहुन्छ। जहाँ स्वचालित माध्यमबाट महत्त्वपूर्ण प्रभाव पार्ने निर्णय लिइएको छ, तपाईं मानव हस्तक्षेपको आवश्यकता पर्न सक्छ, आफ्नो दृष्टिकोण राख्न सक्नुहुन्छ, र निर्णयको विरोध गर्न सक्नुहुन्छ। तपाईं गलत डेटा सच्याउन सक्नुहुन्छ, जुन सुन्दा भन्दा बढी महत्त्वपूर्ण छ: यी प्रणालीहरूले रेकर्ड गरेको धेरैजसो कुराहरू केवल गलत छन्, गलत लग गरिएको अनुपस्थितिदेखि गलत व्यक्तिलाई श्रेय दिइएको कामसम्म।

व्यवहारमा स्वचालित मूल्याङ्कनलाई कसरी चुनौती दिने

आफ्नो पद उठाउनु अघि आफ्नो स्थितिको दस्तावेजीकरण गरेर सुरु गर्नुहोस्। मूल्याङ्कनले बेवास्ता गर्ने विशेष काम, परिस्थिति असामान्य भएका अवधिहरू, र कुनै पनि अनुपस्थिति, बिदा वा पुन: नियुक्ति जसले तपाईंको कार्यसम्पादनसँग कुनै सरोकार नभएको कारणले तथ्याङ्कलाई निराश बनाउनेछ, नोट गर्नुहोस्। समकालीन नोटहरू छ महिना पछि पुनर्निर्माण भन्दा धेरै मूल्यवान छन्।

त्यसपछि आफ्नो रोजगारदातालाई लिखित रूपमा अनुरोध गर्नुहोस्, जसमा भनिएको छ कि तपाईं GDPR अन्तर्गत आफ्नो अधिकार प्रयोग गर्दै हुनुहुन्छ, तपाईंको मूल्याङ्कनमा प्रयोग गरिएको डेटा र तर्कको व्याख्याको लागि सोध्नुहोस्, र फरक निष्कर्षमा पुग्न अधिकार भएको व्यक्तिद्वारा मानव समीक्षाको लागि अनुरोध गर्नुहोस्। उचित समयसीमा सेट गर्नुहोस्; GDPR ले रोजगारदातालाई एक महिना भित्र प्रतिक्रिया दिन आवश्यक छ, जुन जटिल अवस्थामा विस्तार गर्न सकिन्छ। स्वर तथ्यपरक राख्नुहोस्, किनकि यो पत्राचार प्रमाणको रूपमा समाप्त हुन्छ।

यदि रोजगारदाताले पर्याप्त प्रतिक्रिया दिएन भने, तपाईंले Autoriteit Persoonsgegevens मा उजुरी दर्ता गर्न सक्नुहुन्छ, र तपाईं विवादलाई अदालतमा ल्याउन सक्नुहुन्छ। जहाँ मूल्याङ्कन बर्खास्तगी वा तपाईंको सर्तहरूमा परिवर्तनलाई समर्थन गर्न प्रयोग भइरहेको छ, रोजगार मार्ग सामान्यतया बढी प्रभावकारी हुन्छ र यो छोटो समयसीमामा चल्छ, त्यसैले चाँडै सल्लाह लिनुहोस्। AI र ठूलो डेटाको युगमा GDPR अन्तर्गत डेटा गोपनीयता सम्बन्धी हाम्रो लेखले अन्तर्निहित ढाँचाको व्याख्या गर्दछ।

प्रणाली सुरु गर्नु अघि रोजगारदाताले के गर्नुपर्छ?

रोजगारदाताहरूका लागि, यस क्षेत्रमा अनुपालन प्रायः क्रमको कुरा हो। लगभग हरेक गम्भीर समस्या उत्पन्न हुन्छ किनभने पहिले प्रणाली खरिद गरी तैनाथ गरिएको थियो, र कानुनी प्रश्नहरू पछि सोधिएको थियो।

उद्देश्यबाट सुरु गर्नुहोस्। संस्थाले वास्तवमा के हासिल गर्न खोजिरहेको छ र प्रणालीले कुन निर्णयहरूलाई प्रभाव पार्नेछ भनेर लेख्नुहोस्, किनकि अरू सबै कुरा त्यसबाटै आउँछ: औचित्य प्रमाणित गर्न सकिने डेटा, कानुनी आधार, जोखिम मूल्याङ्कन र आवश्यक मानवीय निरीक्षणको स्तर। तालिका सुधार गर्न खरिद गरिएको र त्यसपछि चुपचाप बर्खास्त फाइल निर्माण गर्न प्रयोग गरिएको प्रणाली गैरकानूनी प्रशोधन सञ्चालनको क्लासिक मार्ग हो।

तैनाथी गर्नुअघि डेटा सुरक्षा प्रभाव मूल्याङ्कन गर्नुहोस्, पहिले नै लिइएको निर्णयलाई औचित्य प्रमाणित गर्न पछि उत्पादन गरिएको कागजातको रूपमा होइन, र परिणाम रेकर्ड गर्नुहोस्। कर्मचारीको सहमति विरलै कायम रहनेछ भन्ने कुरालाई ध्यानमा राख्दै कानुनी आधार स्थापित गर्नुहोस् र दस्तावेजीकरण गर्नुहोस्। प्रणाली AI ऐनको उच्च-जोखिम श्रेणी भित्र पर्दछ कि पर्दैन भनेर निर्धारण गर्नुहोस् र, यदि यो छ भने, कामदार प्रतिनिधिहरू र प्रभावित कामदारहरूलाई सूचित गर्ने कर्तव्य सहित, तैनाथकर्तासँग संलग्न दायित्वहरूको नक्साङ्कन गर्नुहोस्। कार्य परिषद् ऐनको धारा २७ लागू हुने ठाउँमा कार्य परिषद्को सहमति प्राप्त गर्नुहोस्, र केही परिवर्तन गर्न यसको इनपुटको लागि यसलाई चाँडै समावेश गर्नुहोस्।

त्यसपछि धारा २२ ले आवश्यक पर्ने निरीक्षणको डिजाइन गर्नुहोस्, र यो वास्तविक छ कि छैन भनेर परीक्षण गर्नुहोस्। आउटपुटको समीक्षा कसले गर्छ भनेर सोध्नुहोस्, के त्यो व्यक्तिले वरिष्ठलाई विचलनको औचित्य प्रमाणित नगरी यसलाई उल्टाउन सक्छ कि सक्दैन, के उनीहरूसँग न्याय गर्ने सन्दर्भ छ कि छैन, र के उनीहरूसँग समय छ कि छैन। यदि इमान्दार जवाफ हो कि समीक्षकले एक दिउँसो सयवटा मुद्दाहरू प्रशोधन गर्छन् भने, संस्थासँग मानव निरीक्षण छैन; यसमा हस्ताक्षर छ।

अन्तमा, मनसायको सट्टा नतिजाहरूको परीक्षण गर्नुहोस्। संरक्षित विशेषता र काम गर्ने ढाँचाद्वारा प्रणालीको नतिजाहरूको लेखा परीक्षण गर्नुहोस्, र विशेष गरी अंशकालिक काम गर्ने, बिदा लिएका वा बिरामी परेका कर्मचारीहरूलाई हेर्नुहोस्। कर्मचारीहरूलाई मूल्याङ्कनमाथि प्रश्न उठाउन र ती चुनौतीहरूको के हुन्छ भनेर रेकर्ड गर्न स्पष्ट मार्ग दिनुहोस्। कागजातहरू राख्नुहोस्, किनकि अनुपालन प्रदर्शन गर्ने भार रोजगारदातामा निर्भर हुन्छ, र विवादमा फाइल बचाउ हो।

यसले तपाईंलाई कहाँ छोड्छ

एल्गोरिदमिक व्यवस्थापन निषेधित छैन, र यो हट्नेवाला छैन। कानूनले के गर्छ भने मापन र निर्णय बीचको रेखा कोर्नु हो। प्रणालीहरूले गणना, तुलना र संकेत गर्न सक्छन्; मानिसहरूले निर्णय गर्नुपर्छ, व्याख्या गर्नुपर्छ र जिम्मेवारी लिनुपर्छ। कर्मचारीहरूलाई यस्तो प्रणालीद्वारा मूल्याङ्कन भइरहेको छ भनेर जान्न, यसले के मापन गर्छ भनेर बुझ्न र उनीहरूलाई भौतिक रूपमा असर गर्ने कुनै पनि निर्णयलाई मानवले फेरि हेर्न पाउने अधिकार छ। श्रम विभाजन स्वीकार गर्ने रोजगारदाताहरूले यी उपकरणहरू विश्वासका साथ प्रयोग गर्न सक्छन्। ड्यासबोर्डलाई निर्णय गर्न दिनेहरूले न त अटोराइट पर्सनजेगेभेन्सले न त क्यान्टोनरेक्टरले उचित मूल्याङ्कनको विकल्पको रूपमा आउटपुट स्वीकार गर्दछन् भन्ने कुरा पाउनेछन्।

Law & More प्रभाव मूल्याङ्कन र कार्य परिषद् प्रक्रियादेखि मानव निरीक्षणको डिजाइनसम्म, कार्यसम्पादन व्यवस्थापनमा एआईको तैनाथीको बारेमा रोजगारदाताहरूलाई सल्लाह दिन्छ, र स्वचालित मूल्याङ्कनको सामना गरिरहेका कर्मचारीहरूलाई उनीहरूले अनुचित ठान्ने सल्लाह दिन्छ। यदि तपाईंको काम वा तपाईंको कर्मचारीको कामको मूल्याङ्कन गर्न एल्गोरिथ्म प्रयोग भइरहेको छ भने, हामी तपाईंसँग स्थिति समीक्षा गर्न पाउँदा खुसी छौं।

एआई कार्यसम्पादन समीक्षा बारे सामान्य प्रश्नहरू