कृत्रिम बुद्धिमत्ता (एआई) अक्सर एक क्रांतिकारी तकनीक के रूप में देखी जाती है, जो दक्षता, सटीकता प्रदान करने और नई रणनीतिक अवसरों को खोलने में सक्षम है। हालांकि, जबकि कंपनियां एआई के लाभों का लाभ उठाती हैं, एक महत्वपूर्ण और कभी-कभी नजरअंदाज किया गया चुनौती भी उभरती है: एल्गोरिदमिक न्यायसंगतता। इन प्रणालियों में छुपे हुए पक्ष व्यवसायिक निर्णयों की प्रभावशीलता को ही नहीं बल्कि महत्वपूर्ण कानूनी, नैतिक और सामाजिक परिणाम भी उत्पन्न कर सकते हैं।
एल्गोरिदमिक पूर्वाग्रह की उपस्थिति को स्वयं एआई की प्रकृति, विशेष रूप से मशीन लर्निंग में समझाया जा सकता है। मॉडल ऐतिहासिक डेटा के साथ प्रशिक्षित किए जाते हैं, और जब ये डेटा सामाजिक पूर्वाग्रहों या विकृतियों को दर्शाते हैं, तो एल्गोरिदम स्वाभाविक रूप से इन पूर्वाग्रहों को बनाए रखते हैं। जानकारी में पूर्वाग्रहों के अलावा, स्वयं एल्गोरिदम भी किए गए कारकों के वजन में असंतुलन ला सकता है, या तो उपयोग किए गए प्रॉक्सी डेटा में, यानी ऐसे डेटा जो मूल जानकारी का स्थान लेते हैं, लेकिन उस विश्लेषण के लिए आदर्श नहीं हैं।
इस घटना का एक प्रतीकात्मक उदाहरण चेहरे की पहचान के उपयोग में पाया जाता है, विशेष रूप से सार्वजनिक सुरक्षा जैसे संवेदनशील संदर्भों में। कई ब्राज़ीलियाई शहरों ने पुलिस कार्रवाई की प्रभावशीलता बढ़ाने के उद्देश्य से स्वचालित प्रणालियों को अपनाया है, लेकिन विश्लेषण से पता चलता है कि ये एल्गोरिदम अक्सर महत्वपूर्ण त्रुटियां करते हैं, विशेष रूप से विशिष्ट जातीय समूहों के व्यक्तियों की पहचान करने में, जैसे काले लोग। MIT की शोधकर्ता जॉय बूलामविनी के अध्ययन से पता चला है कि व्यावसायिक एल्गोरिदम महिलाओं के लिए 30% से अधिक त्रुटि दर दिखाते हैं, जबकि सफेद पुरुषों के लिए यह दर घटकर 1% से कम हो जाती है।
ब्राज़ीलियाई कानून: भविष्य में अधिक कठोरता
ब्राज़ील में, सामान्य डेटा संरक्षण कानून (LGPD) के अलावा, AI का कानूनी ढांचा (PL nº 2338/2023) भी प्रक्रिया में है, जो देश में AI के विकास और अनुप्रयोग के लिए सामान्य दिशानिर्देश निर्धारित करता है।
हालांकि अभी स्वीकृत नहीं हुआ है, इस विधेयक का प्रस्ताव उन अधिकारों को संकेत करता है जिनका कंपनियों को सम्मान करना चाहिए, जैसे: पूर्व जानकारी का अधिकार (जब उपयोगकर्ता एक एआई प्रणाली के साथ इंटरैक्ट कर रहा हो तो सूचित करना), स्वचालित निर्णयों की व्याख्या का अधिकार, एल्गोरिदमिक निर्णयों को चुनौती देने का अधिकार और एल्गोरिदमिक पूर्वाग्रहों के कारण भेदभाव से बचने का अधिकार।
इन बिंदुओं को लागू करने के लिए कंपनियों को जनरेटिव AI प्रणालियों में पारदर्शिता लागू करनी होगी (उदाहरण के लिए, स्पष्ट करना कि कब एक टेक्स्ट या उत्तर मशीन द्वारा उत्पन्न किया गया है) और ऑडिटिंग तंत्र ताकि यह समझाया जा सके कि मॉडल ने किसी विशिष्ट आउटपुट तक कैसे पहुंचा।
एल्गोरिदमिक शासन: पूर्वाग्रहों के लिए समाधान
कंपनियों के लिए, एल्गोरिदमिक पूर्वाग्रह नैतिक क्षेत्र से आगे बढ़कर महत्वपूर्ण रणनीतिक समस्याएँ बन जाते हैं। वांछित एल्गोरिदम महत्वपूर्ण निर्णयों को विकृत करने की क्षमता रखते हैं, जैसे भर्ती, क्रेडिट मंजूरी और बाजार विश्लेषण जैसे आंतरिक प्रक्रियाओं में। उदाहरण के लिए, एक शाखा प्रदर्शन विश्लेषण एल्गोरिदम जो नियमित रूप से शहरी क्षेत्रों को उपेक्षा करता है और परिधीय क्षेत्रों को अधिक महत्व देता है (अधूरे डेटा या पूर्वाग्रह के कारण) गलत निवेश का कारण बन सकता है। इसलिए, छुपे हुए पूर्वाग्रह डेटा-आधारित रणनीतियों की प्रभावशीलता को कमजोर कर देते हैं, जिससे कार्यकारी अधिकारी गलत जानकारी के आधार पर निर्णय लेते हैं।
इन पूर्वाग्रहों को सुधारा जा सकता है, लेकिन यह एक एल्गोरिदमिक शासन ढांचे पर निर्भर करेगा, जिसमें उपयोग किए गए डेटा की विविधता, प्रक्रियाओं की पारदर्शिता और तकनीकी विकास में विविध और बहु-विषयक टीमों की शामिल होना शामिल है। तकनीकी टीमों में विविधता में निवेश करने पर, उदाहरण के लिए, कंपनियां संभावित पक्षपात के स्रोतों की पहचान तेजी से कर सकती हैं, यह सुनिश्चित करते हुए कि विभिन्न दृष्टिकोणों पर विचार किया जाए और गलतियों का जल्दी पता लगाया जाए।
इसके अलावा, निरंतर निगरानी उपकरणों का उपयोग करना आवश्यक है। ये सिस्टम वास्तविक समय में एल्गोरिदमिक पक्षपात के विचलन का पता लगाने में मदद करते हैं, जिससे त्वरित समायोजन संभव होते हैं और नकारात्मक प्रभाव को कम किया जाता है।
पारदर्शिता पूर्वाग्रहों को कम करने में एक और आवश्यक अभ्यास है। एल्गोरिदम को काले बॉक्स के रूप में काम नहीं करना चाहिए, बल्कि स्पष्ट और व्याख्यायित प्रणालियों के रूप में होना चाहिए। जब कंपनियां पारदर्शिता चुनती हैं, तो वे ग्राहकों, निवेशकों और नियामकों का विश्वास जीतती हैं। पारदर्शिता बाह्य ऑडिट को आसान बनाती है, आईए की प्रबंधन में साझा जिम्मेदारी की संस्कृति को प्रोत्साहित करती है।
अन्य पहलों में जिम्मेदार AI शासन के लिए फ्रेमवर्क और प्रमाणपत्रों का पालन करना शामिल है। इसमें आंतरिक एआई नैतिकता समितियों का गठन करना, इसके उपयोग के लिए कॉर्पोरेट नीतियों को परिभाषित करना, और अंतरराष्ट्रीय मानकों को अपनाना शामिल है। उदाहरण के लिए, फ्रेमवर्क जैसे: ISO/IEC 42001 (कृत्रिम बुद्धिमत्ता प्रबंधन), ISO/IEC 27001 (सूचना सुरक्षा) और ISO/IEC 27701 (गोपनीयता) जेनरेटिव AI द्वारा उपयोग किए जाने वाले डेटा प्रक्रियाओं में नियंत्रणों को संरचित करने में मदद करते हैं। एक और उदाहरण है अमेरिका के नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) द्वारा सुझाई गई सर्वोत्तम प्रथाओं का सेट, जो एल्गोरिदमिक जोखिम प्रबंधन का मार्गदर्शन करता है, जिसमें पक्षपात का पता लगाना, डेटा गुणवत्ता की जांच और मॉडलों की निरंतर निगरानी शामिल है।
विशेषज्ञ परामर्श इस परिदृश्य में रणनीतिक भूमिका निभाते हैं। जिम्मेदार कृत्रिम बुद्धिमत्ता, एल्गोरिदम शासन और नियामक अनुपालन में विशेषज्ञता के साथ, ये कंपनियां संगठनों की मदद करती हैं न केवल जोखिमों से बचने में, बल्कि समानता को प्रतिस्पर्धात्मक लाभ में बदलने में भी। इन परामर्श सेवाओं का कार्य जोखिम का विस्तृत मूल्यांकन से लेकर आंतरिक नीतियों के विकास तक है, जिसमें एआई में नैतिकता पर कॉर्पोरेट प्रशिक्षण भी शामिल है, यह सुनिश्चित करते हुए कि टीमें संभावित एल्गोरिदमिक पूर्वाग्रहों की पहचान करने और उन्हें कम करने के लिए तैयार हैं।
इस प्रकार, एल्गोरिदमिक पक्षपात को कम करना केवल एक पूर्वानुमानात्मक उपाय नहीं है, बल्कि एक रणनीतिक दृष्टिकोण है। एल्गोरिदमिक समानता के प्रति चिंता दिखाने वाली कंपनियां सामाजिक जिम्मेदारी का प्रदर्शन करती हैं, अपनी प्रतिष्ठा को मजबूत बनाती हैं और कानूनी दंड और सार्वजनिक संकटों से खुद को सुरक्षित करती हैं। निष्पक्ष एल्गोरिदम अधिक सटीक और संतुलित अंतर्दृष्टि प्रदान करने की प्रवृत्ति रखते हैं, जिससे व्यावसायिक निर्णयों की प्रभावशीलता बढ़ती है और बाजार में संगठनों की प्रतिस्पर्धात्मक स्थिति मजबूत होती है।
सिल्वियो सोइरा विएरा, सीईओ और हेड कंसल्टिंग, SVX कंसल्टोरिया के द्वारा
