IIT जोधपुर ने भारत में निष्पक्ष और जिम्मेदार AI डेटासेट सुनिश्चित करने के लिए प्रस्तावित किया फ्रेमवर्क

IIT जोधपुर के शोधकर्ताओं ने भारत में AI एल्गोरिदम के लिए विशेष रूप से निष्पक्षता, गोपनीयता और नियामक अनुपालन पर डेटासेट का मूल्यांकन करने के लिए एक ढांचा पेश किया है। पश्चिमी डेटासेट के उपयोग के कारण एआई परिणामों में पूर्वाग्रह होने के बारे में चिंताएं व्यक्त की गई हैं, जो भारतीय जनसांख्यिकी का सटीक प्रतिनिधित्व नहीं कर सकते हैं।

प्रोफेसर मयंक वत्सा ने भारत की विविध चेहरे की विशेषताओं और त्वचा के रंगों को दर्शाने वाले डेटासेट के उपयोग के महत्व पर जोर दिया। यह ढांचा निष्पक्षता, गोपनीयता और विनियामक अनुपालन के आधार पर डेटासेट का आकलन करता है। निष्पक्षता में विविध प्रतिनिधित्व सुनिश्चित करना शामिल है, जबकि गोपनीयता उन कमजोरियों की जांच करती है जो डेटा लीक का कारण बन सकती हैं।

विनियामक अनुपालन संस्थागत अनुमोदन और डेटा संग्रह के लिए व्यक्तिगत सहमति की जांच करता है। यह ढांचा एक डेटासेट की जिम्मेदारी को इंगित करने के लिए एक FPR स्कोर उत्पन्न करता है। शोधकर्ताओं ने 60 वैश्विक डेटासेट का ऑडिट किया, जिसमें चेहरे पर आधारित बायोमेट्रिक और छाती के एक्स-रे आधारित स्वास्थ्य सेवा डेटासेट शामिल थे।

उन्होंने पाया कि लगभग 90% चेहरे के डेटासेट ने निष्पक्षता और नियामक अनुपालन पर खराब स्कोर किया। अगस्त में नेचर मशीन इंटेलिजेंस में प्रकाशित अध्ययन, मौजूदा डेटासेट में निष्पक्षता, गोपनीयता और अनुपालन के सार्वभौमिक मुद्दों पर प्रकाश डालता है।

यह ढांचा भूलने का अधिकार भी मानता है, यह सुनिश्चित करता है कि सहमति वापस लेने पर व्यक्तिगत डेटा मिटा दिया जाए। एआई नैतिकता शोधकर्ता नितिका भल्ला ने कागज के पूर्वाग्रह और गोपनीयता जैसे नैतिक चिंताओं को दूर करने पर ध्यान केंद्रित करने पर ध्यान दिया, भारत में जिम्मेदार एआई विकास में योगदान दिया।

डेटा विनियमन में चुनौतियां

भल्ला ने सीमित डेटा संरक्षण कानूनों वाले देशों में ढांचे को लागू करने में संभावित चुनौतियों की ओर इशारा किया। ईयू का जीडीपीआर एक व्यापक गोपनीयता कानून है जिसे ब्राजील और थाईलैंड जैसे देशों ने अपनाया है। हालांकि, भारत का डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, जो सितंबर 2023 से प्रभावी है, को डेटा संरक्षण प्राधिकरण के दायरे को कमजोर करने के लिए आलोचना की गई है।

कार्नेगी इंडिया के अनिरुद्ध बर्मन ने निजी संस्थाओं पर लागू कई डेटा प्रसंस्करण बाधाओं से भारतीय राज्य को छूट देने के बारे में चिंता व्यक्त की। विनियमन पारदर्शिता की यह कमी डेटा हैंडलिंग में नैतिक मुद्दों को जन्म दे सकती है।

नैतिक डेटा संग्रह के लिए सिफारिशें

आईआईटी जोधपुर के शोधकर्ताओं ने व्यक्तियों से स्पष्ट सहमति और यूएस इंस्टीट्यूशनल रिव्यू बोर्ड जैसे निकायों से अनुमोदन प्राप्त करके डेटा संग्रह प्रक्रियाओं में सुधार की सिफारिश की। भल्ला की एआई विशेषज्ञों के साथ फोकस ग्रुप चर्चा ने भारत में अधिक मौलिक एआई अनुसंधान संस्थानों की आवश्यकता पर प्रकाश डाला। यह ढांचा जिम्मेदार डेटासेट परीक्षा की सुविधा प्रदान करने और जिम्मेदार एआई सिद्धांतों के साथ संरेखित करने का लक्ष्य रखता है।