ट्विटर के एल्गोरिद्म में पक्षपात, क्या गोरे और युवा चेहरों को देता है ज़्यादा तरजीह?

एक शोध में बेहद चौंकाने वाले नतीजे सामने आए हैं. इस पर ट्विटर का क्या कहना है. जानिए सबकुछ.

एक रीसर्चर ने पया है कि तस्वीरों को एडिट करने का ट्विटर का एल्गोरिद्म ऐसे चेहरों को दिखाना पसंद करता है जो छोटे और युवा हैं और हल्के रंग वाले यानी गोरे होते हैं.

तस्वीरों को एडिट करने वाले प्लेटफ़ॉर्म में मौजूद पूर्वाग्रहों का पता लगाने के लिए ट्विटर द्वारा आयोजित एक प्रतियोगिता में बोगदुन कुलीनिक ने 3,500 डॉलर का इनाम जीता है.

इससे पहले इस साल की शुरूआत में ट्विटर ने एक शोध में पाया था कि तस्वीरों को क्रॉप करने के उसके एलगोरिद्म में काले चेहरों को लेकर पूर्वाग्रह है.

इसके बाद कंपनी ने तस्वीरों को एडिट करने से जुड़ी अपनी नीति बदली और कहा कि तस्वीरें व्यक्ति ख़ुद ही एडिट करे तो बेहतर होता है.

ट्विटर तस्वीरों को एडिट करने के लिए 'सेलिएन्सी एल्गोरिद्म' का इस्तेमाल करता है जो ये तय करता है कि ट्विटर प्रोफ़ाइल के प्रीव्यू में तस्वीर कैसी दिखेगी. ये असल तस्वीर का एक हिस्सा ही होता है, तस्वीर पर क्लिक करने पर पूरी तस्वीर खुलती है.

लेकिन ट्विटर यूज़र्स ने पाया कि जब एक तस्वीर में दो चेहरे होते हैं तब प्रीव्यू के लिए ट्विटर एल्गोरिद्म जो तस्वीर चुनता है वो अपेक्षाकृत गोरे चेहरे होते हैं. एल्गोरिद्म काले चेहरों को छिपा देता है.

ये पैटर्न पूर्व अमरीकी राष्ट्रपति बराक ओबामा और सीनेटर मिच मैक्कोनल से लेकर अलग-अलग नस्लीय समुदायों के व्यवसायियों की तस्वीरों पर एक तरह से काम करता है.

ट्विटर का ख़ुद का विश्लेषण बताता है कि 'उसके एल्गोरिद्म ने गोरे चेहरों को चार प्रतिशत अधिक तरजीह दी.'

कंपनी के सॉफ़्टवेयर इंजीनियरिंग के निदेशक रुम्मन चौधरी ने कहा कि ट्विटर का मानना है कि,"तस्वीर को कैसे काटा जाए इसका फ़ैसला व्यक्ति स्वयं ले तो बेहतर है."

महिलाओं या महिला जैसे चेहरों को तरजीह

ट्विटर ने इस साल जुलाई में 'एल्गोरिद्म-बायस बाउंटी कंपीटिशन' यानी अपने सॉफ्टवेयर में पक्षपात का पता लगाने के लिए एक विशेष प्रतियोगिता शुरू की थी.

कई कंपनियां अपने सॉफ़्टवेयर में छिपी ग़लतियों का पता लगाने के लिए इस तरह के 'बग बाउंटी' कंपीटिशन कराती हैं. कंपनी का उद्देश्य सॉफ्टवेयर में ऐसी ग़लतियों का पता लगाना होता है जिससे यूज़र्स को नुक़सान पहुंच सकता है.

लूज़ेन सिक्योरिटी एंड प्रीवेसी इंजीनियरिंग लेबोरेटरी के स्विस फ़ेडेरवल इंस्टीट्यूट ऑफ़ टेक्नोलॉजी के छात्र बोगदुन कुलीनिक ने पाया कि ट्विटर के 'सेलिएन्सी एल्गोरिद्म' में एक चेहरे को प्राथमिकता दी जा सकती है ताकि उसके एडिट कर उसे छिपाए जाने की संभावना कम हो जाए. इसके लिए एल्गोरिद्म 'तस्वीर में बदलाव करता है. वो तस्वीर में मौजूद व्यक्ति की त्वचा का रंग हल्का करता है और त्वचा को चिकना दिखता है ताकि वो युवा, छोटा और गोरा दिखे और महिला की तरह दिखे.'

कुलीनिक को पहला पुरस्कार देते हुए ट्विटर ने कहा कि उनकी खोज से इस बात का पता चला है कि एल्गोरिद्म में ब्यूटी फ़िल्टर्स का इस्तेमाल हो सकता है और 'किस तरह सुंदरता को लेकर समाज में मौजूद पूर्वाग्रह सॉफ़्टवेयर का भी हिस्सा बन सकते हैं."

https://twitter.com/TwitterEng/status/1424819781731950592

प्रतियोगिता में दूसरा इनाम हॉल्ट एआई को मिला जो टोरंटो यूनिवर्सिटी में महिला द्वारा शुरू किया गया एक स्टार्ट-अप है. ट्विटर ने कहा कि एल्गोरिद्म जिस तरह से तस्वीरों को एडिट करता है उससे किसी विशेष वर्ग को कमतर आंका जा सकता है. उदाहरण के तौर पर ऐसा 'बुज़ुर्गों और विकलांगों की तस्वीरों' के साथ होने की संभावना अधिक है.

इस प्रतियोगिता में तीसरा इनाम रोया पक्ज़ाद को मिला जिन्होंने दिखाया कि ट्विटर का एल्गोरिद्म अंग्रेज़ी शब्दों को अधिक तरजीह देता है और इसके अरबी के शब्दों को एडिट करने की संभावना अधिक है.