'चाइल्ड पोर्नोग्राफ़ी... मुझे सबकुछ देखना पड़ता था...'

बहुत मुश्किल है फ़ेसबुक मॉडरेटर का काम, पोर्नोग्राफ़ी कन्टेंट की जांच करने वाली लड़की की कहानी.

आठ महीने फ़ेसबुक मॉडरेटर के रूप में काम करने वाली सारा काट्ज़ कहती हैं, "यह ज़्यादातर पोर्नोग्राफी है."

एजेंसी ने हमें पहले ही स्पष्ट कर दिया था कि हम किस तरह के कन्टेंट देख सकते हैं, हमें अंधेरे में नहीं रखा गया था.

2016 में सारा कैलिफोर्निया में एक थर्ड पार्टी एजेंसी के लिए काम करने वाली सैकड़ों ह्यूमन मॉडरेटर्स में शामिल थीं.

उनका काम फ़ेसबुक यूजर्स की ओर से आने वाली अनुचित सामग्रियों की शिकायतों की समीक्षा करना था.

सारा ने बीबीसी रेडियो 5 लाइव की एम्मा बर्नेट से अपने अनुभवों को साझा किया.

'हां, मैं ग़ैर-मर्दों के साथ चैट करती हूं, तो?'

चाइल्ड पोर्नोग्राफ़ी दिमाग़ में बरक़रार

वो कहती हैं, "एक पोस्ट की समीक्षा के लिए एक मिनट का वक्त तय था. इतने में हमें यह तय करना होता था कि क्या यह स्पैम है और इस कन्टेंट को हटा देना है?"

"कभी-कभी हम इससे जुड़े हुए अकाउंट को भी हटा देते थे."

वह आगे कहती हैं, "मैनेजमेंट चाहता था कि हम 8 घंटे से अधिक काम नहीं करें और इस दौरान हम करीब 8 हज़ार पोस्ट की रोज़ाना समीक्षा कर लेते थे. यानी करीब 1000 पोस्ट प्रति घंटे."

"अगर मैं अपने इस जॉब के बारे में एक शब्द में बोलूं तो यह मुश्किल था."

सारा कहती हैं कि उन्हें एक क्लिक के बाद कुछ भी देखने को तैयार रहना होता था, कुछ भी.

वह कहती हैं, "ऐसी चीज़ें जो बिना किसी चेतावनी के सीधा आपको हिट करती हों. जो एक कन्टेंट आज भी मेरे दिमाग में बरकरार है, वो था एक चाइल्ड पोर्नोग्राफ़ी."

"इनमें एक 12 साल के आसपास का एक लड़का और आठ या नौ साल के आसपास की एक लड़की एक दूसरे के सामने खड़े थे."

"उनके बदन पर पैंट नहीं था और वो एक दूसरे को छू रहे थे. ठीक ऐसा लग रहा था कि कैमरे के पीछे से एक आदमी उन्हें क्या करना है, ये बता रहा है. यह बहुत परेशान करने वाला था. आप ये आसानी से बोल सकते थे कि जो दिख रहा था उसे यथार्थ में किया गया था."

फ़ेसबुक ने खोजा सेकेंड का 70 करोड़वां हिस्सा

अब फ़ेसबुक पर नहीं दिखेंगी फ़र्ज़ी ख़बरें?

स्रोत का पता करना चुनौतीपूर्ण

इस तरह के कई कन्टेंट बार-बार फ़ैलते थे. यह एक दिन में छह अलग-अलग यूज़र्स से आता था, इसलिए इसके असली स्रोत का पता लगा पाना बहुत चुनौतीपूर्ण काम था.

उस समय काउंसलिंग सर्विस जैसी कोई चीज़ नहीं थी. मेरा अनुमान है कि आज की तारीख में यह होगी.

सारा ने कहा कि वो अगर उन्हें काउंसलिंग की सुविधा मिलती तो बहुत संभव है कि वो उसे लेती.

उनका कहना था कि वो आपको पहले ही चेतावनी दे देते हैं लेकिन वास्तविकता में उन कन्टेंट को देखना बिल्कुल अलग है.

वह कहती हैं, "कुछ लोग सोचते हैं कि वो इससे निपट सकते हैं. लेकिन वो नहीं कर पाते बल्कि उनकी उम्मीद के विपरीत यह और भी ख़राब होता है."

"कुछ समय के बाद आप इसके प्रति संवेदनहीन हो जाते हैं. मैं यह नहीं कहती हूं कि यह आसान है लेकिन निश्चित तौर पर आप इन सबके आदी हो जाते हैं."

"वहां वयस्क लोगों के बीच उनकी सहमति से बनाई गई पोर्नोग्राफ़ी भी आती थी जिससे आप उतना परेशान होते थे. वहां जानवरों के साथ बनाए गए पोर्नोग्राफ़ी भी आते थे. मुझे याद है कि एक बार घोड़े के साथ वाला पोर्नोग्राफ़ी बार-बार सर्कुलेट हो रहा था."

"कई बार ग्राफ़िक्स को लेकर भी छेड़छाड़ की गई चीज़ें आती थीं. लेकिन पॉलिसी ग्राफ़िक्स की तुलना में पोर्नोग्राफ़ी को लेकर ज़्यादा कठोर थी."

फ़ेक न्यूज़

सारा कहती हैं, "मुझे लगता है कि फ़ेसबुक पर बहुत-सी फ़ेक न्यूज़ आती थीं. अमरीकी चुनाव अभियान के दौरान यह कुछ ज़्यादा ही था, कम से कम तब जब मैं वहां काम कर रही थी."

वो कहती हैं, "मैंने तब कभी फ़ेक न्यूज़ जैसा शब्द नहीं सुना था. हमें बहुत-सी ऐसी ख़बरें मिलती थीं जो बार-बार घूम रही हैं और यूज़र्स उसकी शिकायत कर रहे होते थे, लेकिन मुझे याद नहीं कि कभी मैनेजमेंट ने हमें यह कहा हो कि उन ख़बरों को खोलकर देखों कि उसके कन्टेंट सही हैं या नहीं."

"यह काम बहुत नीरस था और आप यह सीख जाते थे कि क्या स्पैम है और क्या नहीं. वहां आपको बहुत सारे क्लिक करने होते थे."

"क्या मैं किसी को इस जॉब को करने की सिफारिश करूंगी. यदि आप कुछ और काम कर सकते हैं तो मेरा जवाब ना है."

बीबीसी ने फ़ेसबुक के साथ सारा की कहानी शेयर की.

इसके जवाब में, मार्क ज़करबर्ग की इस कंपनी के एक प्रवक्ता ने कहा, "हमारे समीक्षक फ़ेसबुक को एक सुरक्षित और खुला मंच बनाए रखने में महत्वपूर्ण भूमिका निभाते हैं."

"यह एक बहुत ही चुनौतीपूर्ण काम हो सकता है, और हम यह सुनिश्चित करना चाहते हैं कि उन्हें इसके लिए हर तरह की मदद मिले. इसके लिए हम अपने सभी कर्मचारियों और हमारे सहयोगियों के साथ जुड़े सभी लोगों को प्रशिक्षण, परामर्श और मनोवैज्ञानिक मदद की नियमित पेशकश करते हैं."

उन्होंने कहा, "हालांकि जहां हम कर सकते हैं वहां आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं. अब हमारे साथ 7 हज़ार से ज़्यादा लोग हैं जो फ़ेसबुक पर पोस्ट करने वाले कन्टेंट की समीक्षा करते हैं और वो स्वस्थ रहें यह देखना हमारी वास्तविक प्राथमिकता में से है."

घर का चूल्हा जलाने के लिए फ़ेसबुक का सहारा

फ़ेसबुक सेल्फी की वजह से पकड़ी गई क़ातिल