यदि कई ऑस्ट्रेलियाई मुसलमानों की तरह आपने फेसबुक पर अभद्र भाषा की सूचना दी है और यह कहते हुए एक स्वचालित प्रतिक्रिया प्राप्त की है कि यह मंच के सामुदायिक मानकों का उल्लंघन नहीं करता है, तो आप अकेले नहीं हैं। हम और हमारी टीम फेसबुक की सामग्री नीति अनुसंधान पुरस्कारों के माध्यम से धन प्राप्त करने वाले पहले ऑस्ट्रेलियाई सामाजिक वैज्ञानिक हैं, जिसका उपयोग हमने पांच एशियाई देशों: भारत, म्यांमार, इंडोनेशिया, फिलीपींस और ऑस्ट्रेलिया में LGBTQI+ समुदाय पृष्ठों पर अभद्र भाषा की जांच के लिए किया था। हमने 18 महीनों में एशिया प्रशांत क्षेत्र में अभद्र भाषा के नियमन के तीन पहलुओं को देखा। पहले हमने अपने केस स्टडी देशों में अभद्र भाषा कानून की मैपिंग की, यह समझने के लिए कि इस समस्या का कानूनी रूप से मुकाबला कैसे किया जा सकता है। हमने यह भी देखा कि क्या फेसबुक की अभद्र भाषा की परिभाषा में इस परेशान करने वाले व्यवहार के लिए सभी मान्यता प्राप्त रूप और संदर्भ शामिल हैं। इसके अलावा, हमने फेसबुक की सामग्री विनियमन टीमों की मैपिंग की, कर्मचारियों से बात करते हुए कि कंपनी की नीतियों और प्रक्रियाओं ने नफरत के उभरते रूपों की पहचान करने के लिए कैसे काम किया।
भले ही फेसबुक ने हमारे अध्ययन को वित्त पोषित किया, लेकिन गोपनीयता कारणों से यह हमें नफरत फैलाने वाले भाषण के डेटासेट तक पहुंच नहीं दे सका। इसलिए हम यह परीक्षण करने में असमर्थ थे कि इसके इन-हाउस मॉडरेटर नफरत को कितने प्रभावी ढंग से वर्गीकृत करते हैं। इसके बजाय, हमने घृणास्पद भाषण की तलाश के लिए प्रत्येक देश में शीर्ष तीन LGBTQI+ सार्वजनिक फेसबुक पेजों से पोस्ट और टिप्पणियों को कैप्चर किया, जो या तो प्लेटफॉर्म के मशीन इंटेलिजेंस फिल्टर या मानव मॉडरेटर द्वारा छूट गए थे। हमने इन पेजों के व्यवस्थापकों से नफ़रत को कम करने के उनके अनुभव के बारे में साक्षात्कार किया, और उन्होंने सोचा कि फेसबुक दुर्व्यवहार को कम करने में उनकी मदद करने के लिए क्या कर सकता है। उन्होंने हमें बताया कि फेसबुक अक्सर अभद्र भाषा की उनकी रिपोर्ट को खारिज कर देगा, भले ही पोस्ट ने स्पष्ट रूप से अपने सामुदायिक मानकों का उल्लंघन किया हो। कुछ मामलों में मूल रूप से हटाए गए संदेशों को अपील पर फिर से पोस्ट किया जाएगा।
अधिकांश पृष्ठ व्यवस्थापकों ने कहा कि तथाकथित फ़्लैगिंग प्रक्रिया ने शायद ही कभी काम किया, और उन्होंने इसे अक्षम पाया। वे चाहते थे कि फेसबुक उनके साथ और अधिक परामर्श करे ताकि वे इस बात का बेहतर अंदाजा लगा सकें कि वे किस प्रकार के दुरुपयोग को पोस्ट करते हैं और वे अपने सांस्कृतिक संदर्भ में अभद्र भाषा क्यों बनाते हैं। फेसबुक को लंबे समय से एशिया में अपने मंच पर अभद्र भाषा के पैमाने और दायरे के साथ समस्या है। उदाहरण के लिए, जबकि इसने कुछ हिंदू चरमपंथियों पर प्रतिबंध लगा दिया है, इसने उनके पृष्ठ ऑनलाइन छोड़ दिए हैं। हालांकि, हमारे अध्ययन के दौरान हमें यह देखकर प्रसन्नता हुई कि फेसबुक ने घृणास्पद भाषण की अपनी परिभाषा को विस्तृत किया, जो अब घृणास्पद व्यवहार की एक विस्तृत श्रृंखला को पकड़ लेता है। यह स्पष्ट रूप से यह भी मानता है कि ऑनलाइन जो होता है वह ऑफ़लाइन हिंसा को ट्रिगर कर सकता है। यह ध्यान देने योग्य है कि जिन देशों पर हमने ध्यान केंद्रित किया है, वहां अभद्र भाषा शायद ही कभी कानूनी रूप से प्रतिबंधित है। हमने पाया कि साइबर सुरक्षा या धार्मिक सहिष्णुता कानूनों जैसे अन्य नियमों का इस्तेमाल अभद्र भाषा के खिलाफ कार्रवाई करने के लिए किया जा सकता है, लेकिन इसके बजाय राजनीतिक असंतोष को दबाने के लिए इस्तेमाल किया जा सकता है। हमने निष्कर्ष निकाला कि फेसबुक की समस्या नफरत को परिभाषित करने में नहीं है, बल्कि कुछ प्रकार की नफरत की पहचान करने में असमर्थ है, जैसे कि अल्पसंख्यक भाषाओं और क्षेत्रीय बोलियों में पोस्ट की गई। यह अक्सर नफरत फैलाने वाली सामग्री की उपयोगकर्ता रिपोर्ट का उचित जवाब देने में भी विफल रहता है।
अल्पसंख्यक भाषाओं की समस्या
मीडिया रिपोर्ट्स ने दिखाया है कि फेसबुक अल्पसंख्यक भाषाओं में पोस्ट की गई नफरत को स्वचालित रूप से पहचानने के लिए संघर्ष कर रहा है। यह स्थानीय भाषाओं में अपने स्वयं के मध्यस्थों को प्रशिक्षण सामग्री प्रदान करने में विफल रहा है, भले ही कई एशिया प्रशांत देशों से हैं जहां अंग्रेजी पहली भाषा नहीं है। विशेष रूप से फिलीपींस और इंडोनेशिया में, हमने पाया कि एलजीबीटीआईक्यू+ समूहों को अस्वीकार्य स्तर के भेदभाव और धमकी का सामना करना पड़ता है। इसमें मौत की धमकी, मुसलमानों को निशाना बनाना और पत्थर मारने या सिर काटने की धमकी शामिल है।
भारतीय पेजों पर, फ़ेसबुक फ़िल्टर समलैंगिक शादी की तस्वीरों के जवाब में पोस्ट किए गए उल्टी इमोजी को पकड़ने में विफल रहे, और बदनामी की कुछ बहुत स्पष्ट रिपोर्टों को खारिज कर दिया। दूसरी ओर, ऑस्ट्रेलिया में, हमें कोई असंयमित अभद्र भाषा नहीं मिली – केवल अन्य प्रकार की असंवेदनशील और अनुचित टिप्पणियां। यह संकेत दे सकता है कि कम दुरुपयोग पोस्ट किया जाता है, या फेसबुक या पेज प्रशासकों से अंग्रेजी भाषा का अधिक प्रभावी मॉडरेशन है। इसी तरह म्यांमार में एलजीबीटीआईक्यू+ समूहों ने बहुत कम अभद्र भाषा का अनुभव किया। लेकिन हम जानते हैं कि रोहिंग्या मुस्लिम अल्पसंख्यकों को सताए जाने के मद्देनजर फेसबुक अपने प्लेटफॉर्म पर अभद्र भाषा को कम करने के लिए कड़ी मेहनत कर रहा है। इसके अलावा, यह संभावना है कि लिंग विविधता म्यांमार में एक विषय के रूप में अस्थिर नहीं है क्योंकि यह भारत, इंडोनेशिया और फिलीपींस में है। इन देशों में एलजीबीटीआईक्यू+ अधिकारों का अत्यधिक राजनीतिकरण किया जाता है।
फेसबुक ने अभद्र भाषा से निपटने की दिशा में कुछ महत्वपूर्ण कदम उठाए हैं। हालाँकि हम चिंतित हैं कि COVID-19 ने प्लेटफ़ॉर्म को मशीन मॉडरेशन पर अधिक निर्भर होने के लिए मजबूर कर दिया है। वह भी ऐसे समय में जब यह लगभग ५० भाषाओं में केवल नफरत को स्वतः ही पहचान सकता है – भले ही पूरे क्षेत्र में हर रोज हजारों भाषाएं बोली जाती हैं। फेसबुक को दी गई हमारी रिपोर्ट में इसके प्लेटफॉर्म पर नफरत का मुकाबला करने के अपने दृष्टिकोण को बेहतर बनाने में मदद करने के लिए कई प्रमुख सिफारिशों की रूपरेखा है। कुल मिलाकर, हमने कंपनी से क्षेत्र में उत्पीड़ित समूहों के साथ अधिक नियमित रूप से बैठक करने का आग्रह किया है, ताकि यह उनके स्थानीय संदर्भों और भाषाओं में घृणा के बारे में अधिक जान सके। यह अपने देश के नीति विशेषज्ञों और अल्पसंख्यक भाषा विशेषज्ञता वाले इन-हाउस मॉडरेटर्स की संख्या को बढ़ावा देने के साथ-साथ होने की आवश्यकता है।
यूरोप में प्रयासों को प्रतिबिंबित करते हुए, फेसबुक को अपने विश्वसनीय साझेदार चैनल को विकसित और प्रचारित करने की भी आवश्यकता है। यह दृश्यमान, आधिकारिक अभद्र भाषा-रिपोर्टिंग साझेदार संगठन प्रदान करता है जिसके माध्यम से लोग क्राइस्टचर्च मस्जिद हमलों जैसे संकटों के दौरान फेसबुक को सीधे नफरत की गतिविधियों की रिपोर्ट कर सकते हैं। अधिक व्यापक रूप से, हम चाहते हैं कि सरकारें और गैर सरकारी संगठन यूरोपीय संघ द्वारा आयोजित एक एशियाई क्षेत्रीय घृणास्पद भाषण निगरानी परीक्षण स्थापित करने के लिए सहयोग करें। यूरोपीय संघ के उदाहरण के बाद, इस तरह की पहल पूरे क्षेत्र में अभद्र भाषा में तत्काल रुझानों की पहचान करने, फेसबुक की स्थानीय रिपोर्टिंग साझेदारी को मजबूत करने और फेसबुक पर घृणित सामग्री की समग्र घटनाओं को कम करने में मदद कर सकती है।
(यह लेख पहली बार द कन्वर्सेशन पर छपा। फियोना आर मार्टिन द्वारा लिखित: कन्वर्जेंट एंड ऑनलाइन मीडिया में एसोसिएट प्रोफेसर, सिडनी विश्वविद्यालय और एम सिनपेंग: लेक्चरर इन गवर्नमेंट एंड इंटरनेशनल रिलेशंस, यूनिवर्सिटी ऑफ सिडनी)
सभी पढ़ें ताजा खबर, आज की ताजा खबर तथा कोरोनावाइरस खबरें यहां
.