वाशिंगटन: ट्विटर शुक्रवार को कहा कि यह उपयोगकर्ताओं और शोधकर्ताओं को रूट आउट में मदद करने के लिए नकद “इनाम” की पेशकश करेगा एल्गोरिथम पूर्वाग्रह सोशल मीडिया प्लेटफॉर्म पर।
सैन फ्रांसिस्को टेक फर्म ने कहा कि यह “उद्योग की पहली एल्गोरिथम पूर्वाग्रह इनाम प्रतियोगिता” होगी, जिसमें $ 3,500 तक के पुरस्कार होंगे।
प्रतियोगिता “बग बाउंटी” कार्यक्रमों पर आधारित है, कुछ वेबसाइट और प्लेटफॉर्म ट्विटर के अधिकारियों के अनुसार सुरक्षा छेद और कमजोरियों को खोजने की पेशकश करते हैं। रुम्मन चौधरी और जट्टा विलियम्स.
“मशीन लर्निंग मॉडल में पूर्वाग्रह खोजना मुश्किल है, और कभी-कभी, कंपनियों को अनपेक्षित नैतिक नुकसान के बारे में पता चलता है, जब वे पहले ही जनता तक पहुंच चुके होते हैं,” चौधरी और विलियम्स ने एक ब्लॉग पोस्ट में लिखा।
“हम इसे बदलना चाहते हैं।”
उन्होंने कहा कि हैकर बाउंटी मॉडल एल्गोरिथम पूर्वाग्रह खोजने में वादा करता है।
“हम इस बात से प्रेरित हैं कि कैसे अनुसंधान और हैकर समुदायों ने सुरक्षा क्षेत्र को जनता की सुरक्षा के लिए कमजोरियों की पहचान करने और उन्हें कम करने के लिए सर्वोत्तम प्रथाओं को स्थापित करने में मदद की,” उन्होंने लिखा।
“हम एक समान समुदाय की खेती करना चाहते हैं … एल्गोरिथम नुकसान की सक्रिय और सामूहिक पहचान के लिए।”
यह कदम स्वचालित एल्गोरिथम सिस्टम के बारे में बढ़ती चिंताओं के बीच आया है, जो तटस्थ रहने के प्रयास के बावजूद नस्लीय या अन्य प्रकार के पूर्वाग्रह को शामिल कर सकता है।
ट्विटर, जिसने इस साल की शुरुआत में एक एल्गोरिथम निष्पक्षता पहल शुरू की थी, ने मई में कहा था कि यह एक स्वचालित छवि-क्रॉपिंग सिस्टम को खत्म कर रहा था क्योंकि इसकी समीक्षा में फ़ंक्शन को नियंत्रित करने वाले एल्गोरिदम में पूर्वाग्रह पाया गया था।
मैसेजिंग प्लेटफॉर्म ने कहा कि उसने पाया कि एल्गोरिथ्म ने “जनसांख्यिकीय अंतर के आधार पर असमान उपचार” दिया, जिसमें गोरे लोगों और पुरुषों ने काले लोगों और महिलाओं के पक्ष में थे, और “ऑब्जेक्टिफिकेशन” पूर्वाग्रह जो एक महिला की छाती या पैरों पर केंद्रित था, जिसे “पुरुष टकटकी” के रूप में वर्णित किया गया था। ”
सैन फ्रांसिस्को टेक फर्म ने कहा कि यह “उद्योग की पहली एल्गोरिथम पूर्वाग्रह इनाम प्रतियोगिता” होगी, जिसमें $ 3,500 तक के पुरस्कार होंगे।
प्रतियोगिता “बग बाउंटी” कार्यक्रमों पर आधारित है, कुछ वेबसाइट और प्लेटफॉर्म ट्विटर के अधिकारियों के अनुसार सुरक्षा छेद और कमजोरियों को खोजने की पेशकश करते हैं। रुम्मन चौधरी और जट्टा विलियम्स.
“मशीन लर्निंग मॉडल में पूर्वाग्रह खोजना मुश्किल है, और कभी-कभी, कंपनियों को अनपेक्षित नैतिक नुकसान के बारे में पता चलता है, जब वे पहले ही जनता तक पहुंच चुके होते हैं,” चौधरी और विलियम्स ने एक ब्लॉग पोस्ट में लिखा।
“हम इसे बदलना चाहते हैं।”
उन्होंने कहा कि हैकर बाउंटी मॉडल एल्गोरिथम पूर्वाग्रह खोजने में वादा करता है।
“हम इस बात से प्रेरित हैं कि कैसे अनुसंधान और हैकर समुदायों ने सुरक्षा क्षेत्र को जनता की सुरक्षा के लिए कमजोरियों की पहचान करने और उन्हें कम करने के लिए सर्वोत्तम प्रथाओं को स्थापित करने में मदद की,” उन्होंने लिखा।
“हम एक समान समुदाय की खेती करना चाहते हैं … एल्गोरिथम नुकसान की सक्रिय और सामूहिक पहचान के लिए।”
यह कदम स्वचालित एल्गोरिथम सिस्टम के बारे में बढ़ती चिंताओं के बीच आया है, जो तटस्थ रहने के प्रयास के बावजूद नस्लीय या अन्य प्रकार के पूर्वाग्रह को शामिल कर सकता है।
ट्विटर, जिसने इस साल की शुरुआत में एक एल्गोरिथम निष्पक्षता पहल शुरू की थी, ने मई में कहा था कि यह एक स्वचालित छवि-क्रॉपिंग सिस्टम को खत्म कर रहा था क्योंकि इसकी समीक्षा में फ़ंक्शन को नियंत्रित करने वाले एल्गोरिदम में पूर्वाग्रह पाया गया था।
मैसेजिंग प्लेटफॉर्म ने कहा कि उसने पाया कि एल्गोरिथ्म ने “जनसांख्यिकीय अंतर के आधार पर असमान उपचार” दिया, जिसमें गोरे लोगों और पुरुषों ने काले लोगों और महिलाओं के पक्ष में थे, और “ऑब्जेक्टिफिकेशन” पूर्वाग्रह जो एक महिला की छाती या पैरों पर केंद्रित था, जिसे “पुरुष टकटकी” के रूप में वर्णित किया गया था। ”
.