Microsoft ने शपथ और विषाक्तता को रोकने के लिए Xbox सामग्री फ़िल्टर का अनावरण किया

टेक्स्ट-आधारित फ़िल्टरिंग पहले, लेकिन ध्वनि फ़िल्टर रास्ते में हैं

Microsoft अपने प्लेटफ़ॉर्म पर विषाक्तता को विफल करने के प्रयास में आज अपने Xbox Live मैसेजिंग सिस्टम के लिए नए सामग्री फ़िल्टर का परीक्षण करना शुरू कर रहा है। Microsoft ने लगभग 20 वर्षों के लिए Xbox Live पर मॉडरेशन संभाला है, जिसमें संदेश, गेमर्टैग, फ़ोटो और बहुत कुछ रिपोर्ट करने की क्षमता शामिल है, लेकिन यह नया प्रयास खिलाड़ी को Xbox Live पर जो कुछ भी दिखाई देगा, उसके नियंत्रण में रखता है। सबसे पहले, Microsoft Xbox Live पर संदेशों के लिए टेक्स्ट-आधारित फ़िल्टर जारी कर रहा है, लेकिन कंपनी का भविष्य में Xbox Live पार्टी सत्रों को फ़िल्टर करने में सक्षम होने का एक व्यापक लक्ष्य है ताकि लाइव ऑडियो कॉल को रीयल-टाइम ब्लिप्स के साथ फ़िल्टर किया जा सके। प्रसारण टीवी के समान।

वहां होगापाठ-आधारित निस्पंदन के चार नए स्तरप्रारंभ में Xbox Live उपयोगकर्ताओं के लिए उपलब्ध: मित्रवत, मध्यम, परिपक्व और अनफ़िल्टर्ड। जैसा कि आप कल्पना कर सकते हैं, मित्रता सबसे अधिक बच्चों के अनुकूल विकल्प है, जिसे सभी संभावित आपत्तिजनक संदेशों को फ़िल्टर करने के लिए डिज़ाइन किया गया है। विपरीत छोर पर, अनफ़िल्टर्ड है, जो Xbox Live मैसेजिंग के रूप में काम करेगा जो आज ज्यादातर काम करता है।

संदेशों का संदर्भ महत्वपूर्ण है

फ़िल्टर किए गए संदेश उन पर एक नए संभावित आक्रामक छिपे हुए संदेश चेतावनी के साथ दिखाई देंगे, और यदि आप एक वयस्क Xbox Live खाते का उपयोग कर रहे हैं, तो आप सामग्री को देखने के लिए क्लिक कर सकेंगे और यदि आवश्यक हो तो नियमित टूल का उपयोग करके इसकी रिपोर्ट कर सकेंगे। चाइल्ड खातों को डिफ़ॉल्ट रूप से दोस्ताना स्तर पर रखा जाएगा, और संभावित रूप से आपत्तिजनक संदेशों को देखने से डिफ़ॉल्ट रूप से उन्हें ब्लॉक कर दिया जाएगा। माता-पिता Microsoft की पारिवारिक सेटिंग्स के माध्यम से स्तरों का प्रबंधन करने में सक्षम होंगे, और फ़िल्टरिंग Xbox One, Xbox गेम बार और Windows 10, iOS और Android के लिए Xbox ऐप्स पर काम करेगी।

Microsoft के लिए, यह केवल उन खराब चीज़ों को फ़िल्टर करने के बारे में नहीं है जो लोग आपको नवीनतम खेल खेलते समय भेज सकते हैंकर्तव्यशीर्षक। यह बहुत गहरा जाता है। आप देखते हैं कि अफ्रीकी अमेरिकी खिलाड़ियों को मल्टीप्लेयर सत्रों में लिंचिंग के लिए बुलाया जा रहा है, या प्रतिस्पर्धी माहौल में महिला गेमर्स को हर तरह के नाम से पुकारा जाता है और बाहरी दुनिया में परेशान महसूस किया जाता है, या हमारे एलजीबीटीक्यू समुदाय के सदस्यों को लगता है कि वे बात नहीं कर सकते हैं एक्सबॉक्स लाइव पर उनकी आवाज इस डर से कि उन्हें बाहर कर दिया जाएगा, माइक्रोसॉफ्ट के एक्सबॉक्स ऑपरेशंस के प्रमुख डेव मैकार्थी ने एक साक्षात्कार में बताया।कगार. अगर हमें वास्तव में एक उद्योग के रूप में अपनी क्षमता का एहसास करना है और इस अद्भुत माध्यम को सबके सामने लाना है, तो उसके लिए कोई जगह नहीं है।

मैकार्थी और उनकी टीम कृत्रिम बुद्धिमत्ता और फ़िल्टरिंग के मिश्रण का उपयोग करके संदेशों के संदर्भ की पहचान करने के लिए विभिन्न तरीकों पर विचार कर रही है। गेमिंग स्पेस में प्रसंग वास्तव में एक मुश्किल चीज है, मैककार्थी मानते हैं। जब आप एक मल्टीप्लेयर मिशन के लिए तैयार हो रहे हों तो यह कहना एक बात है कि आप एक हत्या की होड़ में जा रहे हैंनमस्ते, और यह दूसरा है जब इसे किसी अन्य सेटिंग में कहा जाता है। हमारे लिए संदर्भ और बारीकियों को समझने के तरीके खोजना एक कभी न खत्म होने वाली लड़ाई है।

ट्रंप पेरिस जलवायु समझौता

मैंने मैककार्थी और उनकी टीम के साथ अपनी मुलाकात का एक हिस्सा अपने करियर के सबसे विचित्र क्षणों में से एक में बिताया: फ़िल्टर को हराने के प्रयास में असभ्य संदेशों के साथ एक Xbox लाइव खाते पर बमबारी। मैंने उच्चारण या प्रतीकों के साथ शपथ शब्दों में हेरफेर करके विशिष्ट टेक्स्ट फ़िल्टर प्राप्त करने के कुछ बुनियादी तरीकों की कोशिश की, और माइक्रोसॉफ्ट ने उन्हें पकड़ लिया। यहां तक ​​​​कि लाश की हत्या की लहरों के बारे में संदर्भ-आधारित संदेश भी सही ढंग से उठाए गए थे। मेरे पास सिस्टम का पूरी तरह से परीक्षण करने के लिए पर्याप्त समय नहीं था, लेकिन कुछ भी फुलप्रूफ नहीं है, और इंटरनेट कुछ समुदायों पर हमला करने वाले आक्रामक वाक्यांश और मेम बनाने के लिए जल्दी से अनुकूल हो सकता है। Microsoft ने प्रदर्शित किया कि वह किसी विशेष वाक्यांश को कैसे ले सकता है और इसे तुरंत कंपनी के फ़िल्टरिंग सिस्टम में जोड़ सकता है, हालाँकि किसी को अभी भी इस शब्द को पहले स्थान पर फ़्लैग करने की आवश्यकता होगी।

Microsoft अब इस बारे में अधिक खुला और पारदर्शी होने का प्रयास कर रहा है कि यह Xbox Live को कैसे मॉडरेट करता है और समुदाय में इन फ़िल्टरों को लागू करने के लिए वह क्या विकल्प बनाता है। यदि हम अपने उपयोगकर्ताओं को Xbox Live और हमारी अन्य सेवाओं पर उनके कार्यों के लिए जवाबदेह होने के लिए कहने जा रहे हैं, तो हमें अपनी मूल्य प्रणाली, हमारे अभ्यासों और हम जो करते हैं, उसके बारे में पारदर्शी होने की आवश्यकता है, मैकार्थी बताते हैं। हमने हाल ही में सबूत प्रदान करने, और लोगों को हमारे नए Xbox Live समुदाय मानकों की ओर इशारा करने जैसे काम करने में सफलता प्राप्त की है, जो हमारे द्वारा की जाने वाली जाँचों के बारे में हमारे पारदर्शिता प्रयास के हिस्से के रूप में है।

वर्तमान में, Xbox Live उपयोगकर्ता कंपनी के बारे में जानकारी प्राप्त कर सकते हैंप्रवर्तन वेबसाइटअंततः इस बारे में संकेत ढूंढने के लिए कि किस विशिष्ट संदेश ने उनके खाते को परेशानी में डाल दिया। लेकिन यह खाते के लिए जिम्मेदार व्यक्ति को संदेश में बुरे व्यवहार को उजागर करने जैसा नहीं है। Microsoft कुछ बदलावों पर विचार कर रहा है कि नियम तोड़ने पर Xbox Live के मालिकों को कैसे सूचित किया जाता है, लेकिन कंपनी केवल टेक्स्ट-आधारित संदेशों से बहुत आगे निकल रही है।

Microsoft Xbox Live पर वॉइस चैट विषाक्तता की चुनौती से भी निपटना चाहता है। जब किसी को Xbox Live पार्टी चैट में आमंत्रित किया जाता है तो बहुत अधिक विषाक्त व्यवहार और उत्पीड़न हो सकता है। माइक्रोसॉफ्ट रिसर्च ने वास्तविक समय में ऑडियो का अनुवाद करने के लिए भाषण-से-पाठ क्षमताओं को पहले ही विकसित कर लिया है, और एक्सबॉक्स डिवीजन इसका उपयोग कर रहा है।

हमने जो प्रयोग करना शुरू किया है, वह है 'अरे, अगर हम भाषण को टेक्स्ट में रीयल-टाइम ट्रांसलेट कर रहे हैं, और हमारे पास ये टेक्स्ट फ़िल्टरिंग क्षमताएं हैं, तो वॉयस सेटिंग में संभावित संचार को अवरुद्ध करने के मामले में हम क्या कर सकते हैं?' मैकार्थी बताते हैं। वहाँ शुरुआती दिन हैं, और अन्य एआई और तकनीक के असंख्य हैं जिन्हें हम आवाज की समस्या के आसपास ढेर करना चाहते हैं, भावना का पता लगाने और संदर्भ का पता लगाने जैसी चीजें जिन्हें हम वहां लागू कर सकते हैं। मुझे लगता है कि हम समग्र रूप से सीख रहे हैं ... हम इसे सही करने के लिए अपना समय ले रहे हैं।

ऑडियो चैट को टीवी की तरह ब्लीप्स के साथ फ़िल्टर किया जा सकता है

यह स्पष्ट रूप से बेहद जटिल है, दोनों इसे प्राप्त करने के लिए प्रौद्योगिकी के मामले में और गोपनीयता पहलुओं में भी शामिल है, लेकिन माइक्रोसॉफ्ट का लक्ष्य फ़िल्टरिंग के समान कुछ है जो टीवी स्टेशन लाइव प्रसारण पर प्राप्त कर सकते हैं।

एक अंतिम लक्ष्य वही हो सकता है जिसकी आप प्रसारण टीवी पर अपेक्षा करते हैं जहां लोग बातचीत कर रहे हैं, और वास्तविक समय में, हम एक खराब चरण का पता लगाने और उन उपयोगकर्ताओं के लिए बीप आउट करने में सक्षम हैं जो इसे देखना नहीं चाहते हैं , Xbox Live इंजीनियरिंग टीम के प्रोग्राम मैनेजर रॉब स्मिथ बताते हैं। यह एक अच्छा लक्ष्य है, लेकिन हमें इसके लिए कदम उठाने होंगे। Microsoft को वास्तविक समय में आवाज के नमूनों का विश्लेषण करने के लिए किसी भी संभावित विलंबता पर भी विचार करना होगा, क्योंकि अधिकांश पार्टी चैट का उपयोग इन-गेम चालों के समन्वय के लिए किया जाता है।

ऐसा लगता है कि किसी भी स्वचालित ऑडियो फ़िल्टरिंग से पहले, Microsoft विषाक्तता का पता लगाने के लिए पार्टी चैट भाषण का विश्लेषण कर रहा है। इस बीच, हम किसी व्यक्ति के भाषण का विश्लेषण करने और यह पता लगाने जैसे काम कर सकते हैं कि इस सत्र में वे किस स्तर की विषाक्तता का उपयोग कर रहे हैं? और शायद उन्हें स्वचालित रूप से म्यूट करने जैसी चीजें करना, स्मिथ का खुलासा करता है।

Android के लिए सबसे अच्छा ईमेल ऐप

Microsoft आंतरिक रूप से विभिन्न प्रकार के परीक्षण चला रहा है ताकि यह पता लगाया जा सके कि सबसे अच्छा क्या काम करेगा और अपनी पार्टी चैट योजनाओं को लागू करने के लिए अपने Xbox Live समुदाय से परामर्श करें। यह एक महत्वाकांक्षी योजना है, लेकिन Microsoft को इस ऑडियो का विश्लेषण करने में बहुत सावधान रहना होगा क्योंकि गोपनीयता के निहितार्थ बहुत बड़े हैं। हमें अपने उपयोगकर्ताओं के लिए दिन के अंत में गोपनीयता आवश्यकताओं का सम्मान करना होगा, इसलिए हम इसमें एक विचारशील तरीके से कदम उठाएंगे, और पारदर्शिता हमारा मार्गदर्शक सिद्धांत होगा कि हम अपने गेमर्स के लिए सही काम करें, मैकार्थी कहते हैं।

माइक्रोसॉफ्ट खुद को इन फिल्टरों के साथ एक मुक्त भाषण बहस में भी पा सकता है, भले ही सुप्रीम कोर्टइस साल की शुरुआत में पुष्टि कीपहला संशोधन अधिकार Xbox Live जैसे निजी प्लेटफ़ॉर्म पर लागू नहीं होता है। Microsoft यहां अपने इरादों के बारे में स्पष्ट हो रहा है और यह उस समुदाय से क्या अपेक्षा करता है जिसे वह अंततः नियंत्रित करता है।

एक्सबॉक्स लाइव एक फ्री स्पीच प्लेटफॉर्म नहीं है। यह एक क्यूरेटेड समुदाय है जहां हम चाहते हैं कि आपको उसमें कुछ हद तक व्यक्तिगत स्वतंत्रता मिले, यही वजह है कि हम यहां शुरू करने के लिए चार अलग-अलग सेटिंग्स कर रहे हैं, मैककार्थी बताते हैं। लेकिन हम इस बारे में अस्पष्ट नहीं होना चाहते कि हम किस लिए खड़े हैं। यह एक ऐसा स्थान होना चाहिए जहां हर कोई मज़े करे, और हम जो कुछ भी फीचर-वार और मॉडरेशन अभ्यास-वार करते हैं, वह मूल्यों के उस सेट में वेक्टर करने जा रहा है।