2025 में सेल्फ हार्म कंटेंट पर कार्रवाई की हिस्सेदारी बढ़कर 21.44%, अश्लील कंटेंट पर भी बढ़ी निगरानी
नई दिल्ली। सोशल मीडिया कंपनियां अब संवेदनशील और हानिकारक कंटेंट को लेकर पहले से ज्यादा सख्त हो गई हैं। आत्महत्या, सेल्फ हार्म और एडल्ट कंटेंट जैसी श्रेणियों में कंपनियां तेजी से कार्रवाई कर रही हैं और ऐसी पोस्ट को हटाने की प्रक्रिया को मजबूत किया गया है।
सेल्फ हार्म कंटेंट पर बढ़ी कार्रवाई
आंकड़ों के अनुसार, सोशल मीडिया प्लेटफॉर्म्स पर आत्महत्या और सेल्फ हार्म से जुड़े कंटेंट के खिलाफ की गई कार्रवाई की हिस्सेदारी वर्ष 2022 में 5.41 प्रतिशत थी, जो वर्ष 2025 में बढ़कर 21.44 प्रतिशत हो गई। इसी तरह अश्लील कंटेंट के खिलाफ कार्रवाई भी 0.97 प्रतिशत से बढ़कर 16.85 प्रतिशत तक पहुंच गई है।
बुलिंग और हेट स्पीच के मामलों में कमी
रिपोर्ट के मुताबिक, बुलिंग और ऑनलाइन उत्पीड़न से जुड़े मामलों पर कार्रवाई की हिस्सेदारी 2022 में 2.32 प्रतिशत थी, जो 2025 में घटकर 1.85 प्रतिशत रह गई। वहीं हेट स्पीच से जुड़े मामलों में भी गिरावट दर्ज की गई है। इसका हिस्सा 2022 के 1 प्रतिशत से घटकर 2025 में 0.59 प्रतिशत हो गया।
AI आधारित सिस्टम से हो रही निगरानी
सोशल मीडिया कंपनियों ने कंटेंट मॉडरेशन को मजबूत करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) आधारित सिस्टम का इस्तेमाल बढ़ाया है। इसके जरिए आत्महत्या, सेल्फ हार्म, अश्लीलता, बच्चों की सुरक्षा, हिंसा और नफरत फैलाने वाले कंटेंट की पहचान पहले से ज्यादा तेजी से की जा रही है।
यूजर शिकायत से पहले हटाई जा रही संदिग्ध पोस्ट
कई मामलों में संदिग्ध पोस्ट यूजर रिपोर्ट से पहले ही AI सिस्टम और मॉडरेशन टीम की मदद से हटा दी जाती हैं। भारत जैसे बड़े सोशल मीडिया बाजार में बढ़ते यूजर बेस को देखते हुए कंपनियां अपनी कम्युनिटी गाइडलाइंस को और सख्ती से लागू कर रही हैं, ताकि ऑनलाइन प्लेटफॉर्म को अधिक सुरक्षित बनाया जा सके।
