आजकल मेटा अपने एआई को लेकर काफी चर्चा में रहा है। हाल ही में कुछ इमेज सामने आई है जिसमें भारतीय और अमेरिका के सेलिब्रिटी की एआई से जनरेटेड बेकार तस्वीरें इंस्टाग्राम और अन्य प्लेटफॉर्म पर शेयर की जा रही है। इस विषय पर निर्णय लेने के लिए टेक दिग्गज ने जनता से उनकी राय मांगी है। आइये इसके बारे में जानते हैं।
सोशल मीडिया दिग्गज मेटा के ओवरसाइट बोर्ड ने भारत और अमेरिका में पब्लिक फिगर से संबंधित दो मामलों में एआई-जनित अश्लील छवियों पर की जाने वाली कार्रवाई पर निर्णय लेने के लिए सार्वजनिक टिप्पणियां आमंत्रित की हैं।
बोर्ड, जो सामग्री मॉडरेशन पर निर्णय लेने वाले बोर्ड ने कहा कि दो मामलों में से एक में इंस्टाग्राम पर पोस्ट की गई एक नग्न महिला की एआई-जनित इमेज शामिल है। यह छवि भारत की एक सार्वजनिक शख्सियत से मिलती-जुलती है , जिसे एआई का उपयोग करके बनाया गया है।
जिस अकाउंट ने इस कंटेंट को पोस्ट किया है वह केवल भारतीय महिलाओं की एआई-जनित छवियों को साझा करता है। प्रतिक्रिया देने वाले अधिकांश यूजर के आकाउंट भारत में हैं। जहां डीपफेक होते हैं और यह एक समस्या बढ़ती जा रही है।
मेटा ने मांगी जनता की राय
मेटा ने इस मुद्दे पर जनता की राय मांगी है, हालांकि इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने पहले ही सोशल मीडिया फर्मों को एआई-जनरेटेड नकली छवियों और वीडियो को हटाने के लिए कहा है और एक सलाह जारी की है, जिसमें इन प्लेटफार्मों को उनका सख्ती से पालन करने के लिए कहा गया है।
रश्मिका मंदाना और प्रियंका चोपड़ा जोनास सहित कई भारतीय अभिनेत्रियों की नकली या बदली तस्वीरें और वीडियो इंस्टाग्राम, फेसबुक और एक्स सहित कई सोशल मीडिया प्लेटफार्मों पर वायरल हो गए हैं।
बोर्ड ने कहा कि भारत से संबंधित मामले में, एक यूजर ने कंटेंट को अश्लीलता के लिए मेटा को रिपोर्ट किया था लेकिन रिपोर्ट ऑटोमेटिकली बंद कर दी गई थी, क्योंकि 48 घंटों के भीतर इसकी समीक्षा नहीं की गई थी।
