ऑनलाइन हेट स्पीच पर नजर रखने वाली संस्था सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) का दावा है कि चुनाव के दौरान आर्टिफिशियल इंटेलिजेंस (AI) का गलत इस्तेमाल किया जा सकता है। सीसीडीएच ने अपनी एक रिसर्च में कहा है कि OpenAI और Microsoft समेत दूसरी कंपनियों के AI टूल चुनावों में भ्रामक जानकारी के लिए फेक इमेज तैयार किए जा सकते हैं।
अमेरिका और भारत में इस साल आम चुनाव होने हैं। चुनाव के दौरान प्रचार के लिए आर्टिफिशियल इंटेलिजेंस (AI) की मदद से भ्रामक तस्वीरों के इस्तेमाल की आशंका है। ऑनलाइन हेट स्पीच पर नजर रखने वाली गैर-लाभकारी संस्था सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) के एक सर्वे में भी ऐसी ही बात निकलकर आई है।
CCDH के सर्वे के मुताबिक, OpenAI और Microsoft सहित कई कंपनियों के आर्टिफिशियल इंटेलिजेंस की इमेज क्रिएटिंग टूल से ऐसी भ्रामक तस्वीकों को बनाया जा सकता है, जो चुनाव के दौरान गलत सूचनाओं को बढ़ावा दे सकती है। हालांकि, दोनों ही कंपनियों के पास मिसलीडिंग कॉन्टेंट बनाने के खिलाफ पॉलिसी मौजूद हैं। अमेरिका में इस साल नवंबर में चुनाव होने हैं। वहीं भारत में अप्रैल-मई में चुनाव होने की संभावना है।
I का चुनावों में गलत इस्तेमाल
- CCDH के सर्वे रिपोर्ट में शोधकर्ताओं का दावा है कि इस तरह की AI जनरेटेड तस्वीरों का इस्तेमाल चुनाव के दौरान झूठे दावों के प्रसार को बढ़ाने के लिए सबूत के रूप में किया जा सकता है। इससे चुनावों को प्रभावित किया जा सकता है।
- सीसीडीएच का कहना है कि OpenAI के ChatGPT Plus, Microsoft के इमेज क्रिएटर, Midjourney और Stability AI के DreamStudio से इस तरह की भ्रामक तस्वीरें सिर्फ एक प्रॉम्पट लिखकर तैयार किए जा सकते हैं।
- ओपनएआई, माइक्रोसॉफ्ट और स्टेबिलिटी एआई समेत 20 टेक कंपनियों ने वैश्विक स्तर पर होने वाले चुनावों में भ्रामक एआई कॉन्टेंट को रोकने के लिए मिलकर काम करने के लिए एक समझौते पर हस्ताक्षर किए हैं।
