मेटा प्लेटफॉर्म्स इंक (NASDAQ: META) ने अपने फेसबुक (NASDAQ:META) और इंस्टाग्राम प्लेटफॉर्म पर भ्रामक सामग्री की खोज का खुलासा किया है, जो कृत्रिम बुद्धिमत्ता (AI) द्वारा उत्पन्न प्रतीत होती है। सामग्री में ऐसी टिप्पणियां शामिल हैं जो गाजा में युद्ध के लिए इज़राइल के दृष्टिकोण की सराहना करती हैं, जिन्हें वैश्विक समाचार आउटलेट और अमेरिकी राजनेताओं के अपडेट के नीचे पोस्ट किया गया था।
कंपनी की हालिया सुरक्षा रिपोर्ट से पता चला है कि नकली खातों ने विभिन्न जनसांख्यिकीय समूहों, जैसे कि यहूदी छात्रों और अफ्रीकी अमेरिकियों का रूप धारण किया, जो संयुक्त राज्य अमेरिका और कनाडा में उपयोगकर्ताओं पर उनके संदेशों को लक्षित करते थे। मेटा ने तेल अवीव स्थित राजनीतिक विपणन फर्म STOIC को इन अभियानों के प्रवर्तक के रूप में पहचाना है। आज तक, STOIC ने आरोपों पर कोई टिप्पणी नहीं की है।
यह रिपोर्ट उल्लेखनीय है क्योंकि यह पहली बार है जब मेटा ने 2022 के अंत में अपने उद्भव के बाद से इस तरह के ऑपरेशन में परिष्कृत जनरेटिव एआई तकनीकों के उपयोग की सूचना दी है। जनरेटिव एआई ठोस पाठ, चित्र और ऑडियो बना सकता है, जिससे शोधकर्ताओं के बीच अधिक प्रभावी दुष्प्रचार प्रयासों को बढ़ावा देने की इसकी क्षमता के बारे में चिंता पैदा हो सकती है जो चुनाव परिणामों को प्रभावित कर सकते हैं।
एक प्रेस कॉल के दौरान, मेटा के सुरक्षा अधिकारियों, जिनमें खतरे की जांच के प्रमुख माइक डेविल्यांस्की भी शामिल हैं, ने कहा कि नई एआई तकनीकों के आगमन ने समन्वित प्रभाव नेटवर्क को बाधित करने की उनकी क्षमता में बाधा नहीं डाली है। ड्विलयांस्की ने कहा, “इन नेटवर्कों में ऐसे कई उदाहरण हैं कि कैसे वे सामग्री बनाने के लिए संभावित जनरेटिव एआई टूलिंग का उपयोग करते हैं। शायद यह उन्हें जल्दी करने या अधिक मात्रा के साथ ऐसा करने की क्षमता देता है। लेकिन इससे वास्तव में उनका पता लगाने की हमारी क्षमता प्रभावित नहीं हुई है।”
सुरक्षा रिपोर्ट में पहली तिमाही में छह गुप्त प्रभाव संचालन में व्यवधान पर प्रकाश डाला गया, जिनमें से एक STOIC नेटवर्क था। एक अन्य नेटवर्क, जो ईरान में स्थित है और जो इजरायल-हमास संघर्ष पर भी केंद्रित था, को बंद कर दिया गया था, हालांकि इसने जनरेटिव एआई का उपयोग नहीं किया था।
चूंकि मेटा जैसे तकनीकी दिग्गजों को चुनावों में AI के संभावित दुरुपयोग को दूर करने की चुनौती का सामना करना पड़ता है, शोधकर्ताओं ने ऐसे उदाहरणों की पहचान की है जहां OpenAI और Microsoft (NASDAQ: MSFT) जैसी कंपनियों के छवि जनरेटर ने वोटिंग से संबंधित गलत सूचना वाली छवियां तैयार की हैं। इन कंपनियों ने निर्माण के समय एआई-जनित सामग्री की पहचान करने के लिए डिजिटल लेबलिंग सिस्टम लागू किया है, लेकिन ये सिस्टम वर्तमान में टेक्स्ट पर काम नहीं करते हैं, और शोधकर्ताओं द्वारा उनकी समग्र प्रभावशीलता पर सवाल उठाए जाते हैं।
जून की शुरुआत में यूरोपीय संघ में और नवंबर में संयुक्त राज्य अमेरिका में महत्वपूर्ण चुनाव आने के साथ, मेटा ऐसे एआई-जनित दुष्प्रचार अभियानों के खिलाफ अपने बचाव का परीक्षण करने की तैयारी कर रहा है।
रॉयटर्स ने इस लेख में योगदान दिया।
यह लेख AI के समर्थन से तैयार और अनुवादित किया गया था और एक संपादक द्वारा इसकी समीक्षा की गई थी। अधिक जानकारी के लिए हमारे नियम एवं शर्तें देखें।