AI-Powered Deepfake Robocall Uses Biden’s Voice- एनएच प्राथमिक में मतदान को प्रोत्साहित करें

AI-Powered Deepfake Robocall: लोकतंत्र को कमजोर करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करते हुए एक घातक नया राजनीतिक हमला सामने आया है – एक रोबोकॉल जो न्यू हैम्पशायर के आगामी राष्ट्रपति प्राथमिक में मतदान को हतोत्साहित करने के लिए राष्ट्रपति बिडेन की आवाज को डीपफेक करता है। एआई वॉयस-क्लोनिंग तकनीक का यह भ्रामक उपयोग एक खतरनाक मिसाल कायम करता है और यह विनियमित करने की मांग को बढ़ाता है कि अनजाने नागरिकों पर जेनरेटिव एआई कैसे लागू होता है।

AI-Powered Deepfake Robocall to Discourage Voting in NH Primary

न्यू हैम्पशायर के निर्णायक फरवरी की ओर अग्रसर। 14 डेमोक्रेटिक प्रेसिडेंशियल प्राइमरी में, कुछ निवासियों को स्पष्ट रूप से राष्ट्रपति बिडेन की आवाज़ की झूठी नकल करने और मतदाता मतदान को कम करने के उद्देश्य से झूठ बोलने के लिए परिष्कृत एआई का उपयोग करते हुए रोबोकॉल प्राप्त हुए हैं।

कॉल की शुरुआत बिडेन के परिचित वाक्यांश “व्हाट ए बंच ऑफ मैलार्की” से होती है, इससे पहले दावा किया गया था कि नागरिकों को मंगलवार को मतदान करने में परेशान नहीं होना चाहिए क्योंकि प्राथमिक का नवंबर के आम चुनाव से कोई लेना-देना नहीं है। यह ज़बरदस्त दुष्प्रचार अलग-अलग चुनावी घटनाओं के बारे में आम भ्रम को दूर करता है।

इसमें आगे कहा गया है कि ” इस मंगलवार को मतदान केवल रिपब्लिकन को सक्षम बनाता है ” एक वोट को बर्बाद करके जो बाद में डेमोक्रेट की मदद कर सकता है। “ आपका वोट नवंबर में फर्क डालता है, इस मंगलवार को नहीं,” नकली बिडेन की आवाज समाप्त होती है, जिसे न्यू हैम्पशायर के अटॉर्नी जनरल ने तुरंत पूरी तरह से गलत जानकारी के रूप में खारिज कर दिया।

लेकिन कुटिलतापूर्वक कल्पित रोबोकॉल में वास्तविक बिडेन रिकॉर्डिंग के सभी प्रामाणिक स्वर परिवर्तन और ताल थे। निर्बाध आवाज की नकल की यह डिग्री स्पष्ट रूप से एआई संवर्द्धन की ओर इशारा करती है। यह संदेश उसी गहन शिक्षण प्रगति के हथियारीकरण के माध्यम से चुनावी अखंडता को कमजोर करने की कोशिश करता है जो लाभकारी नई प्रौद्योगिकियों को तेजी से सशक्त बनाता है।

वॉयस क्लोनिंग तकनीक निर्बाध एआई-संचालित डीपफेक को सक्षम बनाती है

जबकि पता लगाने योग्य सिंथेटिक वॉयस मिमिक्री स्पष्ट रूप से स्वचालित लगती थी, जेनरेटिव एआई में नई तकनीकें लगभग दोषरहित मुखर प्रतिकृतियां प्राप्त करती हैं। रेस्पीचर, मर्फ.एआई और वेलसेड लैब्स जैसी सेवाओं के पीछे मशीन लर्निंग एल्गोरिदम विश्वसनीय प्रतिरूपण के लिए आवश्यक मौखिक टिक्स और द्वंद्वात्मक बारीकियों को सीखने के लिए किसी के पूर्व भाषणों के विशाल डेटासेट का लाभ उठाते हैं।

परिणामी एआई आवाज क्लोन लक्ष्य की आवाज में प्राकृतिक-ध्वनि वाला भाषण बनाता है। लेकिन टिकटॉक पर स्पष्ट पैरोडी खातों के विपरीत, सार्वजनिक हस्तियों के वास्तविक बयानों के बजाय जनरेटर द्वारा चुनी गई कोई भी बात कहकर ऑडियो में हेरफेर किया जा सकता है।

और इन प्रणालियों में तीव्र गति से सुधार जारी है। जहां एक बार मामूली गड़बड़ियों से एआई निर्माण का पता चला था, वहीं वर्तमान संस्करण पहले से ही सीमित परीक्षण बनाम मानव पहचान में उल्लेखनीय रूप से अच्छा प्रदर्शन कर रहे हैं। उनकी क्षमता इतनी तेजी से बढ़ने का मतलब है कि सभी नागरिकों को संभावित सामाजिक खतरों का सामना करना होगा क्योंकि सक्षम सुरक्षा से पहले चालाक चालें सामने आती हैं।

जबकि वॉयस मिमिक्री के लिए सुविधाजनक उपयोग के मामले फिल्म, मनोरंजन और एक्सेसिबिलिटी सेवाओं में मौजूद हैं, न्यू हैम्पशायर की घटना अधिक नापाक अनुप्रयोगों का प्रतीक है जो लोकतंत्र को सोशल मीडिया प्रचार युग में सामना करना पड़ता है। मतदाताओं के ख़िलाफ़ हथियार के रूप में इस्तेमाल किया जाने वाला वस्तुतः अप्राप्य रोबोकॉल एक प्रारंभिक चेतावनी है कि सख्त जनरेटिव एआई सुरक्षा उपाय जल्दी से किए जाने चाहिए।

बिडेन 2024 अभियान से जुड़ी नकली राजनीतिक समिति

चोट पर नमक छिड़कते हुए, बिडेन की आवाज़ वाली रोबोकॉल कॉलर आईडी पर डोनाल्ड ट्रम्प इंक के बारे में अधिक जानें के कोषाध्यक्ष की ओर से दिखाई दी – एक वैध राजनीतिक कार्रवाई समिति (पीएसी) जो बिडेन की 2024 की पुन: चुनाव बोली का समर्थन करती है।

यह तकनीक, जिसे पड़ोस स्पूफिंग के रूप में जाना जाता है, धोखाधड़ी वाले लक्ष्यों की संभावना को बढ़ाने के लिए मान्यता प्राप्त स्थानीय नंबरों के साथ स्कैम कॉल को जोड़ती है। दुष्प्रचार करते समय रोबोकॉलर्स अक्सर नकली पीएसी या अभियान नामों का उपयोग करते हैं क्योंकि परिचितता प्राप्तकर्ताओं को धोखा देने के लिए और अधिक विश्वसनीय विश्वसनीयता बनाती है।

इसलिए एआई-संचालित कॉल न केवल उन्नत वॉयस क्लोनिंग पर निर्भर करती है, बल्कि यह वास्तविक स्रोत इकाई को छिपाकर चालाकी को बढ़ाती है। ये चालें एकजुट होकर मीडिया मोर्चों पर छेड़े गए सूचना युद्ध के माध्यम से मतदान के अधिकार को खत्म करने की सावधानीपूर्वक योजना का प्रदर्शन करती हैं जो अभी भी एआई के जोखिमों के साथ तालमेल बनाए रखने के लिए संघर्ष कर रहा है।

और जबकि तकनीकी जांच का उद्देश्य अपराधियों को जवाबदेह ठहराने के लिए रोबोकॉल की उत्पत्ति का पता लगाना है, राजनीतिक गंदे चालबाज अनिवार्य रूप से जेनरेटर एआई का दुरुपयोग करने के लिए तैयार हैं क्योंकि नियम आज खतरों से काफी पीछे हैं। प्रौद्योगिकी और लोकतंत्र दोनों के परस्पर जुड़े परिदृश्यों को अब स्थायी क्षति होने से पहले तेजी से सुरक्षा विकसित करने के लिए नए दबाव का सामना करना पड़ रहा है।

बिडेन के लिए राइट-इन प्रयास प्राथमिक से अलग हो रहे हैं

विडंबना यह है कि बिडेन स्वयं भी मंगलवार को न्यू हैम्पशायर के प्राथमिक मतदान में उपस्थित नहीं होंगे। वोट का उद्देश्य रिपब्लिकन टिकट पर डोनाल्ड ट्रम्प, निक्की हेली या रॉन डेसेंटिस जैसे घोषित उम्मीदवारों के लिए वर्तमान 2024 उत्साह का आकलन करना है। जो बिडेन ने पहले ही निर्विरोध डेमोक्रेटिक नामांकन सुरक्षित कर लिया है।

लेकिन जमीनी स्तर के कार्यकर्ता समूहों ने प्राथमिक चरण के दौरान अनौपचारिक रूप से बिडेन के पुन: चुनाव का समर्थन करने में रुचि रखने वाले डेमोक्रेटिक मतदाताओं के लिए अलग से राइट-इन अभियान शुरू किया, जबकि अन्य उम्मीदवार विरोधी पार्टी में प्रतिस्पर्धा करते हैं। ये राइट-इन प्रयास औपचारिक प्राथमिक से अलग रूप से संचालित होते हैं, हालांकि इनका कोई कार्यात्मक प्रभाव नहीं होता है।

इसलिए डीपफेक रोबोकॉल प्राथमिक भागीदारी का झूठा दावा करके दोगुना गुमराह करता है, जिससे किसी के आम चुनाव के वोटों में बाधा आती है, जबकि वास्तव में मंगलवार को मतदान करने या छोड़ देने से नवंबर के नतीजों पर कोई असर नहीं पड़ता है। मौलिक मतदान अधिकारों के बारे में नागरिकों को धोखा देकर, यदि अनियंत्रित छोड़ दिया जाए तो यह हमला मतदान को इतना दबाने में सक्षम हो सकता है कि चुनावी अखंडता को काफी नुकसान पहुंच सकता है।

यह उदाहरण जिस छोटे पैमाने पर स्थापित किया गया है वह अभी भी एआई दुष्प्रचार के माध्यम से मतदाताओं को बरगलाने की एक अविश्वसनीय रूप से खतरनाक मिसाल कायम करता है। यदि अनियंत्रित छोड़ दिया जाता है, तो इन युक्तियों के सामान्य हो जाने का जोखिम है क्योंकि प्रौद्योगिकी लगातार आगे बढ़ रही है जबकि निरीक्षण पिछड़ रहा है।

कितने नागरिकों को डीपफेक रोबोकॉल प्राप्त हुआ?

हालांकि एआई-संचालित नकली बिडेन रोबोकॉल द्वारा बमबारी किए गए न्यू हैम्पशायर निवासियों की सटीक संख्या शुरू में अस्पष्ट बनी हुई है, लेकिन अगर यह चाल मामूली रूप से भी सफल होती है तो संकीर्ण दायरा जोखिम को कम नहीं करता है। मतदाताओं के अधिकारों या मतपत्र सुरक्षा को खतरे में डालने वाले सभी चुनाव हस्तक्षेपों की आकार या गंभीरता की परवाह किए बिना सार्वभौमिक रूप से निंदा की जानी चाहिए।

लेकिन सीमित ज्ञात प्रसार कम से कम यह संकेत देता है कि दुष्प्रचार अभियान में पूर्ण पैमाने पर धन, वितरण संसाधनों या अकेले राज्यव्यापी दौड़ को प्रभावित करने के महत्वाकांक्षी इरादे का अभाव था। संकीर्ण रूप से फैल रही विलक्षण भ्रामक कॉल ने इसके बजाय आसानी से परीक्षण करने का काम किया है कि वर्तमान वॉयस-क्लोनिंग एआई नागरिकों को मताधिकार से वंचित करने की कोशिश में कितना ठोस लग सकता है।

उस प्रकाश में, यदि जवाबदेही अनुपस्थित रहती है, तो नकली बिडेन आवाज द्वारा गलत तरीके से बोला गया प्रत्येक डिजिटल रूप से परिवर्तित शब्द भविष्य की चालों को सामान्य करने का जोखिम उठाता है। एक बार जब राजनीतिक रणनीतिकार एआई प्रचार से सबसे छोटे सांख्यिकीय बदलावों को भी अनियंत्रित रूप से फैलते हुए देखते हैं, तो प्रोत्साहन अंतहीन चैनलों में तेजी से दोहराई जाने वाली रणनीति के रूप में सामने आता है।

अमेरिकी लोकतंत्र के लिए जो पहले से ही सोशल मीडिया पर गलत सूचनाओं को स्थायी रूप से जड़ से खत्म करने के लिए संघर्ष कर रहा है, एआई-जनित गलत सूचनाओं का यह घातक जाल किसी भी आसान उपाय के अभाव में एक कष्टदायक नए मोर्चे का परिचय देता है।

डीपफेक रोबोकॉल के उभरने के बाद एआई विनियमों की मांग बढ़ गई है

न्यू हैम्पशायर की घटना के मद्देनजर उपभोक्ता वकालत समूहों ने चेतावनी दी कि इस प्रकार के दुर्भावनापूर्ण परिदृश्यों को सर्वव्यापी रूप से फैलने से रोकने के लिए जेनरेटर एआई खतरनाक रूप से रेलिंग से मुक्त है। वे कानून निर्माताओं से सार्वजनिक कल्याण के लिए खतरा पैदा करने वाले वर्तमान में अनियंत्रित एआई सिस्टम को व्यवस्थित करने के लिए तत्काल कार्रवाई करने का आग्रह करते हैं।

पब्लिक सिटीजन जैसे संगठनों ने पहले ही वर्षों से चेतावनी दी थी कि प्राकृतिक भाषा प्रसंस्करण जैसे उपकरण गलत हाथों में जोखिम पैदा करते हैं। लेकिन गहरी सीखने की अवस्था त्रुटिहीन आवाज की नकल करने और कुछ भी कहने के लिए पहले से रिकॉर्ड किए गए भाषणों को संपादित करने की अनुमति देती है, जो जवाबदेही की कमी वाले नए इलाके को परेशान कर देती है।

अब विधायकों पर यह जिम्मेदारी आ गई है कि वे प्रौद्योगिकी विशेषज्ञों को बुलाएं, ताकि सामाजिक सुरक्षा के साथ नवोन्वेष के लाभों को संतुलित करने वाले नियामक प्रस्तावों में तेजी लाई जा सके। एआई का विकास करने वाली या इससे मुनाफा कमाने वाली कंपनियां समान रूप से यह सुनिश्चित करने का बोझ उठाती हैं कि ग्राहक अराजकता फैलाने से पहले सीमाओं को समझें।

क्योंकि आवाज़ें इतनी गहरी व्यक्तिगत पहचान प्रदान करती हैं, श्रोता अक्सर संभावित धोखे पर विचार किए बिना परिचित भाषण पर भरोसा करते हैं। ये जैविक प्रवृत्तियाँ आबादी को सावधानीपूर्वक सुनियोजित एआई दुष्प्रचार के प्रति अत्यधिक संवेदनशील बना देती हैं, जिससे प्रामाणिकता का अंतर कम हो जाता है।

इसलिए इस एकल विध्वंसक रोबोकॉल घटना को संबोधित करने से परे, मिसाल 21वीं सदी में संचार नियमों के बारे में पुनर्विचार की मांग करती है जो विशेष रूप से आसपास के चुनावों या सार्वजनिक नीति मामलों में स्वीकार्य एआई आचरण का आदेश देते हैं। हमारी लोकतांत्रिक संस्थाएँ इन आधुनिक ढाँचों को जल्द से जल्द सुरक्षित करने पर निर्भर हैं, इससे पहले कि जेनेरिक प्रौद्योगिकियाँ इतनी बोझिल हो जाएँ कि उन्हें रोका नहीं जा सके।

नवप्रवर्तन को बाधित किए बिना वॉइस-क्लोनिंग सिस्टम को कैसे विनियमित किया जा सकता है?

हालाँकि, विनियामक हस्तक्षेपों की वकालत करने की हड़बड़ी में, स्वास्थ्य, शिक्षा, रोजगार और उससे आगे परिवर्तनकारी प्रगति प्रदान करने वाली सफलताओं को लेकर बारीकियाँ अभी भी मायने रखती हैं। विवेकपूर्ण रेलिंग में सार्वजनिक नुकसान के लिए एआई का उपयोग शामिल होना चाहिए – लेकिन दूरदर्शी प्रगति को प्रोत्साहित करते हुए हल्का स्पर्श मार्गदर्शन अभी भी जोखिमों का प्रबंधन कर सकता है।

जब वैश्विक स्तर पर प्रौद्योगिकियां अधिक जटिल हो जाती हैं, तो व्यापक प्रतिबंध लगभग कभी भी सकारात्मक परिणाम नहीं दिखाते हैं। इसके बजाय, सबसे खराब विशिष्ट दुरुपयोगों के बारे में विचारशील विश्लेषण नीतियों को आनुपातिकता की ओर ले जाता है। उदाहरण के लिए, वाणिज्यिक विज्ञापन में सहमति देने वाली सार्वजनिक हस्तियों की वॉयस क्लोनिंग, मतदाता अधिकारों को दबाने के लिए उपयोग की जाने वाली पहचान धोखाधड़ी की तुलना में पूरी तरह से अलग नैतिक रूपरेखा का पालन करती है।

इस सीमांत कानून की खोज करने वाले कानून निर्माताओं को प्रतिकारी स्थिति को संतुलित करने के लिए व्यापक दृष्टिकोण को आमंत्रित करना चाहिए। सांस्कृतिक मानदंडों पर विचार करने वाले क्षेत्रीय दृष्टिकोण भी यह तय करने में महत्वपूर्ण भूमिका निभाते हैं कि एआई निरीक्षण आदर्श सीमाओं के पार कैसे लागू होते हैं। एक नाजुक संतुलन अनिश्चित बना हुआ है, लेकिन संभावित रूप से सभ्यता-परिवर्तनकारी दांव जेनरेटर एआई के संपूर्ण प्रक्षेपवक्र के लिए इन शुरुआती वर्षों के दौरान कोई आसान विकल्प नहीं छोड़ते हैं।

यदि समाज समान माप में तर्क, करुणा और जवाबदेही को अपनाता है, तो शायद तकनीकी-डिस्टोपियन परिणामों के बजाय एक उभरता हुआ एआई-संचालित यूटोपिया इंतजार कर रहा है। लेकिन नागरिक प्रगति को हल्के में नहीं ले सकते। जैसे-जैसे मशीनें अच्छे या बुरे के लिए मानवता का अनुकरण करने में सक्षम हो रही हैं, जनरेटिव मीडिया, लोकतांत्रिक चुनावों, मानसिक स्वास्थ्य प्रभावों और बहुत कुछ के बारे में कठिन सवालों का सामना करना होगा, जैसा कि सभ्यताओं के युगों में पहले कभी नहीं सोचा गया था। हमारा भविष्य अलिखित है.