माइक्रोसॉफ्ट और टेलर स्विफ्ट जेनएआई डीपफेक समस्या

पिछले कुछ सप्ताह टेलर स्विफ्ट के लिए अच्छे और बुरे दोनों मायनों में पीआर बोनस रहे हैं। अच्छी बात यह है कि उसका प्रेमी ट्रैविस केल्स सुपर बाउल में विजेता टीम में था और खेल के दौरान उसकी प्रतिक्रियाओं को भरपूर प्रसारण मिला। इससे भी बुरी बात यह है कि जेनेरिक एआई-निर्मित उसकी नकली नग्न तस्वीरें हाल ही में इंटरनेट पर छा गई हैं।

जैसा कि आप उम्मीद करेंगे, उन छवियों के निर्माण और वितरण की निंदा तेजी से हुई, जिसमें जेनेरिक एआई (जेनएआई) कंपनियां और विशेष रूप से माइक्रोसॉफ्ट के सीईओ सत्या नडेला शामिल हैं। जो हुआ उसकी निंदा करने के अलावा, नडेला ने समाधान पर अपने विचार साझा किये: “मैं उस पर वापस जाता हूं जो मुझे लगता है कि हमारी ज़िम्मेदारी है, जो कि सभी रेलिंग हैं जिन्हें हमें प्रौद्योगिकी के चारों ओर रखने की ज़रूरत है ताकि अधिक सुरक्षित सामग्री का उत्पादन किया जा सके।”

माइक्रोसॉफ्ट कल फिर से डीपफेक के मुद्दे पर चर्चा हुई (हालांकि स्विफ्ट का उल्लेख किए बिना)। एक ब्लॉग पोस्ट में, माइक्रोसॉफ्ट के उपाध्यक्ष और अध्यक्ष ब्रैड स्मिथ ने डीपफेक के प्रसार की निंदा की और कहा कि कंपनी उनके प्रसार को सीमित करने के लिए कदम उठा रही है।

उन्होंने लिखा, “दुर्भाग्य से उपकरण भी हथियार बन जाते हैं और यह पैटर्न खुद को दोहरा रहा है।” “हम वर्तमान में बुरे कलाकारों द्वारा इन नए एआई उपकरणों के दुरुपयोग में तेजी से विस्तार देख रहे हैं, जिसमें एआई-जनरेटेड वीडियो, ऑडियो और छवियों पर आधारित डीपफेक भी शामिल है। यह प्रवृत्ति चुनाव, वित्तीय धोखाधड़ी, गैर-सहमति के माध्यम से उत्पीड़न के लिए नए खतरे पैदा करती है। अश्लील साहित्य, और साइबर बदमाशी की अगली पीढ़ी।”

स्मिथ ने माइक्रोसॉफ्ट से “एक मजबूत और व्यापक दृष्टिकोण” का वादा किया, उन्होंने कहा: “हम चल रहे नवाचार के लिए प्रतिबद्ध हैं जो उपयोगकर्ताओं को तुरंत यह निर्धारित करने में मदद करेगा कि कोई छवि या वीडियो एआई द्वारा उत्पन्न या हेरफेर किया गया है।”

जहां तक ​​बात है, माइक्रोसॉफ्ट का दृष्टिकोण निश्चित रूप से सच है, और यह विशिष्ट सर्व-उद्देश्यीय, त्वरित प्रतिक्रिया है जिसकी दुनिया की सबसे बड़ी और सबसे प्रभावशाली जेनएआई कंपनी से अपेक्षा की जा सकती है। लेकिन नडेला और स्मिथ ने जो छोड़ दिया वह यह है कि इस बात के सबूत हैं कि कंपनी के एआई टूल ने स्विफ्ट छवियां बनाईं; इससे भी अधिक नुकसानदेह बात यह है कि एक माइक्रोसॉफ्ट एआई डेवलपर का कहना है कि उसने कंपनी को समय से पहले चेतावनी दी थी कि उचित रेलिंग मौजूद नहीं है, और माइक्रोसॉफ्ट ने इसके बारे में कुछ नहीं किया।

माइक्रोसॉफ्ट के खिलाफ मामला

इस बात का प्रमाण मिलता है कि डीपफेक बनाने के लिए Microsoft टूल का उपयोग किया गया था 404 मीडिया आलेख, जो दावा करता है कि उनकी उत्पत्ति एक टेलीग्राम समुदाय में हुई है जो “गैर-सहमति अश्लील” बनाने के लिए समर्पित है; यह अनुशंसा करता है कि अश्लील छवियाँ उत्पन्न करने के लिए Microsoft डिज़ाइनर का उपयोग किया जाए। लेख में कहा गया है कि “डिज़ाइनर सैद्धांतिक रूप से प्रसिद्ध लोगों की छवियां बनाने से इनकार करते हैं, लेकिन एआई जनरेटर को भ्रमित करना आसान है, और 404 ने पाया कि आप संकेतों में छोटे बदलावों के साथ इसके नियमों को तोड़ सकते हैं।”

इससे भी अधिक नुकसानदेह बात यह है कि एक माइक्रोसॉफ्ट एआई इंजीनियर ने कथित तौर पर दिसंबर में माइक्रोसॉफ्ट को चेतावनी दी थी कि ओपनएआई के छवि जनरेटर DALL-E, जो कि माइक्रोसॉफ्ट डिजाइनर का दिमाग है, की सुरक्षा रेलिंग को स्पष्ट और हिंसक छवियां बनाने के लिए बायपास किया जा सकता है। उनका दावा है कि माइक्रोसॉफ्ट ने उनकी चेतावनियों को नजरअंदाज कर दिया और उनसे यह सुनिश्चित करने की कोशिश की कि उन्होंने जो पाया उसके बारे में सार्वजनिक रूप से कुछ भी न कहें।

इंजीनियर, शेन जोन्स, एक पत्र में लिखा अमेरिकी सीनेटर पैटी मरे (डी-डब्ल्यूए) और मारिया केंटवेल (डी-डब्ल्यूए) को; प्रतिनिधि एडम स्मिथ (डी-डब्ल्यूए), और वाशिंगटन राज्य के अटॉर्नी जनरल बॉब फर्ग्यूसन ने कहा कि उन्होंने “एक सुरक्षा भेद्यता की खोज की जिसने मुझे कुछ रेलिंगों को बायपास करने की अनुमति दी जो (DALL-E) मॉडल को हानिकारक बनाने और वितरित करने से रोकने के लिए डिज़ाइन की गई हैं इमेजिस…। मैं इस निष्कर्ष पर पहुंचा कि DALL·E 3 एक सार्वजनिक सुरक्षा जोखिम है और इसे तब तक सार्वजनिक उपयोग से हटा दिया जाना चाहिए जब तक कि OpenAI इस मॉडल से जुड़े जोखिमों का समाधान नहीं कर लेता।

“DALL·E 3 में कमजोरियां, और Microsoft डिज़ाइनर जैसे उत्पाद जो DALL·E 3 का उपयोग करते हैं, लोगों के लिए हानिकारक छवियां बनाने में AI का दुरुपयोग करना आसान बनाते हैं। माइक्रोसॉफ्ट को इन कमजोरियों और दुरुपयोग की संभावना के बारे में पता था।

जोन्स ने दावा किया कि माइक्रोसॉफ्ट ने कार्रवाई करने से इनकार कर दिया, लिंक्डइन पर इस मुद्दे के बारे में एक सार्वजनिक पत्र पोस्ट किया और फिर उसके प्रबंधक ने उसे पत्र हटाने के लिए कहा क्योंकि माइक्रोसॉफ्ट के कानूनी विभाग ने इसकी मांग की थी।

अपने पत्र में, जोन्स ने स्विफ्ट की स्पष्ट छवियों का उल्लेख किया और कहा, “यह उस प्रकार के दुरुपयोग का एक उदाहरण है जिसके बारे में मैं चिंतित था और यही कारण है कि मैंने OpenAI से DALL·E 3 को सार्वजनिक उपयोग से हटाने का आग्रह किया और Microsoft को अपनी चिंताओं के बारे में बताया। ।”

गीकवायर के मुताबिकमाइक्रोसॉफ्ट ने एक बयान में कहा कि कंपनी ने “कर्मचारी की रिपोर्ट की जांच की और पुष्टि की कि उनके द्वारा साझा की गई तकनीकें हमारे एआई-संचालित छवि निर्माण समाधानों में से किसी में भी हमारे सुरक्षा फिल्टर को बायपास नहीं करती हैं।”

ये सभी कुछ हद तक परिस्थितिजन्य साक्ष्य हैं। इस बात की कोई पुष्टि नहीं है कि छवियां Microsoft डिज़ाइनर के साथ बनाई गई थीं, और हम नहीं जानते कि Microsoft या जोन्स पर भरोसा करें या नहीं। लेकिन हम जानते हैं कि Microsoft का genAI के खतरों को कमतर आंकने या नजरअंदाज करने का इतिहास रहा है।

जैसा कि मैंने पिछले मई में लिखा था, माइक्रोसॉफ्ट ने 30-सदस्यीय टीम के कर्मचारियों की संख्या में कटौती कर दी, जो यह सुनिश्चित करने के लिए जिम्मेदार थी कि कंपनी में जेनएआई को नैतिक रूप से विकसित किया जा रहा है – और फिर टीम को पूरी तरह से समाप्त कर दिया। यह कटौती माइक्रोसॉफ्ट के जेनएआई चैटबॉट के रिलीज होने से कई महीने पहले हुई थी; टीम का निष्कासन कई महीनों बाद हुआ।

चैटबॉट के जारी होने से पहले, एआई के माइक्रोसॉफ्ट कॉर्पोरेट उपाध्यक्ष, जॉन मोंटगोमरी ने टीम को बताया कि इसे क्यों नष्ट किया जा रहा है: “(सीटीओ) केविन (स्कॉट) और (सीईओ) सत्या (नडेला) का दबाव बहुत, बहुत अधिक है।” इन नवीनतम ओपनएआई मॉडलों और उनके बाद आने वाले मॉडलों को लेना और उन्हें बहुत तेज गति से ग्राहकों के हाथों में पहुंचाना।”

उन्होंने कहा कि एथिक्स टीम इसके रास्ते में खड़ी थी।

जब टीम के एक सदस्य ने जवाब दिया कि एआई में महत्वपूर्ण खतरे हैं जिन्हें संबोधित करने की आवश्यकता है – और उससे पुनर्विचार करने के लिए कहा – मोंटगोमरी ने उत्तर दिया, “क्या मैं पुनर्विचार कर सकता हूं? मुझे नहीं लगता कि मैं ऐसा करूंगा. ‘क्योंकि दुर्भाग्य से दबाव वही रहता है। आपके पास वह दृष्टिकोण नहीं है जो मेरे पास है, और संभवतः आप इसके लिए आभारी हो सकते हैं। सॉसेज में बहुत सारा सामान पीसकर डाला जा रहा है।”

एक बार टीम के चले जाने के बाद, Microsoft बंद हो गया और genAI के साथ चल रहा था। और इससे वही पूरा हुआ जो कंपनी चाहती थी। कंपनी का स्टॉक आसमान छू रहा है, और AI की बदौलत यह दुनिया की सबसे मूल्यवान कंपनी बन गई है – 3 ट्रिलियन डॉलर से अधिक मूल्य वाली दूसरी कंपनी (Apple के बाद)।

ये तीन ट्रिलियन कारण हैं कि आपको Microsoft से AI के संभावित खतरों के बारे में अपनी धुन बदलने की उम्मीद नहीं करनी चाहिए, भले ही टेलर स्विफ्ट डीपफेक बनाने के लिए Microsoft डिज़ाइनर का उपयोग किया गया हो या नहीं। और यह आने वाले वर्ष में डीपफेक की सुनामी की संभावना के लिए अच्छा संकेत नहीं है, खासकर अमेरिका में राष्ट्रपति चुनाव को देखते हुए।