[ad_1]
मेटा कृत्रिम रूप से निर्मित छवियों की पहचान करने के लिए उपकरण विकसित करने पर काम कर रहा है जनरेटिव एआई कंपनी ने मंगलवार को कहा कि फेसबुक, इंस्टाग्राम और थ्रेड्स जैसे उसके सोशल मीडिया प्लेटफॉर्म पर बड़े पैमाने पर सिस्टम उपलब्ध हैं।
“… हम सामान्य तकनीकी मानकों पर संरेखित करने के लिए उद्योग भागीदारों के साथ काम कर रहे हैं जो एआई का उपयोग करके सामग्री का एक टुकड़ा बनाए जाने पर संकेत देते हैं। इन संकेतों का पता लगाने में सक्षम होने से हमारे लिए एआई-जनरेटेड छवियों को लेबल करना संभव हो जाएगा जो उपयोगकर्ता फेसबुक, इंस्टाग्राम और थ्रेड्स पर पोस्ट करते हैं, ”मेटा में वैश्विक मामलों के अध्यक्ष निक क्लेग ने एक में लिखा ब्लॉग भेजा.
क्लेग ने कहा, “हम अब इस क्षमता का निर्माण कर रहे हैं, और आने वाले महीनों में हम प्रत्येक ऐप द्वारा समर्थित सभी भाषाओं में लेबल लागू करना शुरू कर देंगे।”
Google, OpenAI, Adobe, शटरस्टॉक और जैसी कंपनियों से AI-जनित छवियों को लेबल करने का कदम मध्ययात्रायह महत्वपूर्ण है क्योंकि 2024 में अमेरिका, यूरोपीय संघ, भारत और दक्षिण अफ्रीका सहित कई देशों में कई चुनाव होंगे।
क्लेग ने कहा कि इस साल मेटा इस बारे में और अधिक सीखेगा कि उपयोगकर्ता एआई-जनरेटेड सामग्री कैसे बना रहे हैं और साझा कर रहे हैं और किस तरह की पारदर्शिता नेटिज़न्स को मूल्यवान लग रही है।
चुनावों के बारे में क्लेग का बयान कैंब्रिज एनालिटिका घोटाले की याद दिलाता है, जिसे 2018 में न्यूयॉर्क टाइम्स और द ऑब्जर्वर ने उजागर किया था, जिसमें कम से कम 50 मिलियन उपयोगकर्ताओं के फेसबुक डेटा से छेड़छाड़ की गई थी।
पिछले महीने, चैटजीपीटी-निर्माता ओपनएआई ने दो डेवलपर्स को निलंबित कर दिया था, जिन्होंने डेमोक्रेटिक राष्ट्रपति पद के उम्मीदवार कांग्रेसी डीन फिलिप्स की नकल करते हुए एक बॉट बनाया था, जो एआई के दुरुपयोग के खिलाफ कंपनी की पहली कार्रवाई थी।
AI-जनरेटेड ऑडियो और वीडियो के लिए कोई लेबल नहीं
क्लेग के अनुसार, मेटा पहले से ही अपने स्वयं के एआई फीचर द्वारा बनाई गई छवियों को चिह्नित करता है, जिसमें संलग्न करना भी शामिल है दृश्यमान मार्कर और अदृश्य वॉटरमार्क. ये अदृश्य वॉटरमार्क छवि के मेटाडेटा में अंतर्निहित हैं।
क्लेग ने कहा, इन वॉटरमार्क के संयोजन से अन्य प्लेटफार्मों के लिए एआई-जनरेटेड छवियों की पहचान करना आसान हो जाता है।
मेटा जैसे मंचों के माध्यम से एआई-जनरेटेड छवियों की पहचान के लिए सामान्य मानक विकसित करने के लिए अन्य कंपनियों के साथ भी काम कर रहा है एआई पर साझेदारी (पीएआई), क्लेग ने कहा।
हालाँकि, उन्होंने यह भी बताया कि हालाँकि कई कंपनियाँ उत्पन्न छवियों की पहचान करने में मदद करने के लिए संकेतों को शामिल करना शुरू कर रही थीं, वही नीति उत्पन्न ऑडियो और वीडियो पर लागू नहीं की जा रही थी।
उत्पन्न ऑडियो और वीडियो के आसपास पहचान नीतियों के अभाव में, क्लेग ने कहा कि मेटा लोगों के लिए एक सुविधा जोड़ रहा है ताकि जब वे एआई-जनित वीडियो या ऑडियो साझा करें तो कंपनी इसमें एक लेबल जोड़ सके।
क्लेग ने लिखा, “हमें लोगों से इस प्रकटीकरण और लेबल टूल का उपयोग करने की आवश्यकता होगी जब वे किसी फोटोरिअलिस्टिक वीडियो या यथार्थवादी-ध्वनि वाले ऑडियो के साथ जैविक सामग्री पोस्ट करते हैं जो डिजिटल रूप से बनाया या बदला गया था, और यदि वे ऐसा करने में विफल रहते हैं तो हम जुर्माना लगा सकते हैं।” ब्लॉग।
और अधिक प्रतिकूल चुनौतियाँ आने वाली हैं
मेटा ने स्वीकार किया कि जबकि विकसित किए जा रहे उपकरण और मानक तैयार की गई सामग्री को लेबल करने के लिए सबसे आगे हैं, बुरे कलाकार अभी भी अदृश्य मार्करों को हटाने के रास्ते ढूंढ सकते हैं।
कंपनी ने कहा कि ऐसे बुरे कलाकारों को रोकने के लिए वह क्लासिफायर विकसित करने पर काम कर रही है जो कंपनी को एआई-जनरेटेड सामग्री का स्वचालित रूप से पता लगाने में मदद कर सकता है, भले ही सामग्री में अदृश्य मार्करों की कमी हो।
“उसी समय, हम अदृश्य वॉटरमार्क को हटाने या बदलने को और अधिक कठिन बनाने के तरीकों की तलाश कर रहे हैं। उदाहरण के लिए, मेटा की एआई रिसर्च लैब एफएआईआर ने हाल ही में एक अदृश्य वॉटरमार्किंग तकनीक पर शोध साझा किया है जिसे हम विकसित कर रहे हैं जिसे कहा जाता है स्थिर हस्ताक्षर,” क्लेग ने लिखा।
शीर्ष कार्यकारी ने बताया कि स्टेबल सिग्नेचर वॉटरमार्किंग तंत्र को कुछ प्रकार के छवि जनरेटर के लिए छवि निर्माण प्रक्रिया में सीधे एकीकृत करता है, जो ओपन सोर्स मॉडल के लिए मूल्यवान हो सकता है, इसलिए वॉटरमार्किंग को अक्षम नहीं किया जा सकता है।
ऐतिहासिक रूप से, कंपनी ने अपनी नीति का उल्लंघन करने वाले घृणास्पद भाषण और अन्य सामग्री रूपों का पता लगाने और उन्हें हटाने के लिए पहले भी एआई सिस्टम का उपयोग किया है।
2023 की तीसरी तिमाही तक, मेटा का दावा है कि उसके एआई सिस्टम ने फेसबुक पर नफरत फैलाने वाले भाषण के प्रसार को केवल 0.01-0.02% तक कम करने में मदद की।
मेटा हानिकारक सामग्री को तेजी से हटाने के लिए जेनरेटिव एआई का उपयोग करने की योजना बना रहा है। “हमने परीक्षण शुरू कर दिया है बड़े भाषा मॉडल (एलएलएम) उन्हें हमारे ‘सामुदायिक मानकों’ पर प्रशिक्षित करके यह निर्धारित करने में सहायता करना कि सामग्री का कोई भाग हमारी नीतियों का उल्लंघन करता है या नहीं। ये प्रारंभिक परीक्षण सुझाव देते हैं कि एलएलएम मौजूदा मशीन लर्निंग मॉडल से बेहतर प्रदर्शन कर सकते हैं,” क्लेग ने लिखा।
क्लेग ने कहा, ये एलएलएम कंपनी को कुछ परिस्थितियों में समीक्षा कतारों से सामग्री हटाने में भी मदद कर रहे हैं, जब इसके समीक्षकों को पूरा भरोसा है कि यह कंपनी की नीतियों का उल्लंघन नहीं करता है।
कॉपीराइट © 2024 आईडीजी कम्युनिकेशंस, इंक.
[ad_2]
Source link
