AI Deepfakes Rising as Risk for APAC Organisations
कुछ समय पहले तक एआई डीपफेक संगठनों के जोखिम रडार पर नहीं थे, लेकिन 2024 में, वे रैंक में ऊपर उठ रहे हैं। एआई डीपफेक की वजह से शेयर की कीमत में गिरावट से लेकर गलत सूचना के माध्यम से ब्रांड का भरोसा खोने तक कुछ भी हो सकता है, इसलिए कुछ समय के लिए इनके जोखिम के रूप में सामने आने की संभावना है।
साइबर सुरक्षा फर्म टेनेबल के मुख्य सुरक्षा अधिकारी और अनुसंधान प्रमुख रॉबर्ट ह्यूबर ने टेकरिपब्लिक के साथ एक साक्षात्कार में तर्क दिया कि एआई डीपफेक का उपयोग कई दुर्भावनापूर्ण अभिनेताओं द्वारा किया जा सकता है। जबकि पहचान उपकरण अभी भी परिपक्व हो रहे हैं, एपीएसी उद्यम अपने जोखिम मूल्यांकन में डीपफेक जोड़कर तैयारी कर सकते हैं और अपनी सामग्री की बेहतर सुरक्षा कर सकते हैं।
अंततः, संगठनों के लिए अधिक सुरक्षा तब संभव है जब अंतर्राष्ट्रीय मानदंड एआई के इर्द-गिर्द जुटते हैं। ह्यूबर ने बड़े तकनीकी प्लेटफ़ॉर्म खिलाड़ियों से इसे गैर-विशेषज्ञ व्यक्तिगत उपयोगकर्ताओं पर छोड़ने के बजाय एआई-जनित सामग्री की मजबूत और स्पष्ट पहचान के साथ आगे बढ़ने का आह्वान किया।
एआई डीपफेक समाज और व्यवसायों के लिए एक बढ़ता जोखिम है
एआई-जनित गलत सूचना और दुष्प्रचार का जोखिम एक वैश्विक जोखिम के रूप में उभर रहा है। 2024 में, 2023 में जेनरेटिव एआई टूल्स की लहर के लॉन्च के बाद, समग्र रूप से जोखिम श्रेणी विश्व आर्थिक मंच की वैश्विक जोखिम रिपोर्ट 2024 में दूसरा सबसे बड़ा जोखिम था (चित्र ए).
चित्र ए
उत्तरदाताओं में से आधे से अधिक (53%), जो व्यवसाय, शिक्षा, सरकार और नागरिक समाज से थे, ने एआई-जनित गलत सूचना और दुष्प्रचार को जोखिम बताया, जिसमें डीपफेक भी शामिल है। अगले दो वर्षों में गलत सूचना को सबसे बड़ा जोखिम कारक भी बताया गया (चित्र बी).
चित्र बी
उद्यम एआई डीपफेक जोखिम पर विचार करने में इतनी जल्दी नहीं रहे हैं। उदाहरण के लिए, एओन के वैश्विक जोखिम प्रबंधन सर्वेक्षण में इसका उल्लेख नहीं किया गया है, हालांकि संगठन व्यवसाय में रुकावट या उनके ब्रांड और प्रतिष्ठा को नुकसान के बारे में चिंतित हैं, जो एआई के कारण हो सकता है।
ह्यूबर ने कहा कि एआई डीपफेक का जोखिम अभी भी उभर रहा है और एआई में बदलाव तेज गति से होने के कारण यह रूप ले रहा है। हालाँकि, उन्होंने कहा कि यह एक जोखिम है जिस पर एपीएसी संगठनों को विचार करना चाहिए। “यह आवश्यक रूप से साइबर जोखिम नहीं है। यह एक उद्यम जोखिम है,” उन्होंने कहा।
एआई डीपफेक लगभग किसी भी खतरे वाले अभिनेता के लिए एक नया टूल प्रदान करता है
एआई डीपफेक किसी भी प्रतिद्वंद्वी या धमकी देने वाले अभिनेता के लिए अपने लक्ष्यों को प्राप्त करने के लिए उपयोग करने के लिए एक और विकल्प होने की उम्मीद है। ह्यूबर ने कहा कि इसमें भू-राजनीतिक लक्ष्यों वाले राष्ट्र और आदर्शवादी एजेंडे वाले कार्यकर्ता समूह शामिल हो सकते हैं, जिनमें वित्तीय लाभ और प्रभाव शामिल हैं।
“आप यहां राष्ट्र-राज्य समूहों से लेकर पर्यावरण के प्रति जागरूक ऐसे हैकर्स तक, जो केवल डेफेक से पैसा कमाना चाहते हैं, पूरी तरह से काम करेंगे। मुझे लगता है कि यह किसी भी दुर्भावनापूर्ण अभिनेता के लिए टूलबॉक्स में एक और उपकरण है,” ह्यूबर ने समझाया।
देखें के कैसे जेनरेटिव एआई रैंसमवेयर से वैश्विक खतरे को बढ़ा सकता है
डीपफेक की कम लागत का मतलब दुर्भावनापूर्ण अभिनेताओं के लिए प्रवेश में कम बाधाएं हैं
एआई टूल के उपयोग में आसानी और एआई सामग्री के उत्पादन की कम लागत का मतलब है कि नए टूल का उपयोग करने की इच्छा रखने वाले दुर्भावनापूर्ण अभिनेताओं के रास्ते में बहुत कम बाधा है। ह्यूबर ने कहा कि अतीत से एक अंतर यह है कि गुणवत्ता का स्तर अब खतरनाक अभिनेताओं की उंगलियों पर है।
“कुछ साल पहले, [cost] प्रवेश में बाधा कम थी, लेकिन गुणवत्ता भी खराब थी, ”ह्यूबर ने कहा। “अब बार अभी भी नीचा है, लेकिन [with generative AI] गुणवत्ता में काफी सुधार हुआ है. इसलिए अधिकांश लोगों के लिए बिना किसी अतिरिक्त संकेत के स्वयं डीपफेक की पहचान करना कठिन हो रहा है।’
एआई डीपफेक से संगठनों को क्या जोखिम हैं?
ह्यूबर ने कहा, एआई डीपफेक के जोखिम “इतने उभरे हुए” हैं कि वे एपीएसी संगठनात्मक जोखिम मूल्यांकन एजेंडे में नहीं हैं। हालाँकि, माइक्रोसॉफ्ट पर हाल ही में राज्य-प्रायोजित साइबर हमले का संदर्भ देते हुए, जिसकी रिपोर्ट माइक्रोसॉफ्ट ने खुद की थी, उन्होंने लोगों को यह पूछने के लिए आमंत्रित किया: अगर यह एक डीपफेक होता तो क्या होता?
“चाहे यह गलत सूचना हो या प्रभाव, माइक्रोसॉफ्ट दुनिया भर में विभिन्न सरकारों और कारणों से अपने उद्यम के लिए बड़े अनुबंधों के लिए बोली लगा रहा है। यह माइक्रोसॉफ्ट जैसे उद्यम की विश्वसनीयता पर बात करेगा, या इसे किसी भी बड़े तकनीकी संगठन पर लागू करेगा।”
उद्यम अनुबंधों का नुकसान
एआई डीपफेक सामग्री से किसी भी प्रकार के लाभकारी उद्यम प्रभावित हो सकते हैं। उदाहरण के लिए, ग़लत सूचना के उत्पादन से दुनिया भर में प्रश्न उठ सकते हैं या अनुबंध ख़त्म हो सकते हैं या किसी संगठन के प्रति सामाजिक चिंताएँ या प्रतिक्रियाएँ भड़क सकती हैं जो उनकी संभावनाओं को नुकसान पहुँचा सकती हैं।
शारीरिक सुरक्षा जोखिम
एआई डीपफेक व्यापार व्यवधान के प्रमुख जोखिम में एक नया आयाम जोड़ सकता है। उदाहरण के लिए, एआई-स्रोत वाली गलत सूचना से दंगा हो सकता है या यहां तक कि दंगे का आभास भी हो सकता है, जिससे या तो भौतिक व्यक्तियों या संचालन को खतरा हो सकता है, या सिर्फ खतरे का आभास हो सकता है।
ब्रांड और प्रतिष्ठा पर प्रभाव पड़ता है
फॉरेस्टर ने संभावित डीपफेक घोटालों की एक सूची जारी की। इनमें किसी संगठन की प्रतिष्ठा और ब्रांड या कर्मचारी अनुभव और मानव संसाधन के लिए जोखिम शामिल हैं। एक जोखिम प्रवर्धन था, जहां एआई डीपफेक का उपयोग व्यापक दर्शकों तक पहुंचने के लिए अन्य एआई डीपफेक को फैलाने के लिए किया जाता है।
वित्तीय प्रभाव
वित्तीय जोखिमों में स्टॉक की कीमतों में हेरफेर करने के लिए एआई डीपफेक का उपयोग करने की क्षमता और वित्तीय धोखाधड़ी का जोखिम शामिल है। हाल ही में, हांगकांग में एक बहुराष्ट्रीय फर्म के एक वित्त कर्मचारी को अपराधियों को 25 मिलियन अमेरिकी डॉलर (AUD $40 मिलियन) का भुगतान करने के लिए धोखा दिया गया था, क्योंकि उन्होंने एक वीडियो कॉन्फ्रेंस कॉल में फर्म के मुख्य वित्तीय अधिकारी के रूप में खुद को पेश करने के लिए एक परिष्कृत एआई डीपफेक घोटाले का इस्तेमाल किया था।
व्यक्तिगत निर्णय संगठनों के लिए कोई गहरा समाधान नहीं है
APAC संगठनों के लिए बड़ी समस्या यह है कि AI डीपफेक का पता लगाना हर किसी के लिए मुश्किल है। जबकि नियामक और प्रौद्योगिकी प्लेटफ़ॉर्म एआई के विकास को समायोजित कर रहे हैं, बिचौलियों के बजाय डीपफेक की पहचान करने की अधिकांश ज़िम्मेदारी स्वयं व्यक्तिगत उपयोगकर्ताओं पर आ रही है।
इससे व्यक्तियों और भीड़ के विश्वासों का संगठनों पर प्रभाव पड़ सकता है। व्यक्तियों को वास्तविक समय में यह निर्णय लेने के लिए कहा जा रहा है कि क्या किसी ब्रांड या कर्मचारी के बारे में कोई नुकसानदायक कहानी सच हो सकती है, या डीपफेक हो सकती है, ऐसे माहौल में जिसमें मीडिया और सोशल मीडिया पर गलत सूचना शामिल हो सकती है।
व्यक्तिगत उपयोगकर्ता तथ्यों को कल्पना से अलग करने में सक्षम नहीं हैं
ह्यूबर ने कहा कि व्यक्तियों से यह अपेक्षा करना कि एआई-जनित डीपफेक क्या है और क्या नहीं, “समस्याग्रस्त” है। उन्होंने तर्क दिया कि वर्तमान में, एआई डीपफेक को तकनीकी पेशेवरों के लिए भी पहचानना मुश्किल हो सकता है, और एआई डीपफेक की पहचान करने में कम अनुभव वाले व्यक्तियों को संघर्ष करना पड़ेगा।
“यह कहने जैसा है, ‘हम साइबर सुरक्षा को समझने के लिए हर किसी को प्रशिक्षित करने जा रहे हैं।’ अब, ACSC (ऑस्ट्रेलियाई साइबर सुरक्षा केंद्र) साइबर सुरक्षा के लिए बहुत सारे बेहतरीन मार्गदर्शन देता है, लेकिन उन लोगों के अलावा जो वास्तव में साइबर सुरक्षा क्षेत्र में हैं, इसे कौन पढ़ता है? उसने पूछा।
पूर्वाग्रह भी एक कारक है. “यदि आप अपने लिए महत्वपूर्ण सामग्री देख रहे हैं, तो आप अपने साथ पूर्वाग्रह लेकर आते हैं; आपके द्वारा गतिविधियों या इशारों की बारीकियों, या छवि 3D है या नहीं, पर ध्यान केंद्रित करने की संभावना कम है। यदि आप उस सामग्री में रुचि रखते हैं तो आप उन तीव्र इंद्रियों का उपयोग नहीं कर रहे हैं और विसंगतियों की तलाश नहीं कर रहे हैं।
एआई डीपफेक का पता लगाने के लिए उपकरण तेजी से काम कर रहे हैं
टेक कंपनियां एआई डीपफेक में वृद्धि को पूरा करने के लिए उपकरण प्रदान करने की दिशा में आगे बढ़ रही हैं। उदाहरण के लिए, इंटेल का रियल-टाइम फेककैचर टूल वीडियो पिक्सल का उपयोग करके रक्त प्रवाह के लिए वीडियो में मनुष्यों का आकलन करके डीपफेक की पहचान करने के लिए डिज़ाइन किया गया है, जो “हमें इंसान बनाता है” का उपयोग करके नकली की पहचान करता है।
ह्यूबर ने कहा कि एआई डीपफेक का पता लगाने और पहचानने के लिए उपकरणों की क्षमताएं अभी भी उभर रही हैं। बाज़ार में उपलब्ध कुछ उपकरणों का प्रचार करने के बाद, उन्होंने कहा कि इस समय ऐसा कुछ भी नहीं है जिसकी वह विशेष रूप से अनुशंसा करेंगे क्योंकि “अंतरिक्ष बहुत तेजी से आगे बढ़ रहा है।”
एआई डीपफेक जोखिमों से लड़ने में संगठनों को क्या मदद मिलेगी?
ह्यूबर ने कहा कि एआई डीपफेक के बढ़ने से डीपफेक बनाने वाले दुर्भावनापूर्ण अभिनेताओं और उनका पता लगाने और उन्हें विफल करने की कोशिश करने वालों के बीच “बिल्ली और चूहे” का खेल शुरू होने की संभावना है। इस कारण से, एआई डीपफेक का पता लगाने में सहायता करने वाले उपकरण और क्षमताएं तेजी से बदलने की संभावना है, क्योंकि “हथियारों की दौड़” वास्तविकता के लिए युद्ध पैदा करती है।
कुछ रक्षा संगठन उनके पास उपलब्ध हो सकते हैं।
अंतर्राष्ट्रीय एआई नियामक मानदंडों का गठन
ऑस्ट्रेलिया एक ऐसा क्षेत्राधिकार है जो वॉटरमार्किंग जैसे उपायों के माध्यम से एआई सामग्री को विनियमित करने पर विचार कर रहा है। जैसे-जैसे दुनिया भर के अन्य क्षेत्राधिकार एआई को नियंत्रित करने पर आम सहमति की ओर बढ़ रहे हैं, एआई सामग्री की बेहतर पहचान का समर्थन करने के लिए सर्वोत्तम अभ्यास दृष्टिकोण के बारे में अभिसरण होने की संभावना है।
ह्यूबर ने कहा कि हालांकि यह बहुत महत्वपूर्ण है, ऐसे अभिनेताओं का एक वर्ग है जो अंतरराष्ट्रीय मानदंडों का पालन नहीं करेगा। “एक अंतर्निहित समझ होनी चाहिए कि अभी भी ऐसे लोग होंगे जो ऐसा करने जा रहे हैं, चाहे हम कोई भी नियम लागू करें या हम इसे कैसे कम करने की कोशिश करें।”
देखना: कृत्रिम बुद्धिमत्ता को नियंत्रित करने वाले यूरोपीय संघ के नए नियमों का सारांश
बड़े तकनीकी प्लेटफॉर्म एआई डीपफेक की पहचान कर रहे हैं
मेटा और गूगल जैसे बड़े सोशल मीडिया और तकनीकी प्लेटफार्मों के लिए एआई डीपफेक सामग्री से बेहतर ढंग से लड़ना और अपने प्लेटफार्मों पर उपयोगकर्ताओं के लिए इसे अधिक स्पष्ट रूप से पहचानना एक महत्वपूर्ण कदम होगा। इस ज़िम्मेदारी को और अधिक लेने का मतलब यह होगा कि संगठनों, कर्मचारियों और जनता जैसे गैर-विशेषज्ञ अंतिम उपयोगकर्ताओं को यह पहचानने की कोशिश में कम काम करना होगा कि क्या कुछ डीपफेक है।
ह्यूबर ने कहा कि इससे आईटी टीमों को भी मदद मिलेगी। बड़े तकनीकी प्लेटफॉर्म होने से फ्रंटफुट पर एआई डीपफेक की पहचान करना और उपयोगकर्ताओं को अधिक जानकारी या टूल से लैस करना संगठनों से यह काम छीन लेगा; डीपफेक डिटेक्शन टूल के भुगतान और प्रबंधन और इसे प्रबंधित करने के लिए सुरक्षा संसाधनों के आवंटन में कम आईटी निवेश की आवश्यकता होगी।
जोखिम आकलन में एआई डीपफेक जोड़ना
एपीएसी संगठनों को जल्द ही एआई डीपफेक से जुड़े जोखिमों को नियमित जोखिम मूल्यांकन प्रक्रियाओं का हिस्सा बनाने पर विचार करने की आवश्यकता हो सकती है। उदाहरण के लिए, ह्यूबर ने कहा कि संगठनों को आंतरिक और बाह्य रूप से उत्पादित सामग्री को नियंत्रित और संरक्षित करने के साथ-साथ तीसरे पक्षों के लिए इन उपायों का दस्तावेजीकरण करने के बारे में अधिक सक्रिय होने की आवश्यकता हो सकती है।
“अधिकांश परिपक्व सुरक्षा कंपनियाँ विक्रेताओं का तीसरे पक्ष द्वारा जोखिम मूल्यांकन करती हैं। उन्होंने कहा, ”मैंने कभी भी इस बात से संबंधित प्रश्नों का कोई वर्ग नहीं देखा कि वे अपनी डिजिटल सामग्री की सुरक्षा कैसे कर रहे हैं।” ह्यूबर को उम्मीद है कि प्रौद्योगिकी कंपनियों द्वारा किए गए तीसरे पक्ष के जोखिम मूल्यांकन में जल्द ही डीपफेक से उत्पन्न होने वाले जोखिमों को कम करने से संबंधित प्रश्नों को शामिल करने की आवश्यकता हो सकती है।
