IT and Security Pros Are ‘Cautiously Optimistic’ About AI

Google क्लाउड द्वारा कमीशन क्लाउड सिक्योरिटी एलायंस की एक रिपोर्ट के अनुसार, सी-सूट अपने आईटी और सुरक्षा कर्मचारियों की तुलना में एआई प्रौद्योगिकियों से अधिक परिचित है। 3 अप्रैल को प्रकाशित रिपोर्ट में बताया गया है कि क्या आईटी और सुरक्षा पेशेवरों को डर है कि एआई उनकी नौकरियों की जगह ले लेगा, जेनेरिक एआई में वृद्धि के लाभ और चुनौतियां आदि।

सर्वेक्षण में शामिल आईटी और सुरक्षा पेशेवरों में से 63% का मानना ​​है कि एआई उनके संगठन के भीतर सुरक्षा में सुधार करेगा। अन्य 24% सुरक्षा उपायों पर एआई के प्रभाव पर तटस्थ हैं, जबकि 12% को विश्वास नहीं है कि एआई उनके संगठन के भीतर सुरक्षा में सुधार करेगा। सर्वेक्षण में शामिल लोगों में से केवल बहुत कम (12%) ने भविष्यवाणी की कि एआई उनकी नौकरियों की जगह ले लेगा।

रिपोर्ट बनाने के लिए इस्तेमाल किया गया सर्वेक्षण अंतरराष्ट्रीय स्तर पर आयोजित किया गया था, जिसमें नवंबर 2023 में अमेरिका, एपीएसी और ईएमईए के संगठनों के 2,486 आईटी और सुरक्षा पेशेवरों और सी-सूट नेताओं की प्रतिक्रियाएं शामिल थीं।

साइबर सुरक्षा में एआई के संभावित उपयोग के मामलों पर साइबर सुरक्षा पेशेवर, जो नेतृत्व में नहीं हैं, सी-सूट की तुलना में कम स्पष्ट हैं, केवल 14% कर्मचारी (सी-स्तर के 51% की तुलना में) कहते हैं कि वे “बहुत स्पष्ट” हैं।

क्लाउड सिक्योरिटी एलायंस के एआई सेफ्टी इनिशिएटिव के अध्यक्ष कालेब सिमा ने एक प्रेस विज्ञप्ति में कहा, “एआई को समझने और लागू करने में सी-सूट और कर्मचारियों के बीच का अंतर इस तकनीक को सफलतापूर्वक एकीकृत करने के लिए एक रणनीतिक, एकीकृत दृष्टिकोण की आवश्यकता पर प्रकाश डालता है।”

रिपोर्ट में कुछ प्रश्नों ने निर्दिष्ट किया कि उत्तर जेनरेटिव एआई से संबंधित होने चाहिए, जबकि अन्य प्रश्नों में मोटे तौर पर “एआई” शब्द का उपयोग किया गया है।

सुरक्षा में एआई ज्ञान का अंतर

सी-स्तर के पेशेवरों को ऊपर से नीचे तक दबाव का सामना करना पड़ता है, जिसके कारण वे सुरक्षा पेशेवरों की तुलना में एआई के उपयोग के मामलों के बारे में अधिक जागरूक हो सकते हैं।

कई (82%) सी-सूट पेशेवरों का कहना है कि उनका कार्यकारी नेतृत्व और निदेशक मंडल एआई अपनाने पर जोर दे रहे हैं। हालाँकि, रिपोर्ट में कहा गया है कि यह दृष्टिकोण आगे चलकर कार्यान्वयन संबंधी समस्याएँ पैदा कर सकता है।

क्लाउड सिक्योरिटी एलायंस में अनुसंधान और विश्लेषण के वरिष्ठ तकनीकी निदेशक, प्रमुख लेखक हिलेरी बैरन ने लिखा, “यह ऐसी अनूठी और विघटनकारी तकनीक (उदाहरण के लिए, त्वरित इंजीनियरिंग) को अपनाने और लागू करने के लिए आवश्यक कठिनाई और ज्ञान की सराहना की कमी को उजागर कर सकता है।” , और योगदानकर्ताओं की एक टीम।

इस ज्ञान अंतर के मौजूद होने के कुछ कारण हैं:

• साइबर सुरक्षा पेशेवरों को शायद इस बात की जानकारी नहीं है कि एआई किस तरह समग्र रणनीति को प्रभावित कर सकता है।
• नेता इस बात को कम आंक सकते हैं कि मौजूदा साइबर सुरक्षा प्रथाओं के भीतर एआई रणनीतियों को लागू करना कितना मुश्किल हो सकता है।

रिपोर्ट के लेखकों का कहना है कि कुछ डेटा (चित्र ए) इंगित करता है कि उत्तरदाता जेनेरिक एआई और बड़े भाषा मॉडल से उतने ही परिचित हैं जितना कि वे प्राकृतिक भाषा प्रसंस्करण और गहन शिक्षण जैसे पुराने शब्दों से परिचित हैं।

चित्र ए

रिपोर्ट के लेखकों का कहना है कि प्राकृतिक भाषा प्रसंस्करण और गहन शिक्षा जैसे पुराने शब्दों से परिचित होने की प्रबलता जेनरेटिव एआई और चैटजीपीटी जैसे लोकप्रिय टूल के बीच टकराव का संकेत दे सकती है।

टेकरिपब्लिक को एक ईमेल में बैरन ने कहा, “उपभोक्ता-ग्रेड जेनएआई टूल बनाम पेशेवर/उद्यम स्तर से परिचित होने के बीच यह अंतर है जो अपनाने और कार्यान्वयन के मामले में अधिक महत्वपूर्ण है।” “यह कुछ ऐसा है जिसे हम आम तौर पर सभी स्तरों पर सुरक्षा पेशेवरों के साथ देख रहे हैं।”

क्या AI साइबर सुरक्षा नौकरियों की जगह ले लेगा?

सुरक्षा पेशेवरों का एक छोटा समूह (12%) सोचता है कि एआई अगले पांच वर्षों में उनकी नौकरियों को पूरी तरह से बदल देगा। अन्य अधिक आशावादी हैं:

• 30% सोचते हैं कि एआई उनके कौशल के कुछ हिस्सों को बढ़ाने में मदद करेगा।
• 28% का अनुमान है कि एआई उनकी वर्तमान भूमिका में समग्र रूप से उनका समर्थन करेगा।
• 24% सोचते हैं कि एआई उनकी भूमिका का एक बड़ा हिस्सा बदल देगा।
• 5% को उम्मीद है कि AI उनकी भूमिका पर बिल्कुल भी प्रभाव नहीं डालेगा।

एआई के लिए संगठनों के लक्ष्य इसे प्रतिबिंबित करते हैं, 36% सुरक्षा टीमों के कौशल और ज्ञान को बढ़ाने वाले एआई के परिणाम की तलाश में हैं।

रिपोर्ट एक दिलचस्प विसंगति की ओर इशारा करती है: हालांकि कौशल और ज्ञान को बढ़ाना एक अत्यधिक वांछित परिणाम है, प्रतिभा चुनौतियों की सूची में सबसे नीचे आती है। इसका मतलब यह हो सकता है कि खतरों की पहचान करने जैसे तात्कालिक कार्यों को दिन-प्रतिदिन के कार्यों में प्राथमिकता दी जाती है, जबकि प्रतिभा एक दीर्घकालिक चिंता है।

साइबर सुरक्षा में एआई के लाभ और चुनौतियाँ

समूह इस बात पर विभाजित था कि क्या एआई रक्षकों या हमलावरों के लिए अधिक फायदेमंद होगा:

• 34% लोग एआई को सुरक्षा टीमों के लिए अधिक फायदेमंद मानते हैं।
• 31% इसे रक्षकों और हमलावरों दोनों के लिए समान रूप से लाभप्रद मानते हैं।
• 25% इसे हमलावरों के लिए अधिक फायदेमंद मानते हैं।

सुरक्षा में एआई के उपयोग को लेकर चिंतित पेशेवर निम्नलिखित कारण बताते हैं:

• खराब डेटा गुणवत्ता के कारण अनपेक्षित पूर्वाग्रह और अन्य समस्याएं (38%) होती हैं।
• पारदर्शिता का अभाव (36%).
• जब जटिल एआई सिस्टम को प्रबंधित करने की बात आती है तो कौशल/विशेषज्ञता की कमी (33%)।
• डेटा विषाक्तता (28%).

मतिभ्रम, गोपनीयता, डेटा रिसाव या हानि, सटीकता और दुरुपयोग अन्य विकल्प थे जिनके बारे में लोग चिंतित हो सकते हैं; इन सभी विकल्पों को सर्वेक्षण में 25% से कम वोट प्राप्त हुए, जहां उत्तरदाताओं को अपनी शीर्ष तीन चिंताओं का चयन करने के लिए आमंत्रित किया गया था।

देखें: यूके नेशनल साइबर सिक्योरिटी सेंटर ने पाया कि जेनरेटिव एआई हमलावरों के शस्त्रागार को बढ़ा सकता है। (टेक रिपब्लिक)

आधे से अधिक (51%) उत्तरदाताओं ने इस सवाल पर “हां” कहा कि क्या वे साइबर सुरक्षा के लिए एआई पर अत्यधिक निर्भरता के संभावित जोखिमों के बारे में चिंतित हैं; अन्य 28% तटस्थ थे।

साइबर सुरक्षा में जेनरेटिव एआई के लिए नियोजित उपयोग

साइबर सुरक्षा के लिए जेनेरिक एआई का उपयोग करने की योजना बना रहे संगठनों में, इच्छित उपयोगों का बहुत व्यापक प्रसार है (चित्र बी). सामान्य उपयोगों में शामिल हैं:

• नियम निर्माण.
• आक्रमण अनुकरण.
• अनुपालन उल्लंघन की निगरानी।
• नेटवर्क का पता लगाना।
• झूठी सकारात्मकता को कम करना।

चित्र बी

एआई के युग में संगठन अपनी टीमों की संरचना कैसे कर रहे हैं

सर्वेक्षण में शामिल लोगों में से 74% का कहना है कि उनके संगठन अगले पांच वर्षों के भीतर एआई के सुरक्षित उपयोग की निगरानी के लिए नई टीमें बनाने की योजना बना रहे हैं। उन टीमों की संरचना किस प्रकार की जाती है, यह अलग-अलग हो सकता है।

आज, एआई परिनियोजन पर काम कर रहे कुछ संगठन इसे अपनी सुरक्षा टीम (24%) के हाथों में सौंप देते हैं। अन्य संगठन एआई परिनियोजन के लिए प्राथमिक जिम्मेदारी आईटी विभाग (21%), डेटा साइंस/एनालिटिक्स टीम (16%), एक समर्पित एआई/एमएल टीम (13%) या वरिष्ठ प्रबंधन/नेतृत्व (9%) को देते हैं। दुर्लभ मामलों में, DevOps (8%), क्रॉस-फंक्शनल टीमें (6%) या ऐसी टीम जो किसी भी श्रेणी में फिट नहीं होती (1% पर “अन्य” के रूप में सूचीबद्ध) ने जिम्मेदारी ली।

देखें: हायरिंग किट: प्रॉम्प्ट इंजीनियर (टेकरिपब्लिक प्रीमियम)

मुख्य लेखक हिलेरी बैरन और योगदानकर्ताओं की टीम ने लिखा, “यह स्पष्ट है कि साइबर सुरक्षा में एआई न केवल मौजूदा भूमिकाओं को बदल रहा है बल्कि नए विशिष्ट पदों के लिए भी मार्ग प्रशस्त कर रहा है।”

किस प्रकार के पद? बैरन ने टेकरिपब्लिक को बताया कि जेनेरिक एआई गवर्नेंस एक बढ़ता हुआ उप-क्षेत्र है, साथ ही एआई-केंद्रित प्रशिक्षण और अपस्किलिंग भी है।

बैरन ने कहा, “आम तौर पर, हम नौकरी की पोस्टिंग भी देखना शुरू कर रहे हैं जिसमें त्वरित इंजीनियरों, एआई सुरक्षा आर्किटेक्ट्स और सुरक्षा इंजीनियरों जैसी अधिक एआई-विशिष्ट भूमिकाएं शामिल हैं।”