कृत्रिम बुद्धिमत्ता की प्रौद्योगिकी के तेज़ी से विकास के साथ, बुद्धिमान एजेंट्स, जो कृत्रिम बुद्धिमत्ता और वास्तविक अर्थव्यवस्था के गहन एकीकरण के एक महत्वपूर्ण माध्यम हैं, उत्पादन और जीवनशैली को गहराई से प्रभावित कर रहे हैं तथा सुरक्षा की सीमाओं को पुनर्गठित कर रहे हैं।
कृत्रिम बुद्धिमत्ता की प्रौद्योगिकी के तेज़ी से विकास के साथ, बुद्धिमान एजेंट्स, जो कृत्रिम बुद्धिमत्ता और वास्तविक अर्थव्यवस्था के गहन एकीकरण के एक महत्वपूर्ण माध्यम हैं, उत्पादन और जीवनशैली को गहराई से प्रभावित कर रहे हैं तथा सुरक्षा की सीमाओं को पुनर्गठित कर रहे हैं।
हाल ही में आयोजित १४वें इंटरनेट सुरक्षा सम्मेलन में विशेषज्ञों ने कहा कि हमें मुख्य प्रौद्योगिकियों का उपयोग करके महत्वपूर्ण समस्याओं का समाधान करना चाहिए, आंतरिक कौशल को मज़बूत करना चाहिए, प्रणाली और नियम निर्माण के माध्यम से एक मज़बूत बाधा बनानी चाहिए, और मानक प्रणाली निर्माण के माध्यम से उद्योग के मानकों का नेतृत्व करना चाहिए, ताकि एजेंट युग में समन्वित विकास और सुरक्षा का मार्ग बनाया जा सके।
बुद्धिमान एजेंट्स नए जोखिम लाते हैं
वर्तमान में, कृत्रिम बुद्धिमत्ता बड़े मॉडलों से बुद्धिमान एजेंट्स की ओर एक महत्वपूर्ण संक्रमण के दौर से गुज़र रही है। जब बुद्धिमान एजेंट्स स्वायत्त निर्णय लेना शुरू करते हैं, उपकरणों को कॉल करते हैं और कार्यों को कार्यान्वित करते हैं, तो सुरक्षा जोखिम भी उत्पन्न होते हैं।
"पिछले सूचना प्रणालियों की तुलना में, एजेंट्स अब निष्क्रिय कार्यान्वयन के लिए एक प्रश्न-उत्तर उपकरण नहीं रहे हैं, बल्कि उन्हें स्वतंत्र धारणा, निर्णय लेने और कार्यान्वयन की क्षमता प्रदान की गई है। इस प्रौद्योगिकीय विशेषता में छलांग ने साइबर सुरक्षा की आक्रामक और रक्षात्मक स्थिति को गहराई से बदल दिया है।" चाइना इंटरनेट एसोसिएशन के उपाध्यक्ष और उद्योग एवं सूचना प्रौद्योगिकी मंत्रालय के पूर्व मुख्य अभियंता ज़्हाओ झ़ीगुओ ने कहा।
निर्माण, वित्त और ऊर्जा जैसे महत्वपूर्ण क्षेत्रों में बुद्धिमान एजेंट्स के त्वरित प्रवेश के साथ, कोई भी सुरक्षा जोखिम बुद्धिमान एजेंट्स की स्वायत्त नियोजन क्षमता के माध्यम से अल्प समय में नेटवर्कों और उद्योगों के पार एक श्रृंखला प्रतिक्रिया को ट्रिगर कर सकता है, जिससे जोखिम रोकथाम और आपातकालीन प्रतिक्रिया के लिए उच्चतर आवश्यकताएँ उत्पन्न होती हैं।
ज़ाओ ज़ीगुओ ने कहा कि एक बार जब बुद्धिमान एजेंटों को स्वायत्त निर्णय लेने की क्षमता प्राप्त हो जाती है, तो सुरक्षा जोखिम "तकनीकी विफलताओं" से लेकर "निर्णय लेने के नियंत्रण के आविष्कार" तक विस्तारित हो जाते हैं। एक बार जब विचलन या व्यवधान होते हैं, तो बुद्धिमान एजेंट मानव अपेक्षाओं से भिन्न कार्य कर सकते हैं, और परिणाम अप्रत्याशित होते हैं। यह आंतरिक जोखिम सुरक्षा नियंत्रणीयता के लिए एक मौलिक चुनौती प्रस्तुत करता है। इसके अतिरिक्त, बुद्धिमान एजेंट प्रणाली में अत्यधिक मानव-सदृश तरीके से स्वायत्त रूप से कार्य करते हैं, और पारंपरिक पहचान-आधारित विश्वास तंत्र विफलता के जोखिम का सामना करते हैं। जब बुद्धिमान एजेंट स्वायत्त रूप से अनुबंधों पर हस्ताक्षर करते हैं, लेन-देन को अंजाम देते हैं और संसाधनों को आह्वान करते हैं, तो सुरक्षा ज़िम्मेदारियों को कैसे परिभाषित किया जाए और अधिकृत व्यवहार की विशेषता कैसे दी जाए—ये ऐसी तत्काल व्यावहारिक समस्याएँ बन गई हैं जिनका समाधान करना आवश्यक है।
वु हे क्वान, जो चाइनीज़ अकादमी ऑफ इंजीनियरिंग (CAE) के सदस्य तथा इंटरनेट सुरक्षा सम्मेलन के सम्मानित अध्यक्ष हैं, के अनुसार, एजेंट-आधारित हमले स्वतंत्र निर्णय लेने, समूह-सहयोग और निरंतर विकास जैसी तकनीकी विशेषताओं को प्रदर्शित करते हैं। पारंपरिक साइबर हमले मानव द्वारा किए गए हस्तचालित संचालन पर भारी निर्भरता रखते हैं, जबकि एजेंट-संचालित हमले इस पैटर्न को मौलिक रूप से बदल देते हैं।
विशेष रूप से, बुद्धिमान एजेंट स्वतंत्र रूप से वातावरण को समझ सकते हैं, हमले के मार्गों की योजना बना सकते हैं और घुसपैठ के कार्यों को कर सकते हैं; इसके अतिरिक्त, कई एजेंट जानकारी साझा कर सकते हैं और सहयोग कर सकते हैं। यह समूही हमला बहुत कम समय में कई प्रवेश बिंदुओं से एक साथ शुरू किया जा सकता है, जिससे रक्षा प्रणालियाँ प्रतिक्रिया देने में थक जाती हैं। जिस बात पर अधिक सावधानी बरतने की आवश्यकता है, वह यह है कि बुद्धिमान एजेंटों में निरंतर सीखने और अपने आप को अद्यतन करने की क्षमता होती है, और प्रत्येक हमले और रक्षा के मुकाबले को उनके अनुकूलन के लिए सामग्री के रूप में इस्तेमाल किया जाता है, जिसके कारण हमले के तरीके समय के साथ लगातार बदलते रहते हैं।
झौ होंगयी, 360 ग्रुप के संस्थापक और इंटरनेट सुरक्षा सम्मेलन के अध्यक्ष, का मानना है कि एआई ने साइबर सुरक्षा क्षेत्र में रखरखाव को कम कर दिया है। मिथोस मॉडल के उदाहरण को लें, तो पूर्णतः स्वचालित वलनरेबिलिटी खोज और अटैक चेन निर्माण की क्षमताओं ने वलनरेबिलिटी की खोज की गति को दो आदेशों से बढ़ा दिया है और लागत को एक हज़ारवें से भी कम कर दिया है।
डिजिटल सुरक्षा के चिंतन का रूपांतरण
पहचान धोखाधड़ी, मॉडल विफलता, अनुमति प्रबंधन की कमजोरियाँ, दुर्भावनापूर्ण ब्लैकमेल... जैसे-जैसे बुद्धिमान एजेंट वाणिज्यिक अनुप्रयोग के चरण में प्रवेश कर रहे हैं, विभिन्न नए जोखिम लगातार उभर रहे हैं। इसी समय, कृत्रिम बुद्धिमत्ता द्वारा संचालित छिपे हुए डेटा खनन जैसे जोखिम भी मॉडल की सटीकता और निर्णय की विश्वसनीयता को प्रभावित कर रहे हैं।
ज़ाओ चुनजियांग, सीएई के अकादमिशियन तथा चाइनीज़ एसोसिएशन ऑफ़ आर्टिफ़िशियल इंटेलिजेंस के उपाध्यक्ष, ने बताया कि एआई सिस्टम के सुरक्षा जोखिम चार आयामों को शामिल करते हैं: डेटा लेयर, मॉडल लेयर, एप्लिकेशन लेयर और फ़ाउंडेशन लेयर। विभिन्न आयामों के सामने आने वाली सुरक्षा समस्याएँ भी अलग-अलग होती हैं, और इनके लिए लक्षित उपायों की आवश्यकता होती है।
वू हे क्वान के अनुसार, लंबे समय तक सुरक्षा कार्य का विचार यह रहा है कि जहाँ आग लगे, वहाँ उसे बुझाया जाए। यह निष्क्रिय प्रतिक्रिया विधि मानव आक्रमणों का सामना कर सकती है, लेकिन बुद्धिमान एजेंट समूहों के संतृप्त आक्रमणों के सामने प्रतिक्रिया की गति हमेशा आधा कदम पीछे रह जाती है।
अतीत में कौन मज़बूत था और भविष्य में कौन तेज़ होगा? चीन को स्वतंत्र और नियंत्रित एआई दुर्बलता खनन क्षमता स्थापित करनी होगी।” झोउ होंगयी ने कहा।
सुरक्षा पैटर्न को निष्क्रिय रक्षा से सक्रिय प्रतिरक्षा की ओर स्थानांतरित करना आवश्यक है," वू हेक्वान ने कहा। "हमें एक व्यवस्थित सुरक्षा संचालन ढांचा बनाने की आवश्यकता है जो भविष्यवाणी, रक्षा, पता लगाना, प्रतिक्रिया और पुनर्प्राप्ति के पूरे जीवन चक्र को शामिल करे। हमें प्रक्रियाओं, कर्मियों और प्रौद्योगिकी को एक बंद-लूप क्षमता में एकीकृत करने की आवश्यकता है, ताकि सुरक्षा प्रणाली में भी बुद्धिमान एजेंट के अनुभव, भविष्यवाणी और अनुकूलन क्षमताएँ हों, और उपचार के बाद के चरण से पूर्व-चेतावनी और प्रक्रिया के दौरान अवरोधन की ओर स्थानांतरण सुनिश्चित किया जा सके।
यह केवल एक अतिरिक्त सुंदरता नहीं है, बल्कि क्षमताओं का जीवन-मरण का पुनर्निर्माण है। बिना सक्रिय प्रतिरक्षा के, बुद्धिमान एजेंटों के युग में डिजिटल सुरक्षा संभव नहीं है," वू हेक्वान ने कहा।
ज़ाओ ज़ीगुओ का मानना है कि बुद्धिमान एजेंट सुरक्षा के लिए मुख्य प्रौद्योगिकियों के अनुसंधान और विकास को प्राथमिकता देना आवश्यक है, एल्गोरिदम की व्याख्यात्मकता, डेटा गोपनीयता संरक्षण और प्रणाली की दृढ़ता जैसे महत्वपूर्ण क्षेत्रों में अनुसंधान और विकास निवेश को मजबूत करना चाहिए, स्रोत स्तर से सक्रिय रक्षा क्षमताओं को बढ़ाना चाहिए और विकास में पहल करनी चाहिए। बुद्धिमान एजेंटों की विशेषताओं के अनुकूल सुरक्षा मानकों और मूल्यांकन प्रमाणन तंत्र की स्थापना को त्वरित करना चाहिए, उच्च-जोखिम वाले बुद्धिमान एजेंटों के लिए श्रेणीबद्ध और वर्गीकृत प्रबंधन लागू करना चाहिए, अनुसंधान और विकास, तैनाती और संचालन की ज़िम्मेदारी की सीमाओं को स्पष्ट करना चाहिए, और यह सुनिश्चित करना चाहिए कि नियम और विनियम हों। राष्ट्रीय मानक ढांचे के तहत, उद्योग, अकादमिक क्षेत्र, अनुसंधान और अनुप्रयोग के गहन एकीकरण को बढ़ावा देना चाहिए और बुद्धिमान एजेंटों के अनुसंधान और विकास, कार्यान्वयन, संचालन और रखरखाव के पूरे जीवन चक्र को कवर करने वाले संरक्षण मानकों के त्वरित निर्माण को सुनिश्चित करना चाहिए।
उत्पादों की बिक्री से लेकर क्षमता की बिक्री की ओर स्थानांतरण
इंटरनेशनल डेटा कॉर्पोरेशन (आईडीसी) की एक रिपोर्ट के अनुसार, नीतियों और विनियमों के लगातार मजबूत होने, उद्यमों के सुरक्षा में निवेश करने की बढ़ी हुई इच्छा, और नई प्रौद्योगिकियों के त्वरित अनुप्रयोग के कारण चीनी साइबर सुरक्षा बाजार में स्थिर वृद्धि बनी हुई है। यह अनुमानित है कि २०२६ तक समग्र बाजार का आकार ८० अरब युआन से अधिक हो जाएगा, जिसमें २०२४ से २०२९ तक वार्षिक संयुक्त वृद्धि दर ८.९% होगी। साइबर सुरक्षा डिजिटल अर्थव्यवस्था के विकास में एक आवश्यक आधारभूत क्षमता बन गई है।
वर्तमान में, बुद्धिमान एजेंट वित्त, उत्पादन और स्वास्थ्य सेवा जैसे क्षैतिज उद्योगों में अपने प्रवेश को तेज़ कर रहे हैं और वास्तविक व्यावसायिक प्रणालियों के मुख्य घटक बन रहे हैं। हालाँकि, अधिकांश उद्योग उपयोगकर्ताओं के पास अपनी स्वयं की बुद्धिमान रक्षा प्रणालियाँ विकसित करने की क्षमता अभी तक नहीं है, और पारंपरिक सुरक्षा विक्रेता अभी भी फ़ायरवॉल, डिटेक्शन उपकरण आदि बेचने के आदी हैं, जिसके परिणामस्वरूप आपूर्ति और मांग के बीच स्पष्ट असंगति उत्पन्न होती है।
जो भी व्यक्ति उत्पाद प्रदाता से सेवा प्रदाता में परिवर्तन को सबसे पहले पूरा कर सकता है, वह बुद्धिमान एजेंट सुरक्षा के नए क्षेत्र में अग्रणी स्थिति प्राप्त कर सकेगा," वू हेक्वान ने कहा। बुद्धिमान एजेंट युग में डिजिटल सुरक्षा उद्यमों को उत्पाद बेचने से लेकर क्षमताएँ बेचने की ओर स्थानांतरित होना आवश्यक है, जिसका अर्थ है कि बुद्धिमान एजेंटों के पूरे जीवनचक्र को कवर करने वाली सुरक्षा होस्टिंग सेवाएँ प्रदान करना—विकास चरण के दौरान सुरक्षा की समीक्षा करना, संचालन चरण के दौरान वास्तविक समय में निगरानी और असामान्य प्रतिक्रिया करना, और पुनरावृत्ति चरण के दौरान जोखिम मूल्यांकन करना तथा मजबूतीकरण के सुझाव देना। यह एक पैराडाइम शिफ्ट है और उद्योग के लिए एक ऐसी बाधा है जिसे पार करना आवश्यक है।
ज़ाओ ज़ीगुओ ने सुझाव दिया कि सुरक्षा के लिए एक सहयोगात्मक मंच की स्थापना की जाए, जिसमें उद्योग, शिक्षा और अनुसंधान के क्षेत्रों के बीच सहयोग हो। इस मंच के माध्यम से नेटवर्क संसाधनों का एकीकरण किया जाए और बुद्धिमान एजेंट सुरक्षा प्रौद्योगिकी, आपातकालीन प्रतिक्रिया सहयोग, तथा सर्वोत्तम प्रथाओं के प्रसार के क्षेत्र में उद्यमों, विश्वविद्यालयों और अनुसंधान संस्थानों के बीच गहन सहयोग को बढ़ावा दिया जाए। सामान्य चुनौतियों का सामना करने के लिए एक ऐसी शासन प्रणाली का निर्माण किया जाए, जिसमें सरकार का मार्गदर्शन, कॉर्पोरेट ज़िम्मेदारी और सामाजिक भागीदारी शामिल हो, तथा खुले और सहयोगात्मक दृष्टिकोण के साथ कार्य किया जाए।
वर्तमान में, संबंधित उद्योग के उद्यम बुद्धिमान एजेंटों के युग के लिए नए प्रतिभाओं के विकास को तेज़ करने के लिए कदम उठा रहे हैं। 14वें इंटरनेट सुरक्षा सम्मेलन के दौरान, 360 कृत्रिम बुद्धिमत्ता एजेंट इंजीनियर (ADE) प्रमाणित व्याख्याता और 360 सामाजिक कल्याण फाउंडेशन के एआई प्रतिभा विशेष छात्रवृत्ति के पुरस्कार वितरण कार्यक्रम एक साथ शुरू किए गए, जो प्रतिभा विकास और शिक्षा की समावेशी पहुँच के दृष्टिकोण से उद्योग, विश्वविद्यालय और अनुसंधान के गहन सहयोगी शिक्षा के लिए एक व्यावहारिक माध्यम प्रदान करते हैं।
ज़ाओ ज़ीगुओ ने कहा कि सरकारी विभागों, प्रमुख उद्यमों और अनुसंधान संस्थानों को बुद्धिमान एजेंट सुरक्षा क्षमता मूल्यांकन, जोखिम वर्गीकरण, डेटा सुरक्षा अनुपालन आदि क्षेत्रों में उद्योग मानकों और समूह मानकों के विकास को त्वरित करने के लिए सक्रिय रूप से प्रोत्साहित करना आवश्यक है, जिससे उद्योग के मानकीकृत विकास के लिए संस्थागत आधार प्रदान किया जा सके और उच्च-गुणवत्ता विकास की निश्चितता के माध्यम से सुरक्षा जोखिमों की अनिश्चितता को संबोधित किया जा सके। इसके अतिरिक्त, हमें वैश्विक कृत्रिम बुद्धिमत्ता सुरक्षा शासन नियमों के निर्माण और समन्वय में सक्रिय रूप से भाग लेना चाहिए, एक बुद्धिमान एजेंट सुरक्षा संवाद मंच का निर्माण करना चाहिए, बुद्धिमान युग में वैश्विक साइबर सुरक्षा शासन के सहयोगी पथ की सामूहिक खोज करनी चाहिए, साइबर अंतरिक्ष में साझा भविष्य के समुदाय के निर्माण में साथ मिलकर कार्य करना चाहिए, और वैश्विक बुद्धिमान एजेंट उद्योग के स्वस्थ विकास के लिए चीनी बुद्धिमत्ता और शक्ति का योगदान देना चाहिए।