Të gjitha Kategoritë

Ndërtimi i një vije mbrojtëse të sigurt për zhvillimin e agjentëve inteligjentë

2026-11-18
Me përmirësimin e shpejtë të teknologjisë së inteligjencës artificiale, agjentët inteligjentë, si një bartës i rëndësishëm për integrimin e thellë të inteligjencës artificiale me ekonominë reale, po ndikojnë thellësisht në prodhim dhe stilin e jetës, duke rikonstruktuar kufijtë e sigurisë.
Me përmirësimin e shpejtë të teknologjisë së inteligjencës artificiale, agjentët inteligjentë, si një bartës i rëndësishëm për integrimin e thellë të inteligjencës artificiale me ekonominë reale, po ndikojnë thellësisht në prodhim dhe stilin e jetës, duke rikonstruktuar kufijtë e sigurisë.
Në Konferencën e 14-të të Sigurisë në Internet, e cila u mbajt së fundmi, ekspertët thanë se duhet të përdorim teknologjinë kyçe për të zgjidhur problemet kryesore, të forcojmë aftësitë brendëshme, të ndërtojmë një pengesë të fortë me ndërtimin e sistemeve dhe rregullave, dhe të udhëheqim normat industriale me ndërtimin e një sistemi standardizimi, në mënyrë që të krijojmë një rrugë të zhvillimit të bashkërenduar me sigurinë në epokën e agjentëve.
  Agjentët inteligjentë sjellin rreziqe të reja
Sot, inteligjenca artificiale po kalon një kalim të rëndësishëm nga modelet e mëdha te agjentët inteligjentë. Kur agjentët inteligjentë fillojnë të marrin vendime të pavarura, të thërrasin mjete dhe të kryejnë detyra, lindin edhe rreziqe sigurie.
"Krahasuar me sistemet e mëparshme të informacionit, agjentët nuk janë më një mjet i thjeshtë për pyetje dhe përgjigje që vepron pasivisht, por u jepen aftësitë e perceptimit, vendimmarrjes dhe ekzekutimit të pavarur. Ky hapat teknologjik ka ndryshuar thellësisht situatën ofenzive dhe defenzive të sigurisë në rrjet." tha Zhao Zhiguo, zëvendëskryetar i Shoqatës së Internetit të Kinës dhe ish-inxhinier kryesor i Ministria e Industrisë dhe Teknologjisë së Informacionit.
Me përmirësimin e shpejtësisë së përfshirjes së agjentëve inteligjentë në fusha kyçe si prodhimi, financa dhe energjia, çdo rrezik sigurie mund të shkaktojë një reagim zinxhir nëpër rrjetet dhe industritë në një kohë të shkurtër përmes aftësisë së planifikimit të pavarur të agjentëve inteligjentë, gjë që paraqet kërkesa më të larta për parandalimin e rreziqeve dhe përgjigjen e shpejtë në emergjenca.
Zhao Zhiguo tha se, kur agjentët inteligjentë kanë aftësi vetëqëndrimi të vendimeve, rreziqet e sigurisë zgjerohen nga "dështimet teknike" në "humbrën e kontrollit mbi vendimet". Kur ndodhin devijime apo shtrembërime, agjentët inteligjentë mund të kryejnë veprime që dalin nga pritjet e njerëzve, dhe pasojat janë të paparashikueshme. Ky rreziq i brendshëm paraqet një sfidë themelore për kontrollueshmërinë e sigurisë. Për më tepër, agjentët inteligjentë veprojnë vetëm në sistem në mënyrë shumë antropomorfike, dhe mekanizmat tradicionalë të besimit bazuar në identitet përballojnë rreziqin e dështimit. Kur agjentët inteligjentë nënshkruajnë kontrata, kryejnë transaksione dhe thirrjnë burime vetëm, definimi i përgjegjësive të sigurisë dhe karakterizimi i sjelljeve të paautorizuara janë problemet praktike urgjente që duhet të zgjidhen.
Sipas Vu Hequan, akademiku i Akademisë së Inxhinierisë së Kinës (CAE) dhe kryetari nderi i Konferencës së Sigurisë në Internet, sulmet me agjentë tregojnë karakteristikat teknike të vendimmarrjes së pavarur, bashkëpunimit të grupeve dhe evolucionit të vazhdueshëm. Sulmet tradicionale në cyberspace mbështeten shumë në veprimet manuale, ndërsa sulmet e drejtuara nga agjentët ndryshojnë themelorisht këtë model.
Specifikisht, agjentët inteligjentë mund të perceptojnë vetëm mjedisin, të planifikojnë rrugët e sulmit dhe të kryejnë detyrat e penetrimit; gjithashtu, disa agjentë mund të ndajnë informacionin dhe të bashkëpunojnë. Ky sulm i grupuar mund të lëshohet njëkohësisht nga hyrje të shumta brenda një periudhe shumë të shkurtër, duke e çuar sistemin e mbrojtjes në gjendje tërheqjeje për reagim. Ajo që kërkon vëmendje më të madhe është se agjentët inteligjentë kanë aftësinë të mësojnë dhe të përmirësohen vazhdimisht, dhe çdo ballafaqim midis sulmit dhe mbrojtjes bëhet material për optimizimin e tyre, duke ndryshuar metodat e sulmit me kalimin e kohës.
Zhou Hongyi, themelues i Grupit 360 dhe kryetar i Konferencës së Sigurisë në Internet, beson se AI ka zvogëluar koston e mirëmbajtjes për industrinë e sigurisë në rrjet. Si shembull, modeli Mythos, me aftësitë e tij të plotësisht automatizuara për zbulimin e vullneteve dhe ndërtimin e zinxhirëve të sulmit, ka rritur shpejtësinë e zbulimit të vullneteve me dy rende madhësie dhe ka zvogëluar koston në më pak se një mijëthën.
  Transformimi i mendimit rreth sigurisë digitale
Falsifikimi i identitetit, dështimi i modelit, vullnetet në menaxhimin e lejeve, shtrëngimi i keq... Kur agjentët inteligjentë hyjnë në fazën e aplikimeve komerciale, rreziqet e reja vazhdojnë të shfaqen. Në të njëjtën kohë, rreziqet si minierat e fshehura të të dhënave, të drejtuara nga inteligjenca artificiale, kanë gjithashtu ndikim në saktësinë e modelit dhe në besueshmërinë e vendimeve.
Zhao Chunjiang, akademik i Akademisë së Inxhinierisë së Kinës dhe zëvendëskryetar i Shoqatës Kineze të Intelektit Artificial, tha se rreziqet e sigurisë së sistemeve AI përfshijnë katër dimensione: shtresën e të dhënave, shtresën e modelit, shtresën e aplikimit dhe shtresën bazë. Problemet e sigurisë që përballet secili prej këtyre dimensioneve janë të ndryshme, prandaj duhen marrë masa specifike.
Sipas Wu Hequan, për një kohë të gjatë, ideja e punës së sigurisë ka qenë të shuhen zjarret ku do që shpërthejnë. Ky model i përgjigjes pasive mund të rezistojë sulmet e njerëzve, por kur ballafaqohet me sulme të saturuara nga grupe agjentësh inteligjentë, shpejtësia e përgjigjes është gjithmonë për një gjysmë hapi më ngadalë.
Kush ishte më i fortë në të kaluarën dhe kush do të jetë më i shpejtë në të ardhmen? Kina duhet të zhvillojë kapacitete të pavarura dhe të kontrollueshme për zbulimin e vullneteve të sistemeve AI.” Tha Zhou Hongyi.
Paradigma i sigurisë duhet të zhvendoset nga mbrojtja pasive në imunitetin aktiv", tha Wu Hequan. Ne kemi nevojë për të ndërtuar një strukturë sistematike operacionesh sigurie që mbulon tërë ciklin e jetës: parashikimin, mbrojtjen, zbulimin, përgjigjen dhe rivendosjen. Ne kemi nevojë për të integruar proceset, personelin dhe teknologjinë në një kapacitet me unazë të mbyllur, në mënyrë që sistemi i sigurisë të ketë edhe aftësi perceptuese, parashikuese dhe adaptive të agjentëve inteligjentë, dhe të arrijë një zhvendosje nga korrigjimi pas ngjarjes në paralajmërimin para ngjarjes dhe bllokimin gjatë procesit.
Kjo nuk është thjesht një shtesë dekorative, por një rikonstruksion i kapaciteteve që ka karakter jetë-dhënës. Pa imunitet aktiv, nuk mund të ketë siguri digjitale në epokën e agjentëve inteligjentë", tha Wu Hequan.
Zhao Zhiguo beson se është e domosdoshme të jepet peshë e veçantë zhvillimit të teknologjive kryesore për sigurinë e agjentëve inteligjentë, të forcohet investimi në kërkim dhe zhvillim në fusha kyçe si interpretabiliteti i algoritmeve, mbrojtja e privatësisë së të dhënave dhe robustnesi i sistemit, të përmirësohen kapacitetet e mbrojtjes aktive nga burimi dhe të merret iniciativa në zhvillim. Të shpejtohet krijimi i standardeve të sigurisë dhe i mekanizmave të vlerësimit dhe certifikimit që përshtaten me karakteristikat e agjentëve inteligjentë, të zbatohet menaxhimi i klasifikuar dhe i kategorizuar për agjentët inteligjentë me rrezik të lartë, të përcaktohen kufijtë e përgjegjësisë për kërkimin dhe zhvillimin, vendosjen dhe operimin, dhe të sigurohet se ka rregulla dhe rregullore për t'u ndjekur. Në kuadër të strukturës së standardeve kombëtare, të promovohet integrimi i thellë i industrisë, akademisë, kërkimit dhe aplikimit, dhe të shpejtohet formimi i standardeve të mbrojtjes që mbulojnë ciklin e plotë të jetës së kërkimit dhe zhvillimit, zbatimit, operimit dhe mirëmbajtjes së agjentëve inteligjentë.
 Shkëmbe nga shitja e produkteve në shitjen e aftësisë
Sipas një raporti të International Data Corporation (IDC), tregu kinez i sigurisë së informacionit ka mbajtur një rritje të qëndrueshme për shkak të forcimit vazhdues të politikave dhe rregulloreve, rritjes së dëshirës së bizneseve për të investuar në siguri dhe aplikimit të shpejtë të teknologjive të reja. Pritet që deri në vitin 2026 madhësia e përgjithshme e tregut të tejkalojë 80 miliard yuan, me një normë vjetore të rritjes së përbashkët prej 8,9% nga viti 2024 deri në vitin 2029. Siguria e informacionit është bërë një aftësi themelore e domosdoshme në zhvillimin e ekonomisë digjitale.
Në kohën e tanishme, agjentët inteligjentë po rriten shpejt në industritë vertikale si financa, prodhimi dhe shëndetësia, duke u bërë pjesë kryesore e sistemeve reale të biznesit. Megjithatë, shumica e përdoruesve industrialë nuk kanë akoma aftësinë të zhvillojnë sistemet e tyre të mbrojtjes inteligjente, ndërsa furnitorët tradicionalë të sigurisë vazhdojnë të jenë të zakonshëm me shitjen e zjarreve (firewall), mjeteve të zbulimit etj., çka rezulton në një papërputhje të qartë midis ofertës dhe kërkesës.
Kushdo që mund të përfundojë transformimin nga furnizues i produkteve në furnizues të shërbimeve përpara do të jetë në gjendje të marrë udhëheqjen në fushën e re të sigurisë së agjentëve inteligjentë", tha Wu Hequan. Në epokën e agjentëve inteligjentë, kompanitë e sigurisë digitale duhet të zhvendosen nga shitja e produkteve në shitjen e kapaciteteve, që do të thotë ofrimi i shërbimeve të hostingut të sigurisë që mbulojnë tërë ciklin e jetës së agjentëve inteligjentë: vlerësimi i sigurisë gjatë fazës së zhvillimit, monitorimi real-kohor dhe përgjigjja ndaj anomali gjatë fazës së operimit, si dhe vlerësimi i rreziqeve dhe propozimi i sugjerimeve për forcim gjatë fazës së përmirësimit. Kjo është një ndryshim paradigmatik dhe një pengesë që industrinë duhet ta kapërcejë.
Zhao Zhiguo sugjeroi që të krijohet një platformë e sigurisë bashkëpunuese midis industrisë, akademisë dhe kërkimit për të integruar burimet rrjetore dhe për të promovuar bashkëpunimin e thellë mes ndërmarrjeve, universiteteve dhe institucioneve kërkimore në zhvillimin e teknologjisë së sigurisë së agjentëve inteligjentë, bashkëpunimin në përgjigje të emergjencave dhe promovimin e praktikave më të mira. Duhet të ndërtohet një model qeverisjeje me udhëzime nga qeveria, përgjegjësi nga korporatat dhe pjesëmarrje sociale për të adresuar sfidat e përbashkëta me një qëndrim të hapur dhe bashkëpunues.
Në këtë moment, ndërmarrjet e lidhura me industrinë po veprojnë për të shpejtuar formimin e talenteve të reja për epokën e agjentëve inteligjentë. Gjatë Konferencës së 14-të të Sigurisë në Internet, u nis procesi i dhënies së certifikatës për Inxhinier të Agjentëve të Intelektit Artificial (ADE) nga 360 dhe i Bursës së Veçantë për Talente AI të Fondacionit të 360 për Punët e Përbashkëta, duke ofruar një mjedis praktik për bashkëpunimin e thellë mes industrisë, universitetit dhe kërkimit, nga pikëpamja e formimit të talenteve dhe të arsimimit përfshirës.
Zhao Zhiguo tha se është e nevojshme të promovohet aktivisht që departamentet e qeverisë, ndërmarrjet udhëheqëse dhe institutet e kërkimit të shpejtsojnë zhvillimin e standardeve industriale dhe të grupit në fushat e vlerësimit të aftësive të sigurisë së agjentëve inteligjentë, klasifikimit të rreziqeve, përputhshmërisë me sigurinë e të dhënave etj., duke ofruar një bazë institucionale për zhvillimin e standardizuar të industrisë dhe duke adresuar papërcaktueshmërinë e rreziqeve të sigurisë me sigurinë e zhvillimit të lartë cilësor. Për më tepër, duhet të përfshihemi aktivisht në formulimin dhe koordinimin e rregullave globale të qeverisjes së sigurisë së inteligjencës artificiale, të ndërtojmë një platformë dialogu për sigurinë e agjentëve inteligjentë, të eksplorojmë bashkësisht rrugën e bashkëpunimit për qeverisjen globale të sigurisë në rrjet në epokën e inteligjencës, të punojmë së bashku për të ndërtuar një bashkësi të përbashkët të të ardhmes në hapësirën e internetit dhe të kontribuojmë me mendimin dhe fuqinë kineze për zhvillimin shëndetshëm të industrisë globale të agjentëve inteligjentë.

Facebook Facebook
Facebook
Whatsapp Whatsapp
Whatsapp