Visos kategorijos

Sukuriant saugią gynybos liniją išmaniųjų agentų plėtrai

2026-11-18
Spartėjant dirbtinio intelekto technologijų atnaujinimui, protingieji agentai kaip svarbus dirbtinio intelekto ir tikrosios ekonomikos gilios integracijos nešėjas stipriai veikia gamybą ir gyvenimo būdą bei performuoja saugumo ribas.
Spartėjant dirbtinio intelekto technologijų atnaujinimui, protingieji agentai kaip svarbus dirbtinio intelekto ir tikrosios ekonomikos gilios integracijos nešėjas stipriai veikia gamybą ir gyvenimo būdą bei performuoja saugumo ribas.
Neseniai vykusio 14-ojo interneto saugumo konferencijoje ekspertai teigė, kad reikia naudoti pagrindines technologijas, kad būtų išspręstos svarbios problemos, stiprinti vidines kompetencijas, sukurti tvirtą barjerą sistemų ir taisyklių kūrimu bei vadovauti pramonės standartams kurdami standartų sistemas, kad būtų sukurtas koordinuoto vystymosi ir saugumo kelias agentų eros metu.
  Protingieji agentai sukelia naujų rizikų
Šiuo metu dirbtinis intelektas patiria esminį perėjimą nuo didžiųjų modelių prie protingųjų agentų. Kai protingieji agentai pradeda priimti nepriklausomus sprendimus, naudoti įrankius ir vykdyti užduotis, kyla ir saugumo rizikos.
„Palyginti su ankstesniais informaciniais sistemomis, agentai daugiau nebe yra tik klausimų ir atsakymų įrankis neveikliam vykdymui, bet jiems suteikta nepriklausomos suvokimo, sprendimų priėmimo ir vykdymo galia. Šis technologinis šuolis radikaliai pakeitė tinklo saugumo puolimo ir gynimo situaciją.“ – sakė Zhao Zhiguo, Kinijos interneto asociacijos viceprezidentas ir buvęs pramonės ir informacinės technologijos ministerijos vyriausiasis inžinierius.
Kai protingieji agentai vis greičiau įsiskverbia į pagrindines sritis, tokias kaip gamyba, finansai ir energetika, bet koks saugumo rizikos veiksnys per jų autonomišką planavimo gebėjimą gali per trumpą laiką sukelti grandininę reakciją tinkle ir pramonėse, todėl reikalaujama aukštesnių reikalavimų rizikos prevencijai ir krizės valdymui.
Zhao Zhiguo teigė, kad kai intelektualūs agentai įgyja savarankiško sprendimų priėmimo gebėjimų, saugos rizikos išplėtomas nuo „techninių gedimų“ iki „netekimo valdymo sprendimų priėmimo procese“. Kai įvyksta nuokrypiai ar sutrikimai, intelektualūs agentai gali imtis veiksmų, kurie neatitinka žmonių lūkesčių, o pasekmės yra neprognozuojamos. Ši endogeninė rizika kelia pagrindinį iššūkį saugos valdymui. Be to, intelektualūs agentai veikia sistemoje autonomiškai ir labai antropomorfiškai, todėl tradiciniai remiantis tapatybe paremti pasitikėjimo mechanizmai susiduria su nesėkmės rizika. Kai intelektualūs agentai autonomiškai sudaro sutartis, vykdo sandorius ir iškviečia išteklius, kyla skubi praktinė problema – kaip apibrėžti saugos atsakomybę ir kaip charakterizuoti neautorizuotus veiksmus.
Pagal Vu Hečuaną, Kinijos inžinerijos akademijos narys ir Interneto saugumo konferencijos garbės pirmininkas, agentų atakos parodo techninius požymius – nepriklausomą sprendimų priėmimą, grupinį bendradarbiavimą ir nuolatinę evoliuciją. Tradicinės kibernetinės atakos labai priklauso nuo rankinių operacijų, o agentais valdomos atakos šiuo modeliu esminiu būdu keičia.
Konkrečiai, protingieji agentai gali nepriklausomai suvokti aplinką, planuoti atakos maršrutus ir vykdyti prasiskverbimo užduotis, o keli agentai gali dalintis informacija ir bendradarbiauti. Šios grupinės atakos gali būti pradėtos vienu metu iš kelių įėjimų labai trumpu laikotarpiu, todėl apsaugos sistemos išsekamos reaguodamos. Dar labiau reikia būti budriems dėl to, kad protingieji agentai turi gebėjimą nuolat mokytis ir tobulėti, o kiekviena ataka ir gynybos susidūrimas tampa medžiaga jų optimizavimui, todėl atakos metodai laikui bėgant nuolat keičiasi.
Džou Honjė, „360 Group“ įkūrėjas ir „Internet Security Conference“ pirmininkas, mano, kad dirbtinis intelektas pakeitė saugos priežiūros požiūrį į tinklo saugumą. Pavyzdžiui, „Mythos“ modelis, kuris visiškai automatiškai aptinka pažeidžiamumus ir sukuria puolimo grandines, padidino pažeidžiamumų aptikimo greitį dviejų eilės dydžiu ir sumažino sąnaudas mažiau nei tūkstantą kartų.
  Skaitmeninės saugos mąstymo transformacija
Tapatybės klastojimas, modelio sutrikimai, leidimų valdymo pažeidžiamumai, piktybinis šantažas... Kai protingieji agentai patenka į komercinio naudojimo etapą, iškyla įvairios naujos rizikos. Kartu dirbtinio intelekto skatinamas paslėptas duomenų kasimas taip pat veikia modelio tikslumą ir sprendimų patikimumą.
Cao Džundžiangas, Kinijos inžinerijos akademijos narys ir Dirbtinio intelekto kinų asociacijos viceprezidentas, paaiškino, kad dirbtinio intelekto sistemos saugos rizikos apima keturis aspektus: duomenų sluoksnį, modelių sluoksnį, programinės įrangos naudojimo sluoksnį ir pagrindinį sluoksnį. Skirtinguose aspektuose kylantys saugos problemų pobūdžiai taip pat skiriasi, todėl reikia taikyti tikslinius sprendimus.
Pagal Vu Hečuan'o nuomonę, ilgą laiką saugos darbų požiūris buvo – užgesinti gaisrus ten, kur jie kilo. Šis neaktyvus reagavimo būdas gali atlaikyti žmonių sukeltus puolimus, tačiau susidūrus su intensyviais, išmaniuosius agentus naudojančių grupių puolimais reagavimo greitis visada yra šiek tiek lėtesnis.
Kas buvo stipresnis praeityje ir kas bus greitesnis ateityje? Kinija turi sukurti nepriklausomas ir valdomas dirbtinio intelekto silpnybių aptikimo galimybes.“ – sakė Džou Hongjis.
Saugos paradigma turi pasikeisti nuo neaktyvaus apsaugos būdo prie aktyvaus imuniteto, – sakė Vu Hečuanas. Mums reikia sukurti sisteminių saugos veiksmų struktūrą, kuri apimtų visą gyvavimo ciklą – prognozavimą, apsaugą, aptikimą, reagavimą ir atstatymą. Mums reikia integruoti procesus, personalą ir technologijas į uždaro ciklo gebėjimą, kad saugos sistema taip pat galėtų turėti intelektualių agentų suvokimą, prognozavimą ir adaptacinį gebėjimą bei pasiektų perėjimą nuo po įvykio šalinimo prie ankstyvo įspėjimo ir vykdomojo blokavimo.
Tai ne tik papildomas puošmenos elementas, bet ir esminis gebėjimų pertvarkymas. Be aktyvaus imuniteto negali būti skaitmeninės saugos išmaniųjų agentų eros metu, – sakė Vu Hečuanas.
Zhao Zhiguo mano, kad būtina pabrėžti intelektualiųjų agentų saugumo pagrindinių technologijų tyrimus ir plėtrą, stiprinti tyrimų ir plėtros investicijas į svarbias sritis, tokias kaip algoritmų aiškumas, duomenų privatumo apsauga ir sistemos atsparumas, sustiprinti aktyvią gynybą nuo pat pradžių ir pasiekti iniciatyvą plėtroje. Greitinti saugumo standartų ir vertinimo bei sertifikavimo mechanizmų sukūrimą, kurie atitiktų intelektualiųjų agentų ypatybes, įdiegti klasifikuotą ir kategorizuotą valdymą aukšto rizikos intelektualiesiems agentams, aiškiai nustatyti atsakomybės ribas tyrimuose ir plėtroje, diegime bei eksploatavime ir užtikrinti, kad būtų taisyklės ir reglamentai, kurių reikia laikytis. Valstybinių standartų sistemoje skatinti pramonės, mokslo, tyrimų ir taikomųjų sprendimų glaudų sujungimą bei greitinti viso intelektualiųjų agentų gyvavimo ciklo – nuo tyrimų ir plėtros iki įdiegimo, eksploatavimo ir priežiūros – apimančių apsaugos standartų sukūrimą.
 Perkelti dėmesį nuo produktų pardavimo prie gebėjimų pardavimo
Pagal International Data Corporation (IDC) atlikto tyrimo duomenis, kinų kibernetinės saugos rinka išlaiko pastovų augimą dėl nuolatinio politikos ir reglamentų stiprinimo, įmonių didesnio noro investuoti į saugą bei naujų technologijų taikymo pagreitinimo. Numatoma, kad iki 2026 m. visos rinkos dydis viršys 80 mlrd. juanų, o sudėtinis metinis augimo tempas nuo 2024 iki 2029 m. bus 8,9 %. Kibernetinė sauga tapo būtina pagrindine galimybe skaitmeninės ekonomikos plėtojime.
Šiuo metu protingieji agentai vis labiau įsiskverbia į vertikaliąsias pramonės šakas, tokias kaip finansai, gamyba ir sveikatos priežiūra, tapdami tikrųjų verslo sistemų pagrindinėmis sudedamosiomis dalimis. Tačiau dauguma pramonės vartotojų dar neturi galimybės kurti savo protingų apsaugos sistemų, o tradiciniai saugumo tiekėjai vis dar įpratę parduoti ugniasienės, aptikimo įrankius ir pan., dėl ko aiškiai susidaro pasiūlos ir paklausos neatitikimas.
„Kas pirmasis įveiks perėjimą nuo produkto tiekėjo į paslaugų tiekėją, tas užims lyderio poziciją naujoje intelektualių agentų saugumo srityje“, – sakė Vu Hečuanas. Intelektualių agentų eros skaitmeninės saugos įmonės turi keisti strategiją nuo produktų pardavimo į gebėjimų pardavimą, t. y. teikti saugos prieglobos paslaugas, apimančias visą intelektualių agentų gyvavimo ciklą: saugos vertinimą kūrimo etape, tikrojo laiko stebėseną ir netipinių įvykių reagavimą eksploatacijos etape, rizikos vertinimus bei stiprinimo pasiūlymus atnaujinimo etape. Tai – paradigmos poslinkis ir kliūtis, kurią privalo įveikti visa ši pramonės šaka.
Zhao Zhiguo pasiūlė sukurti bendradarbiavimo saugumo platformą tarp pramonės, mokslo ir tyrimų, kad būtų integruotos tinklo išteklių galimybės ir skatinamas gilus bendradarbiavimas tarp įmonių, universitetų ir tyrimų institucijų dirbant su intelektualaus agento saugumo technologijomis, krizės valdymo bendradarbiavimu bei geriausių praktikų skatinimu. Turėtų būti sukurtas valdymo modelis, kuriame vyriausybė vadovautų, įmonės atsakytų už savo veiksmus, o visuomenė dalyvautų, siekiant bendrų iššūkių atviru ir bendradarbiavimo požiūriu.
Šiuo metu susijusios pramonės įmonės imasi veiksmų, kad pagreitintų naujų specialistų, tinkamų intelektualių agentų laikotarpiui, rengimą. XIV Interneto saugumo konferencijoje vienu metu buvo pradėtas 360 dirbtinio intelekto agento inžinieriaus (ADE) sertifikatuoto dėstytojo ir 360 visuomeninės naudos fondo dirbtinio intelekto specialistų specialiosios stipendijos įteikimo procesas, kuris praktiškai palaiko gilesnį pramonės, universitetų ir mokslinių tyrimų bendradarbiavimą tiek specialistų rengimo, tiek švietimo visuomenei srityse.
Zhao Zhiguo pareiškė, kad būtina aktyviai skatinti vyriausybės departamentus, lyderius verslo įmones ir tyrimų institutus pagreitinti pramonės standartų ir grupių standartų kūrimą intelektualių agentų saugos gebėjimų vertinimo, rizikos klasifikavimo, duomenų saugos atitikties ir kt. srityse, taip suteikiant institucinę bazę šios pramonės standartizuotam vystymuisi ir įveikiant saugos rizikos neapibrėžtumą aukštos kokybės vystymosi tikrumu. Be to, reikia aktyviai dalyvauti tarptautinių dirbtinio intelekto saugos valdymo taisyklių formavime ir koordinavime, sukurti intelektualių agentų saugos dialogo platformą, bendrai tyrinėti bendradarbiavimo kelius globaliam tinklo saugos valdymui intelektualaus amžiaus metu, kartu kurti bendrą žmogaus gyvenamosios erdvės ateities bendruomenę ir prisidėti kinų išmintimi bei jėga prie sveiko globalaus intelektualių agentų pramonės vystymosi.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp