Artais mākslīgā intelekta tehnoloģiju attīstības ātrumā, inteliģenti aģenti kā svarīgs mākslīgā intelekta un reālās ekonomikas dziļas integrācijas nesējs ietekmē ražošanu un ikdienas dzīvi, kā arī pārveido drošības robežas.
Artais mākslīgā intelekta tehnoloģiju attīstības ātrumā, inteliģenti aģenti kā svarīgs mākslīgā intelekta un reālās ekonomikas dziļas integrācijas nesējs ietekmē ražošanu un ikdienas dzīvi, kā arī pārveido drošības robežas.
Nesen notikušajā 14. Interneta drošības konferencē eksperti norādīja, ka mums jāizmanto galvenās tehnoloģijas, lai risinātu būtiskākos jautājumus, jāuzlabo iekšējās prasmes, jāizveido stingrs barjers, balstoties uz sistēmu un noteikumu izveidi, kā arī jāvada nozares standarti, veidojot standartu sistēmu, lai radītu līdzsvarotu attīstības un drošības ceļu aģentu laikmetā.
Inteliģenti aģenti rada jaunus riskus
Pašlaik mākslīgais intelekts piedzīvo būtisku pāreju no lieliem modeļiem uz inteliģentiem aģentiem. Kad inteliģenti aģenti sāk pieņemt neatkarīgus lēmumus, izsaukt rīkus un izpildīt uzdevumus, rodas arī drošības riski.
"Salīdzinot ar iepriekšējām informācijas sistēmām, agenti vairs nav pasīvas izpildes jautājumu un atbilžu līdzeklis, bet viņiem ir dota neatkarīgas uztveršanas, lēmumu pieņemšanas un izpildes spēja. Šis tehnoloģisko pavērsienu lēciens ir būtiski mainījis tīkla drošības uzbrukuma un aizsardzībai raksturīgo situāciju", teica Čao Žigū, Ķīnas Interneta asociācijas viceprezidents un bijušais rūpniecības un informācijas tehnoloģiju ministrijas galvenais inženieris.
Ar intelektuālo aģentūru aizvien ātrāku iekļūšanu tādās svarīgākās jomās kā ražošana, finanšu un enerģētika jebkura drošības riska dēļ īslaicīga laikā var rasties ķēdes reakcija visā tīklā un rūpniecībā, izmantojot intelektuālo aģentūru autonomas plānošanas spējas, kas rada lielāku prasību riska novēršanai un reaģēšanai uz
Čao Ži-guo norēja, ka, tiklīdz intelektuālie aģenti iegūst neatkarīgas lēmumu pieņemšanas spējas, drošības riski paplašinās no „tehniskām kļūdām” līdz „kontroles zaudēšanai lēmumu pieņemšanā”. Ja rodas novirzes vai traucējumi, intelektuālie aģenti var veikt darbības, kas atšķiras no cilvēku sagaidāmā, un sekas ir neprediktāmas. Šis iekšējais risks rada pamatliczīgu izcilību drošības kontrolējamībai. Turklāt intelektuālie aģenti sistēmā darbojas autonomi ļoti antropomorfiskā veidā, un tradicionālie identitātei balstītie uzticamības mehānismi ir pakļauti neveiksmes riskam. Kad intelektuālie aģenti autonomi paraksta līgumus, veic darījumus un izsauc resursus, drošības atbildības definēšana un neatļautas darbības raksturošana ir kļuvušas steidzamas praktiskas problēmas, ko nepieciešams atrisināt.
Saskaņā ar Vu Hekvana, Ķīnas inženierzinātņu akadēmijas (CAE) locekli un Interneta drošības konferences goda priekšsēdētāju, aģentu uzbrukumi atklāj tehniskās iezīmes — neatkarīgu lēmumu pieņemšanu, klasteru sadarbību un nepārtrauktu attīstību. Tradicionālie kiberauzbrukumi lielā mērā balstās uz manuālām operācijām, kamēr aģentu vadītie uzbrukumi pamatīgi maina šo modeli.
Konkrēti, intelektuālie aģenti var patstāvīgi uztvert vidi, plānot uzbrukuma maršrutus un veikt penetrācijas uzdevumus, turklāt vairāki aģenti var dalīties ar informāciju un sadarboties. Šādi klasteru uzbrukumi var tikt uzsākti vienlaikus no vairākām ieejām ļoti īsā laika periodā, liekot aizsardzības sistēmām izsīkt no reaģēšanas. Vēl vairāk jābūt uzmanīgiem tam, ka intelektuālajiem aģentiem piemīt spēja nepārtraukti mācīties un attīstīties, un katrs uzbrukums un aizsardzības konfrontācijas moments kļūst par materiālu to optimizācijai, tādējādi uzbrukuma metodes laika gaitā nepārtraukti mainās.
Džou Hongji, 360 Group dibinātājs un Interneta drošības konferences priekšsēdētājs, uzskata, ka mākslīgais intelekts ir pārveidojis uzturēšanu kibers drošības nozarē. Piemēram, Mythos modeļa pilnīgi automatizētās vājuma meklēšanas un uzbrukumu ķēžu veidošanas spējas ir divas reizes palielinājušas vājumu atklāšanas ātrumu un samazinājušas izmaksas līdz mazāk nekā vienai tūkstošdaļai.
Cipariskās drošības domāšanas pārveidošana
Identitātes viltošana, modeļa darbības traucējumi, piekļuves pārvaldības vājumi, ļaunprātīga izextorsija... Kad intelektuālie aģenti ienāk komerciālās lietošanas stadijā, parādās dažādi jauni riski. Tajā pašā laikā arī slēptā datu izpēte, ko piedzīvo mākslīgais intelekts, ietekmē modeļa precizitāti un lēmumu uzticamību.
Cao Čundzjan, Ķīnas akadēmijas inženierzinātņu loceklis un Ķīnas mākslīgā intelekta asociācijas viceprezidents, iepazīstināja ar to, ka mākslīgā intelekta sistēmu drošības riski aptver četrus izmērus: datu slāni, modeļa slāni, lietojumprogrammu slāni un pamata slāni. Dažādu izmēru drošības problēmas ir arī atšķirīgas, tāpēc nepieciešami mērķtiecīgi pasākumi.
Vu Hekvana viedoklī ilgstoši drošības darba pieeja bija ugunsgrēku dzēšana tur, kur tās rodas. Šis pasīvais reaģēšanas režīms var izturēt cilvēku uzbrukumus, taču inteliģentu aģentu klasteru piesātinātiem uzbrukumiem reaģēšanas ātrums vienmēr paliek par pusi ritma.
Kurš bija spēcīgāks pagātnē un kurš būs ātrāks nākotnē? Ķīnai jāizveido neatkarīgas un kontrolējamas mākslīgā intelekta vājumu atklāšanas spējas.” Džou Honji teica.
Drošības paradigma ir jāpārvieto no pasīvās aizsardzības uz aktīvo imunitāti," teica Vu Hekvans. Mums ir jāizveido sistēmiska drošības darbību ietvara struktūra, kas aptver visu ciklu — prognozēšanu, aizsardzību, atklāšanu, reaģēšanu un atjaunošanu. Mums ir jāintegrē procesi, personāls un tehnoloģijas vienotā, noslēgtā cikla spējā, lai drošības sistēmai būtu arī intelektuālo aģentu uztveres, prognozēšanas un adaptīvās spējas, un tādējādi sasniegtu pāreju no sekundārās novēršanas uz priekšlaicīgu brīdinājumu un procesa laikā notiekošu bloķēšanu.
Tas nav tikai papildu pievienojums, bet gan dzīvības un nāves līmenī notiekoša spēju pārbūve. Bez aktīvās imunitātes nevar būt digitālā drošība intelektuālo aģentu laikmetā," teica Vu Hekvans.
Zhao Zhiguo uzskata, ka ir nepieciešams pievērst īpašu uzmanību inteliģentu aģentu drošības pamattehnoloģiju izpētei un attīstībai, pastiprināt pētniecības un attīstības ieguldījumus galvenajās jomās, piemēram, algoritmu interpretējamībā, datu privātuma aizsardzībā un sistēmu izturībā, uzlabot aktīvās aizsardzības spējas no paša avota un paņemt iniciatīvu attīstībā. Paātrināt drošības standartu un novērtēšanas sertifikācijas mehānismu izveidi, kas atbilst inteliģentu aģentu īpatnībām, īstenot pakāpenisku un klasifikācijas pamatā balstītu pārvaldību augsta riska inteliģentajiem aģentiem, skaidri noteikt atbildības robežas pētniecības un attīstības, izvietošanas un ekspluatācijas jomās un nodrošināt, ka pastāv noteikumi un regulas, kurām jāsekos. Valsts standartu rāmja ietvaros veicināt rūpniecības, izglītības, zinātniskās pētniecības un lietojumprogrammu dziļu integrāciju un paātrināt aizsardzības standartu izveidošanu, kas aptver visu inteliģentu aģentu dzīves ciklu — no pētniecības un attīstības līdz ieviešanai, ekspluatācijai un tehniskajai apkopei.
Pāreja no preču pārdošanas uz spēju pārdošanu
Saskaņā ar Starptautiskās datu korporācijas (IDC) ziņojumu Ķīnas kibers drošības tirgus ir saglabājis stabili izaugsmi, jo nepārtraukti pastiprinās politika un regulējums, uzņēmumi vairāk vēlas investēt drošībā un jaunās tehnoloģijas tiek ātrāk ieviestas. Prognozēts, ka līdz 2026. gadam kopējais tirgus apjoms pārsniegs 80 miljardus jūanu, bet no 2024. līdz 2029. gadam vidējais gada izaugsmes temps būs 8,9%. Kibers drošība ir kļuvusi par būtisku pamatspēju digitālās ekonomikas attīstībā.
Pašlaik intelektuālie aģenti strauji iekļūst vertikālās nozares, piemēram, finanšu, ražošanas un veselības aprūpes jomās, kļūstot par reālo biznesa sistēmu galvenajām sastāvdaļām. Tomēr lielākā daļa nozares lietotāju vēl nav spējīgi izstrādāt savas intelektuālās aizsardzības sistēmas, un tradicionālie drošības piegādātāji joprojām pieraduši pārdot ugunssienas, detekcijas rīkus utt., kas rada acīmredzamu neatbilstību starp piedāvājumu un pieprasījumu.
Kurš vienreiz pirmo paveiks pāreju no produkta sniedzēja uz pakalpojumu sniedzēju, tas spēs ieņemt līderpozīciju jaunajā inteliģentu aģentu drošības jomā," teica Vu Hekvans. Ciparu drošības uzņēmumiem inteliģentu aģentu laikmetā ir jāpāriet no produktu pārdošanas uz spēju pārdošanu, kas nozīmē drošības hostinga pakalpojumu sniegšanu, kas aptver visu inteliģentu aģentu dzīves ciklu: drošības pārbaudes izstrādes posmā, reāllaika uzraudzību un neatbilstību reaģēšanu ekspluatācijas posmā, riska novērtējumus un pastiprināšanas ieteikumus iterācijas posmā. Tas ir paradigmas maiņas process un šķērslis, ko rūpniecībai ir jāpārvar.
Čao Ži-guo ierosināja izveidot sadarbības drošības platformu starp rūpniecību, akadēmisko un pētniecības sfēru, lai integrētu tīkla resursus un veicinātu dziļu sadarbību starp uzņēmumiem, universitātēm un pētniecības iestādēm intelektuālo aģentu drošības tehnoloģiju izpētē un izstrādē, ārkārtas situāciju reaģēšanas sadarbībā un labāko prakses veicināšanā. Jāizveido pārvaldības modelis ar valdības vadību, uzņēmumu atbildību un sabiedrības iesaisti, lai kopīgiem izaicinājumiem pievērstos atklātā un sadarbības orientētā veidā.
Pašlaik saistītās nozares uzņēmumi veic pasākumus, lai paātrinātu jaunu speciālistu sagatavošanu intelektuālo aģentu laikam. 14. interneta drošības konferencē vienlaikus tika uzsākts 360 Mākslīgā intelekta aģenta inženiera (ADE) akreditētā lektora un 360 Labdarības fonds Mākslīgā intelekta speciālistu stipendijas piešķiršanas process, nodrošinot praktisku platformu rūpniecības, augstskolu un pētniecības sadarbībai izglītības jomā gan speciālistu sagatavošanas, gan izglītības iekļaujošuma aspektos.
Čao Ži-guo norādīja, ka ir nepieciešams aktīvi veicināt valdības departamentus, vadošās uzņēmumu struktūras un pētniecības institūtus, lai paātrinātu nozares standartu un grupas standartu izstrādi inteliģentu aģentu drošības spēju novērtēšanas, riska klasifikācijas, datu drošības atbilstības utt. jomās, nodrošinot institucionālu pamatu nozares standartizētai attīstībai un risinot drošības risku nenoteiktību ar augstas kvalitātes attīstības noteiktību. Turklāt ir jāiekļaujas aktīvā darbībā globālo mākslīgā intelekta drošības pārvaldības noteikumu izstrādē un koordinācijā, jāizveido inteliģentu aģentu drošības dialoga platforma, kopīgi jāizpēta globālās tīkla drošības pārvaldības sadarbības ceļš inteliģences laikmetā, kopīgi jāveido cipertelpas kopīgas nākotnes sabiedrība un jāievnes Ķīnas gudrība un spēks globālās inteliģento aģentu nozares veselīgai attīstībai.