Kun kunstliku intelligentsuse tehnoloogia kiiresti areneb, mõjutavad intelligentsete agentidega seotud muutused sügavalt nii tootmist kui ka eluviisi ning ülesehitavad turvalisuse piire.
Kun kunstliku intelligentsuse tehnoloogia kiiresti areneb, mõjutavad intelligentsete agentidega seotud muutused sügavalt nii tootmist kui ka eluviisi ning ülesehitavad turvalisuse piire.
Viimati toimunud 14. internetiturvalisuse konverentsil rõhutasid eksperdid, et tuleb kasutada põhitehnoloogiaid oluliste probleemide lahendamiseks ja sisemiste oskuste tugevdamiseks, luua süsteemide ja reeglite loomisega kindel barjäär ning juhtida tööstusnorme standardisüsteemi loomisega, et luua koordineeritud arengu ja turvalisuse tee agentide ajastul.
Intelligentsete agentidega kaasnevad uued riskid
Praegu on kunstlik intelligentsus olulises üleminekus suurtest mudelitest intelligentsetele agentidele. Kui intelligentsete agentide otsustusprotsess muutub iseseisvaks, hakkavad nad ise tööriistu kasutama ja ülesandeid täitma – sellega kaasnevad ka turvalisusriskid.
"Võrreldes minevikus kasutatud teabesüsteemidega ei ole agendid enam passiivse täitmise jaoks mõeldud küsimuste ja vastuste tööriistad, vaid neile on antud võimalus ise tajuda, otsustada ja tegevust ellu viia. See tehnoloogiline hüpe on sügavalt muutnud võrguturvalisuse rünnaku- ja kaitseolukorda," ütles Zhao Zhiguo, Hiina Internetiühingu asepresident ja endine tööstus- ja infotehnoloogiaministeeriumi peakonstruktor.
Tarkade agentide kiiremat levikut tootmis-, finants- ja energiatektorites arvestades võib iga turvalisusrisk põhjustada lühikese aja jooksul tarkade agentide autonoomse planeerimisvõime tõttu ketireaktsiooni üle võrkude ja sektorite, mis seab kõrgemad nõuded riskide ennetamisele ja hädaolukordadele reageerimisele.
Zhao Zhiguo väitis, et kui nutikatel agentidel on iseseisev otsustusvõime, laienevad turvariskid „tehnilistest rikestest“ „otsustusvõime kaotuseks“. Kui esinevad kõrvalekalded või häired, võivad nutikad agendid teha inimeste ootustest erinevaid tegevusi ja tagajärjed on eelamatud. See endogeenne risk seab ohu alla turvalisuse kontrollitavuse põhimõtte. Lisaks toimivad nutikad agendid süsteemis iseseisvalt väga inimlikul viisil ning traditsioonilised identiteedipõhised usaldusmehhanismid võivad ebaõnnestuda. Kui nutikad agendid sõlmivad lepinguid, täidavad tehinguid ja kasutavad ressursse iseseisvalt, on kiiresti vaja lahendada praktilisi küsimusi, nagu turvarollide määramine ja volitamata käitumise iseloomustamine.
Wu Hequan, CAE liige ja Interneti turvalisuse konverentsi auhindlusega esimees, väitis, et agentide rünnakud ilmestavad tehnilisi omadusi, nagu iseseisev otsustusvõime, koguüleline koostöö ja pidev areng. Tavapärased küberturvalisusrünnakud toetuvad tugevalt inimtegevusele, samas muudavad agentide poolt juhitavad rünnakud selle mudeli põhimõtteliselt.
Täpsemalt võivad intelligentsete agentidega automaatselt tajuda keskkonda, planeerida rünnakute teid ja täita läbimisülesandeid ning mitu agenti saavad jagada teavet ja koostööd teha. Selline koguülene rünnak võib algata samaaegselt mitmest sisengust väga lühikese aja jooksul, mille tõttu kaitse süsteemid on vastamiseks ülekoormatud. Mida rohkem tuleb jälgida, on see, et intelligentsetel agentidel on võime pidevalt õppida ja iterreeruda ning iga rünnak ja kaitsekonfrontatsioon muutub nende optimeerimise materjaliks, nii et rünnakumeetodid muutuvad ajas pidevalt.
Zhou Hongyi, 360 Groupi asutaja ja Interneti turvalisuse konverentsi esimees, usub, et kunstlik intelligents on vähendanud hoolduskulusid võrguturvalisuse tööstuses. Näiteks Mythos mudeli puhul on täielikult automaatsed nõrgkohtade tuvastamise ja rünnkettade loomise võimalused suurendanud nõrgkohtade avastamise kiirust kahe korda ja vähendanud kulutusi alla ühe tuhandiku.
Digitaalse turvalisuse mõtlemise muutumine
Identiteedi võltsimine, mudeli ebaõnnestumine, õiguste haldamise nõrgkohtade olemasolu, kurjategijalik vägivaldne väljatõmbamine... Kuna nutikad agendid sisenevad kaubandusliku kasutuse etappi, tekivad pidevalt uued riskid. Samal ajal mõjutavad ka kunstliku intelligentsi poolt juhitavad peidetud andmete kaevandamise riskid mudeli täpsust ja otsuste usaldusväärsust.
Zhao Chunjiang, CAE liige ja Hiina kunstliku intelligentsi ühingu asepresident, tutvustas, et AI süsteemi turvariske hõlmavad nelja dimensiooni: andmete kiht, mudeli kiht, rakenduste kiht ja aluskiht. Erinevate dimensioonide turvaprobleemid on erinevad ning nende lahendamiseks tuleb võtta sihipäraseid meetmeid.
Wu Hequan’i arvates on turvatöö mõtteviis pikka aega olnud tulekustutus kõikjal, kus see tekkis. See passiivne reageerimisviis suudab vastu pidada inimeste rünnakutele, kuid täielikult intelligentsete agentide rühmade poolt tehtavate rünnakute ees on reageerimiskiirus alati pool sammu aeglasem.
Kes oli minevikus tugevam ja kes saab tulevikus kiirem? Hiinal peab olema oma iseseisev ja kontrollitav AI turvaaugute avastamise võimekus,” ütles Zhou Hongyi.
Turvalisuseparadigma peab nihkuma passiivsest kaitsest aktiivsesse immuunsusesse," ütles Wu Hequan. "Me peame ehitama süsteemse turvalisusoperatsioonide raamistiku, mis hõlmab täielikult ennustamise, kaitse, tuvastamise, reageerimise ja taastumise elutsükli. Me peame integreerima protsessid, personali ja tehnoloogia suletud tsüklina võimaluseks, et turvalisussüsteemil oleks ka intelligentsete agentide tajumis-, ennustus- ja kohanduvusvõimed ning saavutada nihke postremedieerimiselt ennehoiatusele ja protsessi käigus blokeerimisele.
See ei ole lihtsalt koore lisamine tortile, vaid elu ja surma küsimus võimekuste ülesehitamisel. Ilma aktiivse immuunsuseta ei saa intelligentsate agentide ajastul olla digitaalset turvalisust," ütles Wu Hequan.
Zhao Zhiguo usub näeb vajadust rõhutada täisautomaatsete agentide turvalisusega seotud tuumatehnoloogiate arendamist, tugevdada teadusuuringute ja arenduste investeeringuid aladel nagu algoritmide selgus, andmete privaatsuskaitse ja süsteemi stabiilsus, tugevdada algupäraseid ennetavaid kaitsevõimekusi ning võtta arengus ettepanekuid. Kiirendada turvalisusstandardite ja hindamis- ning sertifitseerimismehhanismide loomist, mis vastavad täisautomaatsete agentide omadustele, rakendada kõrgriski täisautomaatsete agentide puhul astmelist ja kategooriastatud juhtimist, selgitada välja teadusuuringute ja arenduste, paigaldamise ning kasutuselevõtu vastutuspiirid ja tagada, et on olemas reeglid ja määrused, millele järgida. Riiklike standardite raamistikus edendada tööstuse, akadeemia, teadusuuringute ja rakenduste sügavat integreerumist ning kiirendada kaitsestandardite loomist, mis hõlmavad täisautomaatsete agentide teadusuuringute ja arenduste, rakendamise, kasutuselevõtu ning hoolduse kogu elutsükli.
Liikumine toodete müügist võimekuse müügile
Rahvusvahelise andmetöötluskorporatsiooni (IDC) aruande kohaselt on Hiina küberturvalisuse turul pidevalt tugevnenud poliitika ja regulatsioonid, ettevõtete suurenev valmisolek investeerida turvalisusse ning uute tehnoloogiate kiirendatud rakendamine, mis on taganud stabiilse kasvu. Eeldatakse, et 2026. aastaks ületab turg kokku 80 miljardit juani, ning 2024–2029 aastatel on prognoositav keskmine aastaslik kasvumäär 8,9 protsenti. Küberturvalisus on muutunud digitaalse majanduse arengus oluliseks alusvõimeks.
Hetkel kiirendavad nutikad agendid oma tungimist vertikaalsetesse tööstusharudesse, näiteks finantssektorisse, tootmisse ja tervishoiusse, kujunedes tegelike ärisüsteemide tuumkomponentideks. Siiski ei ole enamikul tööstuskasutajatel veel võimalust arendada omaette nutikaid kaitse süsteeme ning traditsioonilised turvateenusepakkuja on endiselt harjunud müüma tuleseinu, tuvastusriistu jne, mille tulemusena tekib selge ebakõla pakkumise ja nõudluse vahel.
„Kes iganes suudab esimesena teha teisenduse toote pakkujast teenuse pakkujaks, saab juhtima intelligentsete agentide turvalisuse uut valdkonda," ütles Wu Hequan. Digitaalse turvalisuse ettevõtted intelligentsate agentide ajastul peavad liikuma toodete müügist võimekuste müügile, mis tähendab turvalisuse haldusteenuste pakkumist intelligentsate agentide kogu elutsükli jooksul: turvalisuse ülevaatamist arendusfaasis, reaalajas jälgimist ja ebatavaliste sündmuste reageerimist toimimisfaasis ning riskihindamist ja tugevdussoovitusi itereerimisfaasis. See on paradigmamuutus ja takistus, mida tööstus peab ületama.
Zhao Zhiguo soovis luua koostöö turvalisusplatvormi tööstuse, akadeemia ja teadusuuringute vahel, et integreerida võrguressursid ning edendada sügavat koostööd ettevõtete, ülikoolide ja teadusasutuste vahel täisautomaatsete agentide turvalisustehnoloogia arendamisel, hädaolukordadele reageerimise koostöös ja parimate tavade levitamisel. Tuleb luua valitsemismudel, kus riik annab juhiseid, ettevõtted kannavad vastutust ja ühiskond osaleb aktiivselt, et ühiselt lahendada tõrkeid avatud ja koostöölikul viisil.
Hetkel võtavad asjakohased tööstusettevõtted meetmeid, et kiirendada uute tänavuste tehisintellekti agentide aegade spetsialistide koolitust. 14. Internetikindlustuse konverentsil alustati samaaegselt 360 tehisintellekti agentide inseneri (ADE) sertifitseeritud loenguhoidja ja 360 Ühiskondliku Abifondi tehisintellekti spetsialistide eristipendiumi väljastamist, pakkudes praktilist platvormi sügavale koostööle tööstuse, ülikoolide ja teadusuuringutega nii spetsialistide koolituse kui ka hariduse kaasavuse vaatenurgast.
Zhao Zhiguo ütles, et tuleb aktiivselt edendada valitsusasutuste, juhtivate ettevõtete ja teadusuuringute instituutide koostööd, et kiirendada tööstusstandardite ja grupistandardite arengut intelligentsete agentide turvalisuse võime hindamise, riskiklassifikatsiooni, andmeturvalisuse vastavuse jne valdkondades, pakkudes seega institutsionaalset alust tööstuse standardiseeritud arenguks ning lahendades turvalisusriskide ebakindluse kvaliteetse arengu kindlusega. Lisaks tuleks aktiivselt osaleda globaalsete kunstliku intelligentsi turvalisuse valitsemisreeglite koostamises ja koordineerimises, luua intelligentsete agentide turvalisuse dialoogiplatvorm, uurida ühiselt kaasaegse intelligentsuse ajastu globaalset võrguturvalisuse valitsemise koostöötee, ühiselt ehitada ühiste tuleviku eest vastutava küberruumi ühendus ja anda oma panus globaalse intelligentsete agentide tööstuse tervisliku arengu toetamisele hiinlaste mõistuse ja jõuga.