Sve kategorije

Izgradnja sigurne obrambene linije za razvoj inteligentnih agenata

2026-11-18
U skladu s člankom 1. stavkom 2. stavkom 2. točkom (a) Uredbe (EU) br. 528/2012 Europskog parlamenta i Vijeća od 25. travnja 2012. o uspostavi sustava za upravljanje financijskim sustavima za Europsku uniju (SL L 347, 20.12.2013., str.
U skladu s člankom 1. stavkom 2. stavkom 2. točkom (a) Uredbe (EU) br. 528/2012 Europskog parlamenta i Vijeća od 25. travnja 2012. o uspostavi sustava za upravljanje financijskim sustavima za Europsku uniju (SL L 347, 20.12.2013., str.
Na 14. konferenciji o sigurnosti interneta održanoj nedavno, stručnjaci su rekli da bismo trebali koristiti ključnu tehnologiju za rješavanje ključnih problema i konsolidaciju unutarnjih vještina, izgraditi čvrstu barijeru s izgradnjom sustava i pravila i voditi industrijske norme standardnim izgradnjom sustava, kako bismo stvorili put koordiniranog
  Inteligentni agenti donose nove rizike.
Umjetna inteligencija trenutno prolazi kroz ključni prijelaz od velikih modela do inteligentnih agenata. Kada inteligentni agenti počnu donositi autonomne odluke, pozivati alate i obavljati zadatke, također nastaju sigurnosni rizici.
"U usporedbi s prethodnim informacijskim sustavima, agenti više nisu alat za pitanje i odgovor za pasivno izvršavanje, već su im dodjeljena sposobnost neovisne percepcije, donošenja odluka i izvršavanja. Ovaj skok u tehnološkim karakteristikama duboko je promijenio ofanzivnu i obrambenu situaciju sigurnosti mreže". rekao je Zhao Zhiguo, potpredsjednik Kineskog internetskog udruženja i bivši glavni inženjer Ministarstva industrije i informacijske tehnologije.
U skladu s člankom 21. stavkom 1. točkom (a) Uredbe (EU) br. 528/2012 Europska komisija trebala bi donijeti odluku o odbrojavanju i odbrojavanju za razdoblje od tri mjeseca od dana kada se odredi da se odredi da se odbrojavanje odbrojavanja odbrojavanja odbrojavanja odbro
Zhao Zhiguo je izjavio da kada inteligentni agenti imaju autonomne mogućnosti donošenja odluka, sigurnosni rizici se šire od "tehničkih neuspjeha" do "gubljenja kontrole pri donošenju odluka". Kad se dogode odstupanja ili poremećaji, inteligentni agenti mogu poduzeti akcije koje se razlikuju od ljudskih očekivanja, a posljedice su nepredvidljive. Ova endogena opasnost predstavlja temeljni izazov za kontrolirati sigurnost. Osim toga, inteligentni agenti autonomno djeluju u sustavu na vrlo antropomorfni način, a tradicionalni mehanizmi povjerenja zasnovani na identitetu suočavaju se s rizikom od neuspjeha. Kada inteligentni agenti autonomno potpisuju ugovore, izvršavaju transakcije i pozivaju resurse, kako definirati odgovornosti sigurnosti i karakterizirati neovlašteno ponašanje postali su hitni praktični problemi koji se moraju riješiti.
Prema Wu Hequanu, akademiku CAE člana i počasnom predsjedniku Internet Security konferencije, agenti napadi pokazuju tehničke karakteristike neovisnog donošenja odluka, cluster suradnje i kontinuirane evolucije. Tradicionalni cyber napadi u velikoj mjeri ovise o ručnim operacijama, dok napadi vođeni agentima temeljno mijenjaju ovaj obrazac.
Konkretno, inteligentni agenti mogu autonomno opažati okoliš, planirati puteve napada i obavljati zadatke penetracije, a više agenata može dijeliti informacije i surađivati. Ovaj napad može biti lansiran istovremeno iz više ulaza u vrlo kratkom vremenskom periodu, ostavljajući obrambene sustave iscrpljene od odgovora. Ono što treba biti više budno je da inteligentni agenti imaju sposobnost da se neprestano uče i ponavljaju, i svaki napad i obrambeni sukob će postati materijal za njihovu optimizaciju, s metodama napada koji se stalno mijenjaju tijekom vremena.
Zhou Hongyi, osnivač 360 Group i predsjednik Internet Security konferencije, vjeruje da je AI smanjio održavanje u industriji sigurnosnih mreža. Uzimajući kao primjer model Mythos, potpuno automatizirane mogućnosti rudarenja ranjivosti i izgradnje lanca napada povećale su brzinu otkrivanja ranjivosti za dva reda veličine i smanjile troškove na manje od jedne tisućine.
  Transformacija razmišljanja o digitalnoj sigurnosti
Laž identiteta, neuspjeh modela, ranjivosti upravljanja dozvolama, zlonamjerna ucjena... Kako inteligentni agenti ulaze u fazu komercijalne primjene, nastavljaju se pojavljivati različiti novi rizici. U isto vrijeme, rizici poput skrivenog rudarenja podataka koji se provodi umjetnom inteligencijom također utječu na točnost modela i pouzdanost odluka.
Zhao Chunjiang, akademik član CAE-a i potpredsjednik Kineskog udruženja za umjetnu inteligenciju, predstavio je da sigurnosni rizici sustava AI-a pokrivaju četiri dimenzije: sloj podataka, sloj modela, sloj aplikacije i sloj temelja. Problem sigurnosti s kojim se suočavaju različite dimenzije također su različite, te je potrebno poduzeti ciljane mjere.
Po Wu Hequanovom mišljenju, već dugo vremena, ideja o sigurnosti je bila gasivanje požara gdje god se pojavio. Ovaj pasivni način odgovora može izdržati ljudske napade, ali u lice zasićenih napada inteligentnih agenta, brzina odgovora je uvijek pola otkucaja.
Tko je bio jači u prošlosti, a tko će biti brži u budućnosti? Kina mora uspostaviti nezavisne i kontrolirane sposobnosti za rudarenje ranjivosti AI-a. Zhou Hongyi rekao.
Sigurnosna paradigma mora se promijeniti od pasivne obrane na aktivni imunitet, rekao je Wu Hequan. Moramo izgraditi sustavni sigurnosni operativni okvir koji pokriva cijeli životni ciklus predviđanja, obrane, otkrivanja, odgovora i oporavka. Moramo integrirati procese, osoblje i tehnologiju u zatvorenu mogućnost, tako da sigurnosni sustav može imati i inteligentnu percepciju, predviđanje i prilagodljive mogućnosti, i postići prelazak od nakon popravka na upozorenje i blokadu u procesu.
Ovo nije samo sladoled na torti, nego rekonstrukcija sposobnosti života i smrti. Bez aktivnog imuniteta, ne može postojati digitalna sigurnost u eri inteligentnih agenata", rekao je Wu Hequan.
Zhao Zhiguo smatra da je potrebno dati važnost istraživanju i razvoju osnovnih tehnologija za sigurnost inteligentnih agenata, ojačati ulaganja u istraživanje i razvoj u ključnim područjima kao što su interpretabilnost algoritama, zaštita privatnosti podataka i robusnost sustava, poboljšati proaktivne obrambene sposobnosti od izvora i poduzeti inicij U skladu s člankom 21. stavkom 1. stavkom 2. stavkom 2. U okviru nacionalnog okvira za standardizaciju potaknuti duboku integraciju industrije, akademske zajednice, istraživanja i primjene te ubrzati oblikovanje zaštitnih standarda koji obuhvaćaju cijeli životni ciklus istraživanja i razvoja, provedbe, rada i održavanja inteligentnih agenata.
 Prelazak s prodaje proizvoda na prodaju
Prema izvješću Međunarodne korporacije za podatke (IDC), kinesko tržište kibernetičke sigurnosti održalo je stabilan rast zbog stalnog jačanja politika i propisa, povećane volje poduzeća za ulaganje u sigurnost i ubrzane primjene novih tehnologija. U skladu s člankom 3. stavkom 1. stavkom 2. točkom (a) Uredbe (EU) br. 600/2014 Komisija je odlučila o uvođenju mjera za smanjenje troškova u skladu s člankom 3. stavkom 2. točkom (a) Uredbe (EU) br. 1303/2013. U skladu s člankom 21. stavkom 1.
Trenutno, inteligentni agenti ubrzavaju prodor u vertikalne industrije kao što su financije, proizvodnja i zdravstvena zaštita, postajući ključne komponente stvarnih poslovnih sustava. Međutim, većina korisnika u industriji još uvijek nema mogućnost razvijanja vlastitih inteligentnih obrambenih sustava, a tradicionalni sigurnosni proizvođači još uvijek su navikli na prodaju vatrenih zidova, alata za otkrivanje itd., što rezultira jasnom nesuglašenosti između ponude i potražnje.
Tko god prvi završi transformaciju od dobavljača proizvoda do dobavljača usluga moći će preuzeti vodstvo u novom području sigurnosti inteligentnih agenata", rekao je Wu Hequan. U razdoblju od 1. siječnja 2016. do 31. prosinca 2017. u skladu s člankom 21. stavkom 2. točkom (a) Uredbe (EU) br. 528/2012 Komisija je odredila da se za sve informacije koje se odnose na sigurnosne usluge za sigurnosne usluge za sigurnosne usluge za sigurnosne usluge za sigurnosne To je promjena paradigme i prepreka koju industrija mora prevazići.
Zhao Zhiguo je predložio da se uspostavi suradnička sigurnosna platforma između industrije, akademske zajednice i istraživanja kako bi se integrirali mrežni resursi i promovisalo duboko suradnje među poduzećima, sveučilištima i istraživačkim institucijama u istraživanju i razvoju tehnologije inteligentne sigurnosti, suradnje u hit U skladu s člankom 3. stavkom 1. stavkom 2.
Trenutno relevantna poduzeća u industriji poduzimaju mjere kako bi ubrzali kultivaciju novih talenata za doba inteligentnih agenata. Tijekom 14. konferencije o sigurnosti interneta istovremeno su pokrenuti proces dodjele 360 sertifikiranih predavača inženjera umjetne inteligencije (ADE) i 360 stipendije za talente umjetne inteligencije iz Fondacije za javnu dobrobit.
Zhao Zhiguo je izjavio da je potrebno aktivno promicati vladine odjeljenja, vodeća poduzeća i istraživačke ustanove kako bi se ubrzao razvoj industrijskih standarda i standardnih skupina u područjima ocjenjivanja sigurnosnih sposobnosti inteligentnih agenata, klasifikacije rizika, usklađenosti s sigurnosnim podacima itd., Osim toga, trebali bismo aktivno sudjelovati u formuliranju i koordinaciji globalnih pravila upravljanja sigurnosti umjetne inteligencije, izgraditi dijalognu platformu za sigurnost inteligentnih agenata, zajednički istražiti suradnički put upravljanja globalnom sigurnosnom mrežom u doba inteligencije, zajedno raditi na izgradnji zajednice zajedničke budućnosti u kiber

Facebook Facebook
Facebook
Whatsapp Whatsapp
Whatsapp