Cu iterația rapidă a tehnologiei inteligenței artificiale, agenții inteligenți, ca un purtător important al integrării profunde a inteligenței artificiale și a economiei reale, influențează în mod profund modul de producție și stilul de viață, reconfigurând în același timp limitele securității.
Cu iterația rapidă a tehnologiei inteligenței artificiale, agenții inteligenți, ca un purtător important al integrării profunde a inteligenței artificiale și a economiei reale, influențează în mod profund modul de producție și stilul de viață, reconfigurând în același timp limitele securității.
La cea de-a 14-a Conferință Internațională privind Securitatea Internetului, desfășurată recent, experții au declarat că trebuie să folosim tehnologia de vârf pentru a aborda problemele cheie și pentru a consolida competențele interne, să construim o barieră solidă prin elaborarea de sisteme și reguli, iar elaborarea unui sistem de standarde să conducă normele industriale, astfel încât să creăm o cale de dezvoltare coordonată și sigură în era agenților.
Agenții inteligenți aduc riscuri noi
În prezent, inteligența artificială traversează o tranziție crucială de la modele mari la agenți inteligenți. Când agenții inteligenți încep să ia decizii autonome, să apeleze instrumente și să execute sarcini, apar și riscuri de securitate.
«În comparație cu sistemele informaționale anterioare, agenții nu mai sunt doar un instrument pasiv de întrebări și răspunsuri, ci li se acordă capacitatea de percepție, luare de decizii și execuție independentă. Această evoluție tehnologică a modificat profund situația ofensivă și defensivă în domeniul securității cibernetice.» a declarat Zhao Zhiguo, vicepreședinte al Asociației Chineze de Internet și fost inginer-șef al Ministerului Industriei și Tehnologiei Informației.
Pe măsură ce agenții inteligenți pătrund din ce în ce mai rapid în domenii cheie precum industria manufacturieră, finanțele și energia, orice risc de securitate poate declanșa, într-un interval scurt de timp, o reacție în lanț la nivelul rețelelor și al industriei, datorită capacității acestora de planificare autonomă, ceea ce ridică cerințe mai mari privind prevenirea riscurilor și răspunsul de urgență.
Zhao Zhiguo a declarat că, odată ce agenții inteligenți dobândesc capacități de luare autonomă a deciziilor, riscurile de securitate se extind de la «defecțiuni tehnice» la «pierderea controlului asupra deciziilor». În cazul apariției unor abateri sau perturbări, agenții inteligenți pot întreprinde acțiuni care se îndepărtează de așteptările umane, iar consecințele sunt imprevizibile. Acest risc endogen pune o provocare fundamentală controlabilității în materie de siguranță. În plus, agenții inteligenți funcționează autonom în sistem într-un mod foarte antropomorfic, iar mecanismele tradiționale de încredere bazate pe identitate se confruntă cu riscul de eșec. Atunci când agenții inteligenți semnează autonom contracte, execută tranzacții și apelează resurse, definirea responsabilităților de securitate și caracterizarea comportamentului neautorizat au devenit probleme practice urgente care trebuie rezolvate.
Conformément lui Wu Hequan, academician al CAE și președinte onorific al Conferinței privind Securitatea Internetului, atacurile efectuate de agenți evidențiază caracteristicile tehnice ale luării autonome de decizii, colaborării în grup și evoluției continue. Atacurile cibernetice tradiționale se bazează în mare măsură pe operațiuni manuale, în timp ce atacurile conduse de agenți modifică fundamental acest model.
Mai exact, agenții inteligenți pot percepe autonom mediul, pot planifica trasee de atac și pot executa sarcini de penetrare, iar mai mulți astfel de agenți pot partaja informații și pot colabora. Acest tip de atac în grup poate fi lansat simultan din mai multe puncte de intrare într-un interval de timp foarte scurt, epuizând astfel sistemele de apărare prin efortul lor constant de răspuns. Mai trebuie să fim încă mai vigilenți față de faptul că agenții inteligenți au capacitatea de a învăța și de a se itera continuu, iar fiecare confruntare dintre atac și apărare devine material pentru optimizarea lor, metodele de atac schimbându-se în mod constant în timp.
Zhou Hongyi, fondatorul grupului 360 și președintele Conferinței de Securitate Internet, consideră că IA a provocat o scădere semnificativă în industria securității cibernetice. Luând ca exemplu modelul Mythos, capacitățile complet automate de detectare a vulnerabilităților și de construire a lanțurilor de atac au crescut viteza de descoperire a vulnerabilităților cu două ordine de mărime și au redus costurile la mai puțin de o miime.
Transformarea gândirii privind securitatea digitală
Falsificarea identității, eșecul modelului, vulnerabilitățile de gestionare a permisiunilor, extorsionarea malefică... Pe măsură ce agenții inteligenți intră în stadiul de aplicare comercială, diverse riscuri noi continuă să apară. În același timp, riscuri precum extragerea ascunsă de date condusă de inteligența artificială afectează, de asemenea, acuratețea modelului și fiabilitatea deciziilor.
Zhao Chunjiang, membru al Academiei Chineze de Inginerie și vicepreședinte al Asociației Chineze de Inteligență Artificială, a explicat că riscurile de securitate ale sistemelor de inteligență artificială acoperă patru dimensiuni: stratul de date, stratul de modele, stratul de aplicații și stratul de bază. Problemele de securitate cu care se confruntă fiecare dintre aceste dimensiuni sunt, de asemenea, diferite, iar măsurile aplicate trebuie să fie specifice.
În opinia lui Wu Hequan, timp de mulți ani, abordarea lucrărilor de securitate a fost aceea de a stinge incendiile oriunde izbucnesc. Această modalitate pasivă de răspuns poate face față atacurilor umane, dar nu reușește să răspundă în mod eficient atacurilor masive lansate de grupuri de agenți inteligenți, viteza de reacție rămânând întotdeauna cu jumătate de pas în urmă.
Cine a fost mai puternic în trecut și cine va fi mai rapid în viitor? China trebuie să-și dezvolte capacitatea proprie și controlabilă de identificare a vulnerabilităților din sistemele de inteligență artificială.”, a declarat Zhou Hongyi.
Paradigma securității trebuie să se schimbe de la apărarea pasivă la imunitatea activă, a spus Wu Hequan. Trebuie să construim un cadru sistematic de operațiuni de securitate care acoperă întreaga ciclu de viață: previziune, apărare, detectare, răspuns și recuperare. Trebuie să integrăm procesele, personalul și tehnologia într-o capacitate în buclă închisă, astfel încât sistemul de securitate să poată deține, de asemenea, percepție, previziune și capacități adaptive ale agenților inteligenți și să realizeze o tranziție de la remedierea post-factum la avertizarea preventivă și blocarea în timpul procesului.
Aceasta nu este doar o finisare suplimentară, ci o reconstrucție esențială a capacităților. Fără imunitate activă, nu poate exista securitate digitală în era agenților inteligenți, a spus Wu Hequan.
Zhao Zhiguo consideră că este necesar să se acorde o importanță deosebită cercetării și dezvoltării tehnologiilor cheie pentru securitatea agenților inteligenți, să se consolideze investițiile în cercetare și dezvoltare în domenii esențiale precum interpretabilitatea algoritmilor, protecția confidențialității datelor și robustețea sistemelor, să se consolideze capacitățile de apărare proactivă din sursă și să se asume inițiativa în dezvoltare. Trebuie accelerată stabilirea standardelor de securitate și a mecanismelor de evaluare și certificare care să se adapteze caracteristicilor agenților inteligenți, să se aplice o gestionare pe categorii și niveluri pentru agenții inteligenți cu risc ridicat, să se clarifice limitele de responsabilitate privind cercetarea și dezvoltarea, implementarea și exploatarea, iar astfel să se asigure existența unor reguli și reglementări clare. În cadrul cadrului standard național, trebuie promovată integrarea profundă între industrie, învățământ superior, cercetare și aplicare, precum și accelerarea formării unor standarde de protecție care să acopere întregul ciclu de viață al cercetării și dezvoltării, implementării, exploatării și întreținerii agenților inteligenți.
Trecerea de la vânzarea produselor la vânzarea competențelor
Conform unui raport al International Data Corporation (IDC), piața chineză de cibernetică a înregistrat o creștere stabilă datorită consolidării continue a politicilor și reglementărilor, creșterii dispoziției întreprinderilor de a investi în securitate și accelerării aplicării noilor tehnologii. Se preconizează ca, până în 2026, dimensiunea totală a pieței să depășească 80 de miliarde de yuani, cu o rată de creștere anuală compusă de 8,9 % în perioada 2024–2029. Cibernetică a devenit o capacitate fundamentală esențială în dezvoltarea economiei digitale.
În prezent, agenții inteligenți își accelerează penetrarea în industrii verticale, cum ar fi finanțele, producția și asistența medicală, devenind componente esențiale ale sistemelor reale de afaceri. Totuși, majoritatea utilizatorilor industriali nu dețin încă capacitatea de a-și dezvolta propriile sisteme inteligente de apărare, iar furnizorii tradiționali de soluții de securitate continuă să fie obișnuiți să vândă echipamente precum firewall-uri, unelte de detectare etc., ceea ce duce la o discrepanță evidentă între ofertă și cerere.
„Cineva care poate finaliza transformarea de la furnizor de produse la furnizor de servicii primul va putea lua avânt în noul domeniu al securității agenților inteligenți”, a declarat Wu Hequan. În era agenților inteligenți, întreprinderile de securitate digitală trebuie să treacă de la vânzarea de produse la vânzarea de capacități, ceea ce înseamnă oferirea de servicii de găzduire a securității care acoperă întreaga durată de viață a agenților inteligenți, evaluarea securității în faza de dezvoltare, efectuarea unui monitorizare în timp real și a unor răspunsuri la anomalii în faza de exploatare, precum și realizarea unor evaluări ale riscurilor și formularea unor recomandări de consolidare în faza de iterare. Aceasta reprezintă o schimbare de paradigmă și o piedică pe care industria trebuie să o depășească.
Zhao Zhiguo a sugerat crearea unei platforme colaborative de securitate între industrie, învățământ și cercetare, pentru integrarea resurselor de rețea și promovarea unei cooperări profunde între întreprinderi, universități și instituții de cercetare în domeniul cercetării și dezvoltării tehnologiilor de securitate pentru agenții inteligenți, al colaborării în răspunsul de urgență și al promovării celor mai bune practici. Ar trebui construit un model de guvernanță cu orientare guvernamentală, responsabilitate corporată și participare socială, pentru abordarea provocărilor comune cu o atitudine deschisă și colaborativă.
În prezent, întreprinderile relevante din domeniu iau măsuri pentru a accelera formarea de noi specialiști în era agenților inteligenți. În cadrul celei de-a 14-a Conferințe Internaționale de Securitate pe Internet, au fost lansate simultan procesul de acordare a titlului de instructor certificat 360 Artificial Intelligence Agent Engineer (ADE) și bursa specială pentru talentele AI oferită de Fundația de Caritate 360, oferind un cadru practic pentru o colaborare profundă între industrie, universități și cercetare în domeniul formării specialiștilor și al educației incluzive.
Zhao Zhiguo a declarat că este necesar să se promoveze activ departamentele guvernamentale, întreprinderile de top și institutele de cercetare pentru a accelera elaborarea standardelor industriale și a standardelor de grup în domeniile evaluării capacității de securitate a agenților inteligenți, clasificării riscurilor, conformității privind securitatea datelor etc., oferind o bază instituțională pentru dezvoltarea standardizată a industriei și abordând incertitudinea riscurilor de securitate prin certitudinea dezvoltării de înaltă calitate. În plus, trebuie să participăm activ la elaborarea și coordonarea regulilor globale de guvernanță a securității IA, să construim o platformă de dialog privind securitatea agenților inteligenți și să explorăm împreună calea colaborativă a guvernanței globale a securității cibernetice în era inteligenței, contribuind astfel la construirea unei comunități globale cu un viitor comun în spațiul cibernetic și aducând contribuția chineză, sub forma înțelepciunii și puterii chinezești, la dezvoltarea sănătoasă a industriei globale a agenților inteligenți.