Tutte le categorie

Costruire una linea di difesa sicura per lo sviluppo degli agenti intelligenti

2026-11-18
Con la rapida evoluzione della tecnologia dell’intelligenza artificiale, gli agenti intelligenti — come importante veicolo per l’integrazione profonda dell’intelligenza artificiale con l’economia reale — stanno influenzando in modo profondo produzione e stile di vita, e stanno ridefinendo i confini della sicurezza.
Con la rapida evoluzione della tecnologia dell’intelligenza artificiale, gli agenti intelligenti — come importante veicolo per l’integrazione profonda dell’intelligenza artificiale con l’economia reale — stanno influenzando in modo profondo produzione e stile di vita, e stanno ridefinendo i confini della sicurezza.
Durante la 14ª Conferenza sulla Sicurezza su Internet, tenutasi di recente, esperti hanno affermato che occorre impiegare tecnologie fondamentali per affrontare problemi chiave, rafforzare le competenze interne, costruire una barriera solida mediante lo sviluppo di sistemi e regole, e guidare le norme del settore attraverso la creazione di un sistema standardizzato, al fine di tracciare un percorso di sviluppo coordinato tra progresso e sicurezza nell’era degli agenti.
  Gli agenti intelligenti generano nuovi rischi
Attualmente, l’intelligenza artificiale sta attraversando una transizione cruciale dai grandi modelli agli agenti intelligenti. Quando questi ultimi iniziano a prendere decisioni autonome, ad attivare strumenti ed eseguire compiti, emergono anche rischi per la sicurezza.
«Rispetto ai precedenti sistemi informativi, gli agenti non sono più semplici strumenti di domanda e risposta per un’esecuzione passiva, bensì dispongono ora di capacità autonome di percezione, decisione ed esecuzione. Questo salto nelle caratteristiche tecnologiche ha profondamente modificato la situazione offensiva e difensiva della sicurezza informatica.» Ha affermato Zhao Zhiguo, vicepresidente dell’Internet Society of China e già ingegnere capo del Ministero dell’Industria e delle Tecnologie dell’Informazione.
Con la penetrazione accelerata degli agenti intelligenti in settori chiave come manifatturiero, finanziario ed energetico, qualsiasi rischio per la sicurezza potrebbe innescare, in breve tempo, una reazione a catena su reti e settori diversi grazie alla capacità di pianificazione autonoma degli agenti intelligenti, ponendo requisiti più elevati nella prevenzione dei rischi e nella risposta alle emergenze.
Zhao Zhiguo ha affermato che, una volta che gli agenti intelligenti acquisiscono capacità di decisione autonoma, i rischi per la sicurezza si espandono da "guasti tecnici" a "perdita di controllo sul processo decisionale". Qualora si verifichino deviazioni o perturbazioni, gli agenti intelligenti potrebbero compiere azioni non allineate alle aspettative umane, con conseguenze imprevedibili. Questo rischio endogeno pone una sfida fondamentale alla controllabilità della sicurezza. Inoltre, gli agenti intelligenti operano in modo autonomo all’interno del sistema con un alto grado di antropomorfismo, e i tradizionali meccanismi di fiducia basati sull’identità sono esposti al rischio di fallimento. Quando gli agenti intelligenti firmano autonomamente contratti, eseguono transazioni e richiamano risorse, definire le responsabilità in materia di sicurezza e caratterizzare i comportamenti non autorizzati sono diventati problemi pratici urgenti da risolvere.
Secondo Wu Hequan, accademico della CAE e presidente onorario della Conferenza sulla sicurezza informatica, gli attacchi condotti da agenti presentano le caratteristiche tecniche di decisione autonoma, collaborazione collettiva ed evoluzione continua. Gli attacchi informatici tradizionali dipendono fortemente da operazioni manuali, mentre quelli guidati da agenti modificano in modo fondamentale questo schema.
Nello specifico, gli agenti intelligenti possono percepire autonomamente l’ambiente, pianificare percorsi di attacco ed eseguire compiti di penetrazione; inoltre, più agenti possono condividere informazioni e collaborare. Questo tipo di attacco collettivo può essere lanciato simultaneamente da molteplici ingressi in un arco di tempo estremamente breve, lasciando i sistemi di difesa esausti nel tentativo di rispondere. Ciò che richiede maggiore vigilanza è la capacità degli agenti intelligenti di apprendere e iterare continuamente: ogni confronto tra attacco e difesa diventa materia per la loro ottimizzazione, e le modalità di attacco cambiano costantemente nel tempo.
Zhou Hongyi, fondatore del gruppo 360 e presidente della Conferenza sulla sicurezza informatica, ritiene che l’IA abbia rivoluzionato il settore della sicurezza informatica. Prendendo come esempio il modello Mythos, le capacità completamente automatizzate di individuazione delle vulnerabilità e di costruzione delle catene di attacco hanno accelerato la scoperta delle vulnerabilità di due ordini di grandezza e ridotto i costi a meno di un millesimo.
  La trasformazione del pensiero sulla sicurezza digitale
Falsificazione dell’identità, malfunzionamento del modello, vulnerabilità nella gestione dei permessi, estorsioni malevole… Mentre gli agenti intelligenti entrano nella fase di applicazione commerciale, continuano a emergere nuovi rischi. Allo stesso tempo, rischi quali il mining nascosto di dati guidato dall’intelligenza artificiale influenzano anche l’accuratezza del modello e l’affidabilità delle decisioni.
Zhao Chunjiang, accademico dell’Accademia cinese di ingegneria (CAE) e vicepresidente dell’Associazione cinese di intelligenza artificiale, ha spiegato che i rischi per la sicurezza dei sistemi di intelligenza artificiale riguardano quattro dimensioni: strato dati, strato modello, strato applicazione e strato fondamentale. I problemi di sicurezza cui ciascuna di queste dimensioni è esposta sono diversi e richiedono misure mirate.
Secondo Wu Hequan, per lungo tempo l’approccio al lavoro sulla sicurezza si è basato sul principio di spegnere gli incendi non appena scoppiano. Questo approccio reattivo passivo può resistere ad attacchi umani, ma di fronte ad attacchi saturi provenienti da cluster di agenti intelligenti, la velocità di risposta resta sempre un mezzo passo indietro.
Chi era più forte in passato e chi sarà più veloce in futuro? La Cina deve sviluppare autonomamente capacità nazionali di individuazione delle vulnerabilità nell’ambito dell’IA.» ha affermato Zhou Hongyi.
Il paradigma della sicurezza deve passare da una difesa passiva a un’immunità attiva", ha dichiarato Wu Hequan. "Dobbiamo costruire un quadro sistematico di operazioni di sicurezza che copra l’intero ciclo di vita: previsione, difesa, rilevamento, risposta e ripristino. Dobbiamo integrare processi, personale e tecnologia in una capacità a ciclo chiuso, affinché il sistema di sicurezza possa anch’esso disporre di percezione, previsione e adattamento intelligenti, realizzando così un passaggio dalla correzione post-evento all’allerta preventiva e al blocco in tempo reale.
Questo non è semplicemente un miglioramento marginale, ma una ricostruzione vitale delle capacità. Senza immunità attiva, non può esistere alcuna sicurezza digitale nell’era degli agenti intelligenti", ha dichiarato Wu Hequan.
Zhao Zhiguo ritiene necessario dare risalto alla ricerca e allo sviluppo di tecnologie fondamentali per la sicurezza degli agenti intelligenti, potenziare gli investimenti nella ricerca e nello sviluppo in ambiti chiave quali l’interpretabilità degli algoritmi, la protezione della privacy dei dati e la robustezza del sistema, migliorare le capacità di difesa proattiva fin dalle fasi iniziali e assumere un ruolo guida nello sviluppo. Occorre accelerare l’istituzione di standard di sicurezza e di meccanismi di valutazione e certificazione adeguati alle caratteristiche degli agenti intelligenti, applicare una gestione graduata e classificata agli agenti intelligenti ad alto rischio, chiarire i confini di responsabilità relativi a ricerca e sviluppo, distribuzione e operatività, e garantire che esistano regole e normative cui fare riferimento. Nel quadro delle norme nazionali, promuovere l’integrazione approfondita tra industria, accademia, ricerca e applicazione, accelerando così la definizione di standard di protezione che coprano l’intero ciclo di vita della ricerca e dello sviluppo, dell’implementazione, dell’operatività e della manutenzione degli agenti intelligenti.
 Passaggio dalla vendita di prodotti alla vendita di capacità
Secondo un rapporto dell'International Data Corporation (IDC), il mercato cinese della cybersecurity ha mantenuto una crescita costante grazie al continuo rafforzamento delle politiche e dei regolamenti, all'aumentata disponibilità delle imprese a investire in sicurezza e all'accelerazione dell'applicazione di nuove tecnologie. Si prevede che, entro il 2026, le dimensioni complessive del mercato supereranno i 80 miliardi di yuan, con un tasso di crescita annuo composto (CAGR) dell'8,9% dal 2024 al 2029. La cybersecurity è diventata una capacità fondamentale essenziale nello sviluppo dell'economia digitale.
Attualmente, gli agenti intelligenti stanno accelerando la loro penetrazione in settori verticali come finanza, manifatturiero e sanità, diventando componenti fondamentali di veri sistemi aziendali. Tuttavia, la maggior parte degli utenti industriali non possiede ancora la capacità di sviluppare autonomamente sistemi intelligenti di difesa, e i fornitori tradizionali di soluzioni di sicurezza continuano a essere abituati a vendere firewall, strumenti di rilevamento, ecc., generando un evidente squilibrio tra offerta e domanda.
«Chiunque riesca a completare per primo la trasformazione da fornitore di prodotti a fornitore di servizi potrà assumere un ruolo guida nel nuovo campo della sicurezza degli agenti intelligenti», ha dichiarato Wu Hequan. Le aziende specializzate nella sicurezza digitale nell’era degli agenti intelligenti devono passare dalla vendita di prodotti alla vendita di capacità, ovvero offrire servizi gestiti di sicurezza che coprano l’intero ciclo di vita degli agenti intelligenti: esaminare la sicurezza durante la fase di sviluppo, effettuare monitoraggio in tempo reale e risposta agli eventi anomali durante la fase operativa, condurre valutazioni dei rischi e formulare raccomandazioni di rafforzamento durante la fase di iterazione. Si tratta di una svolta paradigmatica e di un ostacolo che il settore deve necessariamente superare.
Zhao Zhiguo ha suggerito di istituire una piattaforma collaborativa per la sicurezza, coinvolgendo industria, accademia e ricerca, al fine di integrare le risorse di rete e promuovere una cooperazione approfondita tra imprese, università e istituti di ricerca nello sviluppo di tecnologie per la sicurezza degli agenti intelligenti, nella collaborazione per la risposta alle emergenze e nella diffusione delle migliori pratiche. Dovrebbe essere costruito un modello di governance caratterizzato da orientamento governativo, responsabilità aziendale e partecipazione sociale, per affrontare le sfide comuni con un atteggiamento aperto e collaborativo.
Al momento, le imprese del settore interessato stanno adottando misure per accelerare la formazione di nuove figure professionali adatte all’era degli agenti intelligenti. Durante la 14ª Conferenza sulla sicurezza informatica, sono stati lanciati contestualmente il processo di assegnazione del titolo di docente certificato 360 Artificial Intelligence Agent Engineer (ADE) e quello della borsa di studio speciale per i talenti AI della Fondazione 360 per il bene comune, offrendo uno strumento concreto per una collaborazione approfondita tra industria, università e ricerca, sia nella formazione delle competenze sia nell’inclusività educativa.
Zhao Zhiguo ha affermato che è necessario promuovere attivamente la collaborazione tra dipartimenti governativi, imprese leader e istituti di ricerca per accelerare lo sviluppo di standard industriali e standard di gruppo nei settori della valutazione delle capacità di sicurezza degli agenti intelligenti, della classificazione dei rischi e della conformità alla sicurezza dei dati, fornendo così una base istituzionale per lo sviluppo standardizzato del settore e affrontando l’incertezza dei rischi informatici con la certezza di uno sviluppo di alta qualità. Inoltre, occorre partecipare attivamente alla formulazione e al coordinamento delle regole globali per la governance della sicurezza dell’intelligenza artificiale, costruire una piattaforma di dialogo sulla sicurezza degli agenti intelligenti e esplorare congiuntamente un percorso collaborativo per la governance globale della sicurezza informatica nell’era dell’intelligenza, impegnandosi insieme nella costruzione di una comunità di futuro condiviso nello spazio cibernetico e contribuendo con saggezza e forza cinesi allo sviluppo sano dell’industria globale degli agenti intelligenti.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp