Alle kategorier

Opbygning af en sikker forsvarslinje for udviklingen af intelligente agenter

2026-11-18
Med den hurtige udvikling af kunstig intelligens-teknologi påvirker intelligente agenter – som en vigtig bærer af den dybe integration mellem kunstig intelligens og den reelle økonomi – produktion og livsstil på en dybdegående måde og genopbygger sikkerhedsmæssige grænser.
Med den hurtige udvikling af kunstig intelligens-teknologi påvirker intelligente agenter – som en vigtig bærer af den dybe integration mellem kunstig intelligens og den reelle økonomi – produktion og livsstil på en dybdegående måde og genopbygger sikkerhedsmæssige grænser.
På den nyligt afholdte 14. internet-sikkerhedskonference udtalte eksperter, at vi skal anvende kerne-teknologier til at løse centrale problemer, styrke interne kompetencer, opbygge en solid barriere gennem system- og regeludvikling samt lede branchenormer via standardiseret systemudvikling, så vi kan skabe en vej mod samordnet udvikling og sikkerhed i agent-tiden.
  Intelligente agenter medfører nye risici
I dag gennemgår kunstig intelligens en afgørende overgang fra store modeller til intelligente agenter. Når intelligente agenter begynder at træffe autonome beslutninger, kalde værktøjer op og udføre opgaver, opstår der også sikkerhedsrisici.
"I forhold til tidligere informationssystemer er agenter ikke længere et passivt udførelsesværktøj til stille og besvare spørgsmål, men har nu evnen til selvstændig opfattelse, beslutningstagning og udførelse. Denne teknologiske fremskridt har dybt ændret angrebs- og forsvarsforholdene inden for netværkssikkerhed," sagde Zhao Zhiguo, næstformand i China Internet Association og tidligere chefingeniør i Ministeriet for Industri og Informationsteknologi.
Med den accelererede gennemtrængning af intelligente agenter i centrale områder såsom fremstilling, finans og energi kan enhver sikkerhedsrisiko på kort tid udløse en kædereaktion på tværs af netværk og brancher via de intelligente agenters evne til autonom planlægning, hvilket stiller øgede krav til risikoprævention og nødreaktion.
Zhao Zhiguo udtalte, at så snart intelligente agenter har evnen til selvstændig beslutningstagning, udvides sikkerhedsrisiciene fra »tekniske fejl« til »tab af kontrol over beslutningstagning«. Når afvigelser eller forstyrrelser opstår, kan intelligente agenter træffe foranstaltninger, der afviger fra menneskets forventninger, og konsekvenserne er uforudsigelige. Denne indre risiko stiller en grundlæggende udfordring til sikkerhedens kontrollerbarhed. Desuden opererer intelligente agenter autonomt i systemet på en meget antropomorf måde, hvilket betyder, at traditionelle tillidsmekanismer baseret på identitet står over for risikoen for at mislykkes. Når intelligente agenter autonomt indgår kontrakter, udfører transaktioner og aktiverer ressourcer, er det blevet akutte praktiske problemer, som skal løses, hvordan sikkerhedsansvaret defineres og hvordan uautoriseret adfærd karakteriseres.
Ifølge Wu Hequan, medlem af det kinesiske akademi for teknik (CAE) og æresformand for Internet Security Conference, viser agentangreb de tekniske karakteristika ved selvstændig beslutningstagning, gruppesamarbejde og kontinuerlig udvikling. Traditionelle cyberangreb er stærkt afhængige af manuelle handlinger, mens agentdrevne angreb grundlæggende ændrer dette mønster.
Konkret kan intelligente agenter selvstændigt opfatte omgivelserne, planlægge angrebsveje og udføre gennemtrængningsopgaver, og flere agenter kan dele information og samarbejde. Dette grupperede angreb kan lanceres samtidigt fra flere indgangspunkter på meget kort tid, hvilket efterlader forsvarssystemer udmattede af at reagere. Det, der kræver endnu større opmærksomhed, er, at intelligente agenter har evnen til kontinuerligt at lære og iterere, og hver enkelt konfrontation mellem angreb og forsvar bliver materiale til deres optimering, så angrebsmetoderne konstant ændrer sig over tid.
Zhou Hongyi, grundlægger af 360 Group og formand for Internet Security Conference, mener, at AI har revolutioneret netværkssikkerhedsbranchen. Som eksempel på dette kan nævnes Mythos-modellen, hvis fuldt automatiserede evner til at opdage sårbarheder og konstruere angrebskæder har øget farten for sårbarhedsopdagelse med to størrelsesordener og reduceret omkostningerne til under én tusindedel.
  Den digitale sikkerhedstænkning omdannes
Identitetsfalskning, modelfejl, sårbarheder i adgangsstyring, ondsindet udpressning... Når intelligente agenter træder ind i den kommercielle anvendelsesfase, dukker der løbende nye risici op. Samtidig påvirker risici som skjult dataudvinding drevet af kunstig intelligens også modellens nøjagtighed og pålideligheden af beslutninger.
Zhao Chunjiang, akademisk medlem af CAE og næstformand for Den Kinesiske Forening for Kunstig Intelligens, introducerede, at sikkerhedsrisici forbundet med AI-systemer dækker fire dimensioner: datalaget, modellaget, anvendelseslaget og grundlagslaget. Sikkerhedsproblemerne i de forskellige dimensioner er også forskellige, og der kræves målrettede foranstaltninger.
Ifølge Wu Hequan har sikkerhedsarbejdets tankegang i lang tid været at slukke brande, hvor de opstår. Denne passive responsmodel kan klare menneskelige angreb, men over for overvældende angreb fra intelligente agentklynger er responshastigheden altid halvt et slag forsinket.
Hvem var stærkest i fortiden, og hvem vil være hurtigst i fremtiden? Kina skal udvikle uafhængige og kontrollerbare evner til at opdage sårbarheder i AI-systemer.” sagde Zhou Hongyi.
Sikkerhedsparadigmet skal skifte fra passiv forsvar til aktiv immunitet," sagde Wu Hequan. "Vi skal opbygge en systematisk sikkerhedsdriftsramme, der dækker hele livscyklussen af forudsigelse, forsvar, detektering, respons og genopretning. Vi skal integrere processer, personale og teknologi i en lukket sløjfe-kapacitet, så sikkerhedssystemet også kan have intelligente agenters opfattelse, forudsigelse og adaptive evner samt opnå en overgang fra efterfølgende reparation til forudgående advarsler og blokering undervejs.
Dette er ikke blot et smykke, men en livs- og døds-genopbygning af kapaciteter. Uden aktiv immunitet kan der ikke være nogen digital sikkerhed i tiden for intelligente agenter," sagde Wu Hequan.
Zhao Zhiguo mener, at det er nødvendigt at fremhæve forskningen og udviklingen af kerne-teknologier til sikkerhed for intelligente agenter, styrke investeringerne i forskning og udvikling inden for centrale områder såsom algoritme-tilgængelighed, beskyttelse af dataprivatliv og systemrobusthed, forbedre proaktive forsvarsevner fra kilden og tage initiativet til udvikling. Forøg hastigheden i oprettelsen af sikkerhedsstandarder og vurderingscertificeringsmekanismer, der tilpasser sig intelligente agents karakteristika, gennemfør gradueret og klassificeret styring af højrisiko-intelligente agenter, præcisér ansvarsgrænserne for forskning og udvikling, implementering samt drift og sikr, at der findes regler og bestemmelser, der kan følges. I rammen af de nationale standarder skal branchen, akademiet, forskningen og anvendelsen integreres dybt, og dannelsen af beskyttelsesstandarder, der dækker hele livscyclen for forskning og udvikling, implementering, drift og vedligeholdelse af intelligente agenter, skal accelereres.
 Skift fra salg af produkter til salg af evner
Ifølge en rapport fra International Data Corporation (IDC) har den kinesiske cybersikkerhedsmarkedet opretholdt stabil vækst som følge af vedvarende forstærkning af politikker og reguleringer, øget villighed hos virksomheder til at investere i sikkerhed samt accelereret anvendelse af nye teknologier. Det forventes, at det samlede markedstørrelse vil overstige 80 milliarder yuan i 2026, med en gennemsnitlig årlig vækstrate på 8,9 % fra 2024 til 2029. Cybersikkerhed er blevet en afgørende grundlæggende evne i udviklingen af den digitale økonomi.
I øjeblikket accelererer intelligente agenter deres trængning ind i vertikale industrier såsom finans, fremstilling og sundhedsvæsen og bliver til kernen i reelle forretningsystemer. De fleste brugere inden for branchen har dog endnu ikke evnen til at udvikle deres egne intelligente sikkerhedssystemer, og traditionelle sikkerhedsudbydere er stadig vant til at sælge brandmure, opdagelsesværktøjer osv., hvilket resulterer i en tydelig misbalance mellem udbud og efterspørgsel.
Den, der først kan gennemføre transformationen fra produktleverandør til serviceleverandør, vil kunne tage initiativet inden for det nye område intelligente agenters sikkerhed," sagde Wu Hequan. Virksomheder inden for digital sikkerhed i tiden for intelligente agenter skal skifte fra at sælge produkter til at sælge kompetencer – det vil sige levere sikkerhedshostingtjenester, der dækker hele livscyclen for intelligente agenter: sikkerhedsgennemgang i udviklingsfasen, realtidsovervågning og reaktion på unormale hændelser i driftsfasen samt risikovurderinger og forslag til forstærkning i iterationsfasen. Dette er en paradigmeskift og en udfordring, som branchen skal overvinde.
Zhao Zhiguo foreslog, at der skulle oprettes en samarbejdssikkerhedsplatform mellem erhvervslivet, akademiet og forskningen for at integrere netværksressourcer og fremme dyb samarbejdskooperation mellem virksomheder, universiteter og forskningsinstitutioner inden for udvikling af sikkerhedsteknologi for intelligente agenter, fælles beredskabsreaktion samt fremme af bedste praksis. Der bør etableres et styrestruktur med statslig vejledning, virksomheders ansvar og samfundets deltagelse for at tackle fælles udfordringer med en åben og samarbejdsmæssig tilgang.
I øjeblikket handler relevante branchevirksomheder for at fremskynde uddannelsen af nye fagfolk til tiden for intelligente agenter. Under den 14. Internetsikkerhedskonference blev udpegelsen af 360-certificerede forelæsere i Kunstig Intelligens-agentteknik (ADE) samt tildelingen af 360 Foundation’s stipendium til AI-fagfolk lanceret samtidigt, hvilket giver et praktisk redskab til dybdegående samarbejdende uddannelse mellem industri, universitet og forskning fra perspektiverne talentudvikling og inklusiv uddannelse.
Zhao Zhiguo udtalte, at det er nødvendigt at aktivt fremme, at regeringsmyndigheder, ledende virksomheder og forskningsinstitutter fremskynder udviklingen af branchestandarder og gruppestandarder inden for områder som sikkerhedsevurdering af intelligente agenter, risikoklassificering, overholdelse af databeskyttelseskrav osv., så der skabes et institutionsmæssigt grundlag for den standardiserede udvikling af branchen og usikkerheden ved sikkerhedsrisici håndteres med sikkerheden i en højkvalitetlig udvikling. Desuden bør vi aktivt deltage i udarbejdelsen og koordineringen af globale regler for sikkerhedsstyring af kunstig intelligens, opbygge en platform for sikkerhedsdialog om intelligente agenter og fælles undersøge samarbejdspartnerskabet inden for global cybersikkerhedsstyring i tiden for intelligens, arbejde sammen for at bygge et fælles fremtidssamfund i cyberrummet og bidrage med kinesisk viden og styrke til den sunde udvikling af den globale industri for intelligente agenter.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp