Alla kategorier

Att bygga en säker försvarslinje för utvecklingen av intelligenta agenter

2026-11-18
Med den snabba utvecklingen av artificiell intelligens-teknik påverkar intelligenta agenter, som en viktig bärare för den djupa integrationen av artificiell intelligens och den verkliga ekonomin, produktionen och livsstilen på ett omfattande sätt samt omformar säkerhetsgränserna.
Med den snabba utvecklingen av artificiell intelligens-teknik påverkar intelligenta agenter, som en viktig bärare för den djupa integrationen av artificiell intelligens och den verkliga ekonomin, produktionen och livsstilen på ett omfattande sätt samt omformar säkerhetsgränserna.
Vid den nyligen hållna 14:e Internet Security Conference (ISC) framhöll experter att vi bör använda kärnteknik för att lösa centrala problem, stärka interna kompetenser, bygga upp ett solitt skydd genom system- och regelutveckling samt leda branschstandarder genom standardiseringssystem, för att skapa en väg mot samordnad utveckling och säkerhet i agenternas tidsålder.
  Intelligenta agenter medför nya risker
För närvarande genomgår artificiell intelligens en avgörande övergång från stora modeller till intelligenta agenter. När intelligenta agenter börjar fatta autonoma beslut, anropa verktyg och utföra uppgifter uppstår även säkerhetsrisker.
"Jämfört med tidigare informationssystem är agenter inte längre ett frågor-och-svar-verktyg för passiv utförande, utan har fått förmågan att självständigt uppfatta, fatta beslut och utföra åtgärder. Denna teknologiska framsteg har djupt förändrat angrepps- och försvarsförhållandena inom nätverkssäkerheten." sa Zhao Zhiguo, vice ordförande i China Internet Association och tidigare chefsingenjör vid Ministeriet för industri och informationsteknologi.
Med den accelererade genombrottet av intelligenta agenter inom nyckelområden som tillverkning, finans och energi kan varje säkerhetsrisk inom kort tid utlösa en kedjereaktion över nätverk och branscher genom de intelligenta agenternas autonomi i schemaläggning, vilket ställer högre krav på riskförebyggande och beredskapsåtgärder.
Zhao Zhiguo påstod att när intelligenta agenter får autonom beslutsförmåga utvidgas säkerhetsriskerna från "tekniska fel" till "förlust av kontroll över beslutandet". När avvikelser eller störningar uppstår kan intelligenta agenter vidta åtgärder som avviker från människors förväntningar, och konsekvenserna är oförutsägbara. Denna inre risk utgör en grundläggande utmaning för säkerhetens kontrollerbarhet. Dessutom opererar intelligenta agenter autonomt i systemet på ett starkt antropomorfiskt sätt, vilket innebär att traditionella, identitetsbaserade förtroendemekanismer riskerar att misslyckas. När intelligenta agenter autonomt undertecknar avtal, utför transaktioner och anropar resurser har frågorna om hur säkerhetsansvar ska definieras och hur obehörigt beteende ska karaktäriseras blivit brådskande praktiska problem som måste lösas.
Enligt Wu Hequan, ledamot av Kinesiska akademien för teknik (CAE) och hedersordförande för Internet Security Conference, visar agentattacker de tekniska egenskaperna oberoende beslutsfattning, gruppkooperation och kontinuerlig utveckling. Traditionella cyberrånförsök är starkt beroende av manuella åtgärder, medan agentdrivna attacker grundläggande förändrar detta mönster.
Mer specifikt kan intelligenta agenter självständigt uppfatta sin omgivning, planera attackvägar och utföra inträngningsuppgifter, och flera agenter kan dela information och samarbeta. Denna gruppattack kan startas samtidigt från flera ingångar inom en mycket kort tidsram, vilket lämnar försvarssystemen utmattade av att svara. Vad som kräver ännu större uppmärksamhet är att intelligenta agenter har förmågan att kontinuerligt lära sig och iterera, och varje attack- och försvarskonfrontation blir material för deras optimering, med attackmetoder som ständigt förändras över tid.
Zhou Hongyi, grundare av 360 Group och ordförande för Internet Security Conference, anser att AI har förändrat underhållet inom nätverkssäkerhetsbranschen. Som exempel på detta kan nämnas Mythos-modellen, vars fullt automatiserade funktioner för sårbarhetsidentifiering och attackkedjekonstruktion har ökat upptäckthastigheten för sårbarheter med två storleksordningar och minskat kostnaderna till mindre än en tusendel.
  Den digitala säkerhetens tänkandes omvandling
Identitetsförfalskning, modellfel, behörighetsstyrningsproblem, skadlig utpressning … När intelligenta agenter går in i den kommersiella användningsfasen uppstår olika nya risker kontinuerligt. Samtidigt påverkar risker såsom dold datautvinning som drivs av artificiell intelligens även modellernas noggrannhet och beslutsrelaterade tillförlitlighet.
Zhao Chunjiang, ledamot av CAE och vice ordförande för Kinesiska föreningen för artificiell intelligens, introducerade att säkerhetsrisker för AI-system omfattar fyra dimensioner: datalagret, modelllagret, applikationslagret och grundlagslagret. Säkerhetsproblemen i olika dimensioner skiljer sig åt, och målriktade åtgärder krävs.
Enligt Wu Hequan har säkerhetsarbetets tanke hittills varit att släcka eld där den bryter ut. Denna passiva svarsmodell kan motstå mänskliga attacker, men inför överbelastande attacker från kluster av intelligenta agenter är svarshastigheten alltid en halv taktslag för långsam.
Vem var starkare tidigare och vem kommer att vara snabbare i framtiden? Kina måste utveckla självständiga och kontrollerbara förmågor för att identifiera sårbarheter i AI. ”sade Zhou Hongyi.
Säkerhetsparadigmet måste skifta från passiv försvar till aktiv immunitet, sa Wu Hequan. Vi måste bygga ett systematiskt säkerhetsdriftsramverk som täcker hela livscykeln för förutsägelse, försvar, upptäckt, åtgärd och återhämtning. Vi måste integrera processer, personal och teknik i en sluten-loop-förmåga, så att säkerhetssystemet också får intelligent agentuppfattning, förutsägelse- och anpassningsförmåga, och uppnå en förskjutning från efteråtgärd till förvarning innan inträffar och blockering under pågående process.
Detta är inte bara en extra förbättring, utan en ombyggnad av förmågor som är en fråga om liv eller död. Utan aktiv immunitet kan det inte finnas någon digital säkerhet i tiden för intelligenta agenter, sa Wu Hequan.
Zhao Zhiguo anser att det är nödvändigt att prioritera forskning och utveckling av kärnteknologier för säkerheten hos intelligenta agenter, stärka investeringarna i forskning och utveckling inom nyckelområden såsom algoritmisk tolkningsbarhet, dataskydd och systemrobusthet, förbättra förmågan till proaktiv försvar från källan och ta initiativet i utvecklingen. Snabba upp etableringen av säkerhetsstandarder och bedömnings- samt certifieringsmekanismer som anpassas till intelligenta agents egenskaper, inför gradvis och klassificerad hantering av intelligenta agenter med hög risk, tydliggör ansvarsgränserna för forskning och utveckling, distribution och drift samt säkerställer att det finns regler och föreskrifter att följa. Inom ramen för nationella standarder ska samintegrationen av industri, akademi, forskning och tillämpning främjas, och bildandet av skyddsstandarder som täcker hela livscykeln för forskning och utveckling, implementering, drift och underhåll av intelligenta agenter ska snabbas upp.
 Byta från att sälja produkter till att sälja förmåga
Enligt en rapport från International Data Corporation (IDC) har den kinesiska cybersäkerhetsmarknaden bibehållit en stadig tillväxt tack vare den fortsatta förstärkningen av policyer och regler, ökad villighet hos företag att investera i säkerhet samt snabbare tillämpning av nya teknologier. Det förväntas att marknadens totala storlek kommer att överstiga 80 miljarder yuan år 2026, med en genomsnittlig årlig tillväxttakt på 8,9 % mellan 2024 och 2029. Cybersäkerhet har blivit en avgörande grundläggande förmåga för utvecklingen av den digitala ekonomin.
För närvarande ökar intelligenta agenter snabbt sin genomträngning av vertikala branscher såsom finans, tillverkning och vård och blir kärnkomponenter i verkliga affärssystem. De flesta branschanvändare har dock ännu inte förmågan att utveckla egna intelligenta försvarssystem, och traditionella säkerhetsleverantörer är fortfarande vana vid att sälja brandväggar, identifieringsverktyg osv., vilket leder till en tydlig missmatch mellan utbud och efterfrågan.
Den som först kan genomföra omvandlingen från produktleverantör till tjänsteleverantör kommer att kunna ta ledningen på det nya området intelligent agent-säkerhet", sa Wu Hequan. Digitala säkerhetsföretag i intelligent agent-eran måste skifta från att sälja produkter till att sälja förmågor, vilket innebär att erbjuda säkerhetshostingtjänster som täcker hela livscykeln för intelligenta agenter – granska säkerheten under utvecklingsfasen, utföra realtidsövervakning och hantera avvikelser under driftfasen samt genomföra riskbedömningar och ge förstärkningsförslag under iterationsfasen. Detta är en paradigmförskjutning och en utmaning som branschen måste övervinna.
Zhao Zhiguo föreslog att en samarbetsplattform för säkerhet mellan industrin, akademin och forskningen bör etableras för att integrera nätverksresurser och främja djup samverkan mellan företag, universitet och forskningsinstitutioner när det gäller utveckling av säkerhetsteknik för intelligenta agenter, samordnad hantering av nödsituationer samt spridning av bästa praxis. Ett styrningsmönster bör skapas med statlig vägledning, företagsansvar och samhällsparticipering för att möta gemensamma utmaningar med en öppen och samarbetsinriktad attityd.
För närvarande vidtar relevanta branschföretag åtgärder för att snabba upp utbildningen av nya talanger för tiden för intelligenta agenter. Under den fjortonde internetsäkerhetskonferensen lanserades samtidigt utdelningen av certifiering som 360 Artificial Intelligence Agent Engineer (ADE)-lärare samt 360 Public Welfare Foundation AI Talent Special Scholarship, vilket ger ett praktiskt stöd för djupgående samarbetsutbildning mellan bransch, universitet och forskning ur perspektiven talangutveckling och inkluderande utbildning.
Zhao Zhiguo uttalade att det är nödvändigt att aktivt främja att myndigheter, ledande företag och forskningsinstitut snabbar upp utvecklingen av branschstandarder och gruppstandarder inom områden som säkerhetskapacitetsbedömning för intelligenta agenter, riskklassificering, datasekretesskonformitet osv., för att tillhandahålla en institutell grund för branschens standardiserade utveckling och hantera osäkerheten kring säkerhetsrisker med hjälp av säkerheten i högkvalitativ utveckling. Dessutom bör vi aktivt delta i utformningen och samordningen av globala regler för säkerhetsstyrning av artificiell intelligens, bygga en plattform för säkerhetsdialog kring intelligenta agenter och gemensamt utforska samarbetsvägar för global nätverkssäkerhetsstyrning i den intelligenta eran, arbeta tillsammans för att bygga ett delat cyberrymdsfremtidssamfund och bidra med kinesisk visdom och styrka till den hälsosamma utvecklingen av den globala industrin för intelligenta agenter.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp