Összes kategória

Biztonságos védelmi vonal építése az intelligens ügynökök fejlődéséhez

2026-11-18
A mesterséges intelligencia technológia gyors fejlődésével az intelligens ügynökök – mint a mesterséges intelligencia és a valós gazdaság mély integrációjának fontos hordozói – mélyen befolyásolják a termelési és életmódokat, és újraformálják a biztonsági határokat.
A mesterséges intelligencia technológia gyors fejlődésével az intelligens ügynökök – mint a mesterséges intelligencia és a valós gazdaság mély integrációjának fontos hordozói – mélyen befolyásolják a termelési és életmódokat, és újraformálják a biztonsági határokat.
A nemrég megrendezett 14. internetes biztonsági konferencián szakértők azt hangsúlyozták, hogy a kulcsproblémák megoldásához a magtechnológiákat kell alkalmaznunk, belső képességeinket erősítenünk kell, rendszerek és szabályozások építésével megbízható védelmi falat kell kialakítanunk, és szabványrendszer-fejlesztéssel kell vezetnünk az ipari normákat, így kialakítható egy összehangolt fejlődési és biztonsági út az ügynök-korban.
  Az intelligens ügynökök új kockázatokat hoznak magukkal.
Jelenleg a mesterséges intelligencia döntő átmenetet él át a nagy modellekről az intelligens ügynökökre. Amikor az intelligens ügynökök önálló döntéseket hoznak, eszközöket hívnak meg és feladatokat hajtanak végre, biztonsági kockázatok is felmerülnek.
„A korábbi információs rendszerekhez képest az ügynökök már nem passzívan végrehajtó kérdés-válasz eszközök, hanem független érzékelésre, döntéshozatalra és végrehajtásra képesek. Ez a technológiai jellemzőkben bekövetkezett ugrás mélyen átalakította a hálózati biztonság támadási és védelmi helyzetét.” – mondta Zhao Zhiguo, a Kínai Internetes Társaság alelnöke és a Kínai Ipari és Informatikai Technológiák Minisztériumának volt főmérnöke.
Ahogy az intelligens ügynökök gyorsan behatolnak kulcsfontosságú területekre, mint a gyártás, a pénzügy és az energia, bármely biztonsági kockázat rövid időn belül láncreakciót válthat ki a hálózatokon és iparágakon keresztül az intelligens ügynökök autonóm ütemezési képessége révén, ami magasabb követelményeket támaszt a kockázatelhárítással és a vészhelyzeti reakcióval szemben.
Zhao Zhiguo kijelentette, hogy amint az intelligens ügynököknek önálló döntéshozási képességük lesz, a biztonsági kockázatok a „műszaki hibáktól” a „döntéshozatal elvesztéséig” terjednek. Ha eltérések vagy zavarok lépnek fel, az intelligens ügynökök olyan lépéseket tehetnek, amelyek eltérnek az emberi elvárásoktól, és a következmények előre nem láthatók. Ez a belső kockázat alapvető kihívást jelent a biztonság irányíthatósága szempontjából. Ezen felül az intelligens ügynökök rendkívül antropomorf módon működnek önállóan a rendszerben, és a hagyományos, azonosságon alapuló bizalommechanizmusok kudarc kockázatának vannak kitéve. Amikor az intelligens ügynökök önállóan kötnek szerződéseket, hajtanak végre tranzakciókat és hívják igénybe az erőforrásokat, a biztonsági felelősségek meghatározása és a jogtalan viselkedés jellemzése sürgős gyakorlati problémákká váltak, amelyeket azonnal meg kell oldani.
Wu Hequan, a kínai mérnöki akadémia (CAE) tagja és az Internetbiztonsági Konferencia tiszteletbeli elnöke szerint az ügynökök által végzett támadások a független döntéshozatal, a csoportos együttműködés és a folyamatos fejlődés technikai jellemzőit mutatják. A hagyományos kibertámadások erősen támaszkodnak a kézi műveletekre, míg az ügynökök által vezérelt támadások alapvetően megváltoztatják ezt a mintát.
Pontosabban fogalmazva az intelligens ügynökök képesek autonóm módon érzékelni a környezetüket, támadási útvonalakat tervezni és behatolási feladatokat végezni, továbbá több ügynök is megoszthatja az információkat és együttműködhet. Ez a csoportos támadás rendkívül rövid időn belül egyszerre indítható több bejáratból is, amely kimeríti a védelmi rendszereket a reagálás során. Azonban még nagyobb figyelmet igényel, hogy az intelligens ügynökök képesek folyamatosan tanulni és fejlődni, és minden támadás-védelem szembenállás az optimalizálásuk anyagává válik, így a támadási módszerek idővel folyamatosan változnak.
Chou Hung-i, a 360 Csoport alapítója és az Internetbiztonsági Konferencia elnöke úgy véli, hogy a mesterséges intelligencia forradalmasította a hálózati biztonsági iparág karbantartását. A Mythos modell példáján keresztül szemléltetve: a teljesen automatizált sebezhetőség-felderítési és támadáslánc-építési képességek a sebezhetőségek felfedezésének sebességét két nagyságrenddel növelték, és a költségeket az eredeti ezredrészére csökkentették.
  A digitális biztonságra vonatkozó gondolkodás átalakulása
Identitás-hamisítás, modellhibák, jogosultságkezelési sebezhetőségek, rosszindulatú zsarolás… Amint az intelligens ügynökök bejutnak a kereskedelmi alkalmazások szakaszába, egyre több új kockázat merül fel. Ugyanakkor az MI által meghajtott rejtett adatbányászat kockázatai is hatással vannak a modell pontosságára és a döntéshozatal megbízhatóságára.
Zhao Chunjiang, a CAE-tagozott és a Kínai Mesterséges Intelligencia Társaság alelnöke, bemutatta, hogy az MI-rendszerek biztonsági kockázatai négy dimenziót foglalnak magukban: az adatszintet, a modellszintet, az alkalmazásszintet és az alapszintet. A különböző dimenziók által szembesített biztonsági problémák is eltérőek, ezért célzott intézkedésekre van szükség.
Wu Hequan szerint hosszú ideig a biztonsági munka gondolatmenete az volt, hogy bárhol ég, ott eloltják a tüzet. Ez a passzív reakciós módszer ellenállhat az emberi támadásoknak, de az intelligens ügynökcsoportok telített támadásai esetén a reakciósebesség mindig fél ütemmel lemarad.
Ki volt erősebb a múltban, és ki lesz gyorsabb a jövőben? Kínának független és irányítható MI-sebezhetőség-felderítési képességeket kell kialakítania.” – mondta Zhou Hongyi.
A biztonsági paradigma át kell, hogy változzon a passzív védelemről az aktív immunitásra – mondta Vu Ho-csuan. – Egy rendszerszintű biztonsági működési keretrendszerre van szükségünk, amely lefedi az egész életciklust: az előrejelzést, a védelmet, az észlelést, a reakciót és a helyreállítást. Integrálnunk kell a folyamatokat, a személyzetet és a technológiát egy zárt hurkú képességbe, így a biztonsági rendszernek is intelligens ügynök-alapú érzékelési, előrejelzési és adaptív képességei legyenek, és elérjük az utólagos javításról az előzetes figyelmeztetésre és a folyamat közbeni blokkolásra való áttérést.
Ez nem csupán a torta megcsinálása, hanem a képességek élet-halál kérdését jelentő újraépítése. Az aktív immunitás nélkül nem lehet digitális biztonság az intelligens ügynökök korszakában – mondta Vu Ho-csuan.
Zhao Zhiguo úgy véli, hogy kiemelt figyelmet kell fordítani az intelligens ügynökök biztonságához kapcsolódó kulcsfontosságú technológiák kutatására és fejlesztésére, erősíteni kell a kutatási és fejlesztési beruházásokat olyan kulcsfontosságú területeken, mint az algoritmusok értelmezhetősége, az adatvédelem és a rendszer ellenálló képessége, növelni kell a forrásból történő proaktív védelem képességét, és kezdeményezést kell vállalni a fejlesztésben. Gyorsítani kell a biztonsági szabványok és az intelligens ügynökök jellegéhez igazodó értékelési és tanúsítási mechanizmusok létrehozását, meg kell valósítani a magas kockázatú intelligens ügynökök kategóriák szerinti és fokozatos kezelését, egyértelműen meg kell határozni a kutatás-fejlesztés, az üzembe helyezés és az üzemeltetés felelősségi határait, és biztosítani kell, hogy szabályok és előírások álljanak rendelkezésre. A nemzeti szabványkeretrendszeren belül elő kell segíteni az ipar, a tudományos élet, a kutatás és az alkalmazás mély együttműködését, és gyorsítani kell a teljes életciklusra kiterjedő védelmi szabványok kialakítását az intelligens ügynökök kutatás-fejlesztésére, bevezetésére, üzemeltetésére és karbantartására.
 A termékek értékesítéséről a képességek értékesítésére való áttérés
Az International Data Corporation (IDC) jelentése szerint a kínai kiberbiztonsági piac folyamatosan növekszik a szabályozási keretrendszer egyre erősebbé válása, az üzleti szervezetek biztonsági beruházások iránti hajlandóságának növekedése és az új technológiák gyorsabb alkalmazása miatt. Várhatóan 2026-ra a teljes piaci méret meghaladja a 80 milliárd jüant, 2024 és 2029 között évi összetett növekedési üteme 8,9%. A kiberbiztonság elengedhetetlen alapvető képességgé vált a digitális gazdaság fejlődésében.
Jelenleg az intelligens ügynökök gyorsan behatolnak a pénzügyi, gyártási és egészségügyi szektorokba, és a valós üzleti rendszerek központi elemeivé válnak. Azonban a legtöbb ipari felhasználó még nem képes saját intelligens védelmi rendszereket fejleszteni, és a hagyományos biztonsági szolgáltatók továbbra is a tűzfalak, észlelő eszközök stb. értékesítésére szoktak, ami egyértelmű kínálat–kereslet-ellentétet eredményez.
„Aki először képes átalakulni termék-szolgáltatóról szolgáltatóvá, az fogja vezetni az intelligens ügynökök biztonságának új területét” – mondta Vu Hecsuán. A digitális biztonsági vállalatoknak az intelligens ügynökök korszakában át kell térniük a termékek értékesítéséről a képességek értékesítésére, azaz olyan biztonsági felügyeleti szolgáltatásokat kell nyújtaniuk, amelyek lefedik az intelligens ügynökök teljes életciklusát: biztonsági felülvizsgálatot a fejlesztési fázisban, valós idejű figyelést és rendellenességek kezelését az üzemeltetési fázisban, kockázatelemzést és megerősítési javaslatokat az iterációs fázisban. Ez egy paradigmaváltás, és egy olyan akadály, amelyet az iparnak meg kell küzdenie.
Zhao Zhiguo javasolta, hogy hozzanak létre egy ipari, akadémiai és kutatási együttműködésen alapuló biztonsági platformot a hálózati erőforrások integrálása érdekében, és előmozdítsák az intelligens ügynökbiztonsági technológiák kutatását és fejlesztését, a vészhelyzeti reakciók együttműködését, valamint a legjobb gyakorlatok terjesztését az üzleti vállalkozások, egyetemek és kutatóintézetek között. Egy kormányzati iránymutatáson, vállalati felelősségen és társadalmi részvételen alapuló irányítási modellt kell kialakítani, amely nyitott és együttműködő megközelítéssel kezeli a közös kihívásokat.
Jelenleg a kapcsolódó iparági vállalatok lépéseket tesznek az intelligens ügynökök korszakához szükséges új szakemberek képzésének gyorsítására. A 14. Internetbiztonsági Konferencia ideje alatt egyszerre indították el a 360 Mesterséges Intelligencia Ügynök Mérnök (ADE) tanúsított oktató és a 360 Közhasznú Alapítvány MI-szakember Különös Ösztöndíja programokat, amelyek gyakorlati keretet nyújtanak az ipar–egyetem–kutatás mélyebb együttműködő oktatásának a szakemberek képzése és az oktatási inkluzivitás szempontjából.
Zhao Zhiguo kijelentette, hogy aktívan elő kell segíteni a kormányzati szervek, vezető vállalatok és kutatóintézetek együttműködését az intelligens ügynökök biztonsági képességének értékelését, a kockázatok besorolását, az adatbiztonsági megfelelőséget stb. érintő ipari és csoportos szabványok gyors kidolgozásában, így intézményi alapot nyújtva az ipar szabványos fejlődéséhez, és a biztonsági kockázatok bizonytalanságát a minőségi fejlődés bizonyosságával kezelendő. Emellett aktívan részt kell venni a globális mesterséges intelligencia-biztonsági kormányzás szabályainak kidolgozásában és összehangolásában, intelligens ügynökök biztonsági párbeszédplatformjának létrehozásában, közös kutatásban a globális hálózati biztonsági kormányzás intelligens korban zajló együttműködési útvonalairól, együtt kell építeni a közös jövőbeli kiber tér közösségét, és hozzá kell járulni a globális intelligens ügynökök iparának egészséges fejlődéséhez a kínai bölcsességgel és erővel.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp