Све категорије

Изградња сигурне одбрамбене линије за развој интелигентних агента

2026-11-18
Са брзом итерацијом технологије вештачке интелигенције, интелигентни агенти, као важан носилац за дубоку интеграцију вештачке интелигенције и стварне економије, дубоко утичу на производњу и животни стил и реконструишу границе безбедности.
Са брзом итерацијом технологије вештачке интелигенције, интелигентни агенти, као важан носилац за дубоку интеграцију вештачке интелигенције и стварне економије, дубоко утичу на производњу и животни стил и реконструишу границе безбедности.
На 14. конференцији за интернет безбедност одржаној недавно, стручњаци су рекли да треба да користимо основне технологије за решавање кључних проблема и консолидацију унутрашњих вештина, изградимо чврсту баријеру са изградњом система и правила, и водимо индустријске норме са стандардном изградњом система, како бисмо створили пут коор
  Разумни агенти доносе нове ризике
Тренутно вештачка интелигенција пролази кроз кључну транзицију од великих модела до интелигентних агента. Када интелигентни агенти почињу да доносе аутономне одлуке, позивају алате и извршавају задатке, појављују се и ризици за безбедност.
"У поређењу са информационим системима из прошлости, агенти више нису средство за питање и одговор за пасивно извршење, већ им је дата способност независне перцепције, доношења одлука и извршења. Овај скок у технолошким карактеристикама темељно је променио офанзивну и одбрамбену ситуацију безбедности мреже. " рекао је Зао Жигуо, потпредседник Кинеског интернет друштва и бивши главни инжењер Министарства индустрије и информационих технологија.
Са убрзаним прониквањем интелигентних агента у кључне области као што су производња, финансије и енергија, сваки ризик за безбедност може у кратком временском периоду изазвати ланчану реакцију преко мрежа и индустрија кроз аутономну способност планирања интелигентних агента, што поставља веће захтеве за спречавање ризика и реаговање
Зао Жигуо је изјавио да када интелигентни агенти имају аутономне способности доношења одлука, ризици за безбедност се проширују од "техничких неуспеха" до "погубе контроле доношења одлука". Када се деси нешто што се одступа од људских очекивања, интелигентни агенти могу да предузму поступке који се одступају од људских очекивања, а последице су непредвидиве. Овај ендоген ризик представља фундаментални изазов за контролу безбедности. Поред тога, интелигентни агенти раде аутономно у систему на веома антропоморфни начин, а традиционални механизми поверења засновани на идентитету суочавају се са ризиком од неуспеха. Када интелигентни агенти аутономно потпишу уговоре, извршавају трансакције и позивају ресурсе, како дефинисати одговорности за безбедност и карактеризовати неовлашћено понашање постали су хитни практични проблеми који треба решити.
Према Ву Хекуану, академику Члана ЦАЕ-а и почасном председнику Конференције за интернет безбедност, агентни напади показују техничке карактеристике независног доношења одлука, кластерске сарадње и континуиране еволуције. Традиционални сајбер напади у великој мери се ослањају на ручне операције, док напади који се воде агентом фундаментално мењају овај образац.
Конкретно, интелигентни агенти могу аутономно да доживљавају окружење, планирају нападне путеве и обављају задате проникњавања, а више агента може да деле информације и сарађују. Овај напад може бити лансиран истовремено са више улаза у врло кратком временском периоду, остављајући одбрамбене системе исцрпљене од одговора. Оно што треба да буде више будно је да интелигентни агенти имају способност да се стално уче и итерације, и сваки напад и одбрамбена сукоба ће постати материјал за њихову оптимизацију, са методама напада стално мења током времена.
Цхоу Хонги, оснивач 360 Групе и председник Интернет безбедносне конференције, верује да је АИ смањио одржавање у индустрији мрежне безбедности. Узмимо као пример модел Митоса, потпуно аутоматизовано рударство за рањивост и способности изградње ланца напада повећали су брзину откривања рањивости за два реда величине и смањили трошкове на мање од једне хиљадне.
  Трансформација размишљања о дигиталној безбедности
Фалсификовање идентитета, неуспех модела, слабости у управљању дозволама, злонамерна изнуђења... Како интелигентни агенси улазе у фазу комерцијалне примене, настављају да се појављују различити нови ризици. У исто време, ризици као што је скривено ископавање података под утицајем вештачке интелигенције такође утичу на тачност модела и поузданост одлука.
Зао Чунџианг, академик Члана ЦАЕ-а и потпредседник Кинеске асоцијације вештачке интелигенције, представио је да ризици од сигурности система вештачке интелигенције покривају четири димензије: слој података, слој модела, слој апликације и слој темеља. Проблеми безбедности са којима се суочавају различите димензије су такође различити, и потребно је предузети циљане мере.
У погледу Ву Хекуана, дуго времена је идеја о обезбеђивању била да се угасе пожари где год да се деси. Овај пасиван режим одговора може да издржи људске нападе, али упркос насићеним нападима интелигентних агентних кластера, брзина одговора је увек пола удара.
Ко је био јачи у прошлости, а ко ће бити бржи у будућности? Кина мора да успостави независне и контролисане капацитете за ископавање рањивости у вештачкој интелигенцији.
Парадигма безбедности мора да се промени са пасивне одбране на активан имунитет, "казао је Ву Хекуан". Потребно је изградити систематски оквир за операције безбедности који покрива читав животни циклус предвиђања, одбране, откривања, одговора и опоравка. Потребно је интегрисати процесе, особље и технологију у затворену способност, тако да безбедносни систем може имати и интелигентне агентне перцепције, предвиђања и адаптивне способности, и постићи прелазак од пост ремидификације на пре-предупређење и блокирање у процесу.
Ово није само сладолед на торти, већ реконструкција способности живота и смрти. Без активног имунитета, не може бити дигиталне сигурности у ери интелигентних агента", рекао је Ву Хекуан.
Зао Жигуо сматра да је неопходно дати значај истраживању и развоју основних технологија за безбедност интелигентних агента, ојачати инвестиције у истраживање и развој у кључним областима као што су интерпретабилност алгоритма, заштита приватности података и стабилност система, побољшати проактивне одбрамбене способности од извора и предузети иницијативу Убрзати успостављање стандарда безбедности и механизама сертификовања за процену који се прилагођавају карактеристикама интелигентних агенса, спроводити класификовано и класификовано управљање за интелигентне агенсе са високим ризиком, разјасни границе одговорности за истраживање и развој, распоређивање и рад У оквиру националног оквира стандарда, промовисати дубоку интеграцију индустрије, академске заједнице, истраживања и примене и убрзати формирање стандарда за заштиту који покривају цели животни циклус истраживања и развоја, имплементације, рада и одржавања интелигентних агенса.
 Прелазак од продаје производа на способност продаје
Према извештају Међународне корпорације за податке (IDC), кинеско тржиште сајбер безбедности одржавало је сталан раст због континуираног јачања политика и прописа, повећане спремности предузећа да инвестирају у безбедност и убрзане примене нових технологија. Очекује се да ће до 2026. године, укупна величина тржишта прећи 80 милијарди јуана, са сложеном годишњом стопом раста од 8,9% од 2024. до 2029. године. Киберсигурност је постала суштинска основна способност у развоју дигиталне економије.
Тренутно, интелигентне агенте убрзавају своје проникћење у вертикалне индустрије као што су финансије, производња и здравствена заштита, постајући основне компоненте стварних пословних система. Међутим, већина индустријских корисника још увек нема могућност да развије сопствене интелигентне одбрамбене системе, а традиционални произвођачи безбедности још увек су навикли да продају брандволове, алате за детекцију итд., што резултира јасним неисправношћу између понуде и потражње.
Ко год први успе да заврши трансформацију од добављача производа до добављача услуга, моћи ће да преузме вођство у новом пољу безбедности интелигентних агента ", рекао је Ву Хекуан. Предприятија за дигиталну безбедност у ери интелигентних агента морају да пређу са продаје производа на продају способности, што значи пружање услуга безбедносног хостинга који покривају цели животни циклус интелигентних агента, прегледање безбедности током фазе развоја, спровођење мониторинга у реалном времену и абнормалног одговора током Ово је промена парадигме и препрека коју индустрија мора превазићи.
Зао Жигуо је предложио да се успостави заједничка безбедносна платформа између индустрије, академске заједнице и истраживања како би се интегрисали мрежни ресурси и промовисала дубока сарадња између предузећа, универзитета и истраживачких институција у истраживању и развоју интелигентне безбедносне технологије агента, сарадње у хитној реакцији и Модел управљања треба да се изгради са вођством владе, корпоративном одговорношћу и друштвеном учешћем како би се отвореним и заједничким ставом решили заједнички изазови.
Тренутно, релевантна индустријска предузећа предузимају мере да убрзају култивирање нових талената за доба интелигентних агента. Током 14. конференције о безбедности интернета, истовремено су лансирани процес доделе 360 сертификованих предавача инжењера за вештачку интелигенцију (ADE) и 360 специјалне стипендије за вештачку интелигенцију фондације за јавне добробит, што је практичан носилац за дубоко сарађујуће образовање индустрије, универзитета
Зао Жигуо је изјавио да је неопходно активно промовисати владине одељења, водећа предузећа и истраживачке институте да убрзају развој индустријских стандарда и стандарда групе у области процене безбедносних способности интелигентних агента, класификације ризика, усклађености са сигурношћу података итд., пружајући институционалну основу за Поред тога, треба активно да учествујемо у формулисању и координацији глобалних правила управљања сигурношћу вештачке интелигенције, да изградимо платформу за дијалог о безбедности интелигентних агента, да заједнички истражимо заједнички пут управљања сигурношћу глобалне мреже у доба интелигенције, да заједно радимо на изградњи заједнице заједничке

Фејсбук Фејсбук
Фејсбук
Вацсап Вацсап
Вацсап