Lahat ng Kategorya

Pagbuo ng isang ligtas na linya ng depensa para sa pag-unlad ng mga madunong ahente

2026-11-18
Sa pamamagitan ng mabilis na pag-uulit ng teknolohiyang panimulang kaisipan, ang mga madunong na ahente, bilang mahalagang daluyan para sa malalim na pagsasama ng panimulang kaisipan at ng tunay na ekonomiya, ay lubos na nakaaapekto sa produksyon at pamumuhay, at muling bumubuo ng mga hangganan ng seguridad.
Sa pamamagitan ng mabilis na pag-uulit ng teknolohiyang panimulang kaisipan, ang mga madunong na ahente, bilang mahalagang daluyan para sa malalim na pagsasama ng panimulang kaisipan at ng tunay na ekonomiya, ay lubos na nakaaapekto sa produksyon at pamumuhay, at muling bumubuo ng mga hangganan ng seguridad.
Sa ika-14 na Konperensya sa Seguridad sa Internet na ginanap kamakailan, sinabi ng mga eksperto na dapat nating gamitin ang pangunahing teknolohiya upang harapin ang mga pangunahing suliranin at palakasin ang loob na kasanayan, itayo ang matibay na hadlang sa pamamagitan ng pagbuo ng sistema at mga alituntunin, at pangunahan ang mga pamantayan ng industriya sa pamamagitan ng pagbuo ng sistemang pamantayan, upang lumikha ng daan patungo sa koordinadong pag-unlad at seguridad sa panahon ng mga ahente.
  Ang mga madunong na ahente ay dala ang bagong mga panganib
Kasalukuyan, ang panimulang kaisipan ay nasa mahalagang transisyon mula sa malalaking modelo papunta sa mga madunong na ahente. Kapag ang mga madunong na ahente ay nagsisimulang gumawa ng mga awtonomong desisyon, tumawag ng mga kasangkapan, at isagawa ang mga gawain, ang mga panganib sa seguridad ay lumilitaw din.
"Kumpara sa mga nakaraang sistema ng impormasyon, ang mga ahente ay hindi na isang kasangkapan para sa pasibong pagsasagawa ng tanong at sagot, kundi binigyan na ng kakayahan para sa malayang pagpapasya, pagdedesisyon, at pagsasagawa. Ang paglukso na ito sa mga katangiang teknolohikal ay malalim na nagbago sa sitwasyon ng pagsalakay at depensa ng seguridad ng lambat." ayon kay Zhao Zhiguo, bise presidente ng Pederasyon ng Internet ng Tsina at dating pangunahing inhinyero ng Kagawaran ng Industriya at Teknolohiyang Impormatiko.
Sa mabilis na pagpasok ng mga matalinong ahente sa mga pangunahing larangan tulad ng pagmamanupaktura, pananalapi, at enerhiya, ang anumang panganib sa seguridad ay maaaring magdulot ng reaksyong kadena sa kabuuan ng mga lambat at industriya sa loob ng maikling panahon sa pamamagitan ng kakayahang awtonomong magplano ng mga matalinong ahente, na naglalagay ng mas mataas na mga pangangailangan para sa pag-iwas sa panganib at tugon sa krisis.
Sinabi ni Zhao Zhiguo na kapag ang mga intelligent agent ay may kakayahang magdesisyon nang malaya, ang mga panganib sa kaligtasan ay lumalawak mula sa "mga teknikal na kabiguan" hanggang sa "pagkawala ng kontrol sa pagdedesisyon." Kapag may mga pagkakaiba o pagkagambala, maaaring kumilos ang mga intelligent agent nang hindi sumusunod sa inaasahan ng tao, at ang mga resulta ay hindi maipapredict. Ang panganib na ito na nagmumula sa loob ay nagtataglay ng pangunahing hamon sa kaligtasan at kontrolabilidad. Bukod dito, ang mga intelligent agent ay gumagana nang malaya sa sistema sa isang napakahusay na anthropomorphic na paraan, kaya ang tradisyonal na mga mekanismo ng tiwala batay sa identidad ay nakakaranas ng panganib na mabigo. Kapag ang mga intelligent agent ay kumikilos nang malaya sa pagpirma ng mga kontrata, pagpapatupad ng mga transaksyon, at pagtawag sa mga resources, ang pagtukoy ng mga responsibilidad sa kaligtasan at paglalarawan ng mga di-awtorisadong gawain ay naging mga urgente at praktikal na problema na kailangang solusyunan.
Ayon kay Wu Hequan, isang akademiko ng CAE Member at karangalan na pangulo ng Internet Security Conference, ang mga agent attack ay nagpapakita ng mga katangian ng teknikal na independiyenteng pagdedesisyon, pagsasamahan sa grupo, at tuloy-tuloy na ebolusyon. Ang mga tradisyonal na cyber attack ay lubos na umaasa sa mga operasyon na ginagawa ng tao, samantalang ang mga agent-driven attack ay lubos na nagbabago sa ganitong modelo.
Tiyak na, ang mga intelligent agent ay maaaring mag-isa na suriin ang kapaligiran, magplano ng mga daan ng pag-atake, at isagawa ang mga gawain sa penetration; at maaaring ibahagi ng maraming agent ang impormasyon at magtulungan. Ang ganitong uri ng pagsasamahan sa pag-atake ay maaaring ipagkaloob nang sabay-sabay mula sa maraming pasukan sa napakabrief na panahon, na nagdudulot ng pagkapagod sa mga sistema ng depensa dahil sa paulit-ulit na pagtugon. Ang kailangan pa ng higit na bantayan ay ang kakayahan ng mga intelligent agent na patuloy na matuto at umunlad—bawat pag-atake at bawat pagharap sa depensa ay naging materyal para sa kanilang optimisasyon, kaya’t ang mga paraan ng pag-atake ay patuloy na nagbabago sa paglipas ng panahon.
Si Zhou Hongyi, tagapagtatag ng 360 Group at pangulo ng Internet Security Conference, ay naniniwala na ang AI ay nagbaba ng pangangalaga sa industriya ng network security. Gamit ang modelo ng Mythos bilang halimbawa, ang kumpletong awtomatikong kakayahan sa paghahanap ng mga butas sa seguridad at pagbuo ng chain ng pagsalakay ay nagpataas ng bilis ng paghahanap ng mga butas sa seguridad ng dalawang order ng magnitude at binawasan ang gastos sa mas mababa sa isang libong bahagi.
  Pagbabago ng pag-iisip sa digital security
Pangungunwari ng identidad, kabiguan ng modelo, mga butas sa seguridad sa pamamahala ng pahintulot, pananakot na may kasamang pagkakalat... Habang pumasok na ang mga intelligent agent sa komersyal na yugto ng aplikasyon, patuloy na lumilitaw ang iba’t ibang bagong panganib. Kasabay nito, ang mga panganib tulad ng nakatagong pagmimina ng data na pinapagana ng artificial intelligence ay nakaaapekto rin sa katiyakan ng modelo at katiyakan ng desisyon.
Ipinakilala ni Zhao Chunjiang, isang akademiko ng CAE at pangalawang pangulo ng Chinese Association of Artificial Intelligence, na ang mga panganib sa kaligtasan ng AI system ay sumasaklaw sa apat na dimensyon: ang data layer, model layer, application layer, at foundation layer. Ang mga problema sa kaligtasan na hinaharap ng bawat dimensyon ay iba-iba rin, kaya kailangan ng mga tiyak na hakbang.
Ayon kay Wu Hequan, matagal nang ang pananaw sa trabaho ng kaligtasan ay ang pagpapawi ng apoy kahit saan ito umusbong. Ang pasibong paraan ng pagtugon na ito ay kayang tumagal sa mga pag-atake ng tao, ngunit sa harap ng lubos na pag-atake mula sa mga grupo ng intelligent agent, ang bilis ng tugon ay palaging kulang ng kalahating hakbang.
Sino ang mas malakas noon at sino ang mas mabilis sa hinaharap? Dapat itatag ng Tsina ang sariling kakayahan sa paghahanap ng mga kahinaan ng AI na independiyente at kontrolado." Sinabi ni Zhou Hongyi.
Ang paraan ng pag-iingat ay kailangang umusad mula sa pasibong depensa patungo sa aktibong immune system," sinabi ni Wu Hequan. "Kailangan nating itayo ang isang sistematikong balangkas para sa operasyon ng seguridad na sakop ang buong life cycle ng paghahProgno, depensa, deteksyon, tugon, at pagbangon. Kailangan nating i-integrate ang mga proseso, tauhan, at teknolohiya bilang isang nakasara na loop na kakayahan, upang ang sistema ng seguridad ay may kakayahang mag-perceive, mag-progno, at umadapt nang may kaalaman, at makamit ang paglipat mula sa pag-aayos pagkatapos ng insidente patungo sa paunang babala at pag-block habang ginagawa ang gawain.
Ito ay hindi lamang dekorasyon o dagdag na gawain, kundi isang buhay-o-kamatay na pagpapabago ng mga kakayahan. Walang seguridad sa digital na mundo sa panahon ng mga intelligent agent kung wala ang aktibong immune system," sinabi ni Wu Hequan.
Naniniwala si Zhao Zhiguo na kailangang bigyan ng diin ang pananaliksik at pagpapaunlad ng mga pangunahing teknolohiya para sa kaligtasan ng mga intelligent agent, palakasin ang pamumuhunan sa pananaliksik at pagpapaunlad sa mga mahahalagang larangan tulad ng interpretability ng algorithm, proteksyon ng privacy ng data, at kahusayan ng sistema, pataasin ang kakayahan sa proaktibong depensa mula sa pinagmulan, at umunlad nang may inisyatibo. Pabilisin ang pagtatatag ng mga pamantayan sa kaligtasan at mekanismo ng pagtatasa at sertipikasyon na umaangkop sa mga katangian ng mga intelligent agent, ipatupad ang nabibilang na pamamahala para sa mga mataas na panganib na intelligent agent, linawin ang hangganan ng responsibilidad sa pananaliksik at pagpapaunlad, deployment, at operasyon, at tiyaking may mga alituntunin at regulasyon na susundin. Sa loob ng pambansang balangkas ng pamantayan, itaguyod ang malalim na integrasyon ng industriya, aklatan, pananaliksik, at aplikasyon, at pabilisin ang pagbuo ng mga pamantayan sa proteksyon na sakop ang buong life cycle ng pananaliksik at pagpapaunlad, implementasyon, operasyon, at maintenance ng mga intelligent agent.
 Lipat mula sa pagbebenta ng mga produkto patungo sa pagbebenta ng kakayahan
Ayon sa isang ulat ng International Data Corporation (IDC), ang merkado ng cybersecurity sa Tsina ay nanatiling tumatagos dahil sa patuloy na pagpapalakas ng mga patakaran at regulasyon, dumaraming kalooban ng mga negosyo na mag-inbest sa seguridad, at mabilis na paggamit ng mga bagong teknolohiya. Inaasahan na hanggang 2026, ang kabuuang sukat ng merkado ay lalampas sa 80 bilyong yuan, na may compound annual growth rate na 8.9% mula 2024 hanggang 2029. Ang cybersecurity ay naging isang mahalagang pangunahing kakayahan sa pag-unlad ng digital na ekonomiya.
Kasalukuyan, ang mga madiskarteng ahente ay pabilisin ang kanilang pagpasok sa mga vertikal na industriya tulad ng pananalapi, pagmamanupaktura, at pangangalagang pangkalusugan, kung saan sila ay naging pangunahing bahagi ng tunay na mga sistemang pangnegosyo. Gayunpaman, ang karamihan sa mga gumagamit sa industriya ay wala pa ring kakayahang mag-develop ng sariling mga sistemang pangdepensa na may kaalaman, at ang mga tradisyonal na tagapagkaloob ng seguridad ay nananatiling nakagawian pa ring ibenta ang mga firewall, mga kasangkapan sa pagdedetekta, atbp., na nagreresulta sa malinaw na hindi pagkakatugma sa pagitan ng suplay at demand.
"Ang kahit sino na makakapagpalit mula sa isang tagapagkaloob ng produkto patungo sa isang tagapagkaloob ng serbisyo nang una ay makakakuha ng unang hakbang sa bagong larangan ng seguridad ng mga intelligent agent," sinabi ni Wu Hequan. Ang mga kumpanya ng digital security sa panahon ng mga intelligent agent ay kailangang lumipat mula sa pagbebenta ng mga produkto patungo sa pagbebenta ng mga kakayahan, na nangangahulugan ng pagbibigay ng mga serbisyo ng security hosting na sumasaklaw sa buong lifecycle ng mga intelligent agent—pagrerebisa ng seguridad sa yugto ng pagbuo, paggawa ng real-time monitoring at pagtugon sa mga hindi karaniwan sa yugto ng operasyon, at paggawa ng mga pagsusuri sa panganib at pagbibigay ng mga mungkahi para sa pagpapalakas sa yugto ng iterasyon. Ito ay isang pangkalahatang pagbabago ng paraan ng pag-iisip at isang hadlang na kailangang lampasan ng industriya.
Iminungkahi ni Zhao Zhiguo na itatag ang isang kolaboratibong platform sa seguridad na kinasasangkutan ng industriya, aklatan, at pananaliksik upang maisama ang mga likas na yaman ng network at higit na pahusayin ang pakikipagtulungan sa pagitan ng mga kumpanya, unibersidad, at mga institusyon ng pananaliksik sa pagbuo ng teknolohiya para sa seguridad ng mga intelligent agent, pakikipagtulungan sa emergency response, at pagpapalaganap ng mga pinakamahusay na gawain. Dapat itatag ang isang pamamaraan ng pamamahala na may gabay ng gobyerno, pananagutan ng korporasyon, at pakikilahok ng lipunan upang harapin ang mga karaniwang hamon gamit ang bukas at kolaboratibong saloobin.
Sa kasalukuyan, ang mga kaukulang kumpanya sa industriya ay kumikilos upang paigtingin ang pagpapaunlad ng bagong mga dalubhasa para sa panahon ng mga madiskarteng artipisyal na kaisipan. Sa panahon ng Ika-14 na Konperensya sa Seguridad sa Internet, inilunsad nang sabay ang proseso ng pagbibigay ng sertipiko bilang Tagapagturo ng 360 Artificial Intelligence Agent Engineer (ADE) at ang 360 Public Welfare Foundation AI Talent Special Scholarship, na nagbibigay ng isang praktikal na daan para sa malalim na kolaboratibong edukasyon ng industriya, unibersidad, at pananaliksik mula sa mga pananaw ng pagpapaunlad ng talento at inklusibong edukasyon.
Sinabi ni Zhao Zhiguo na kailangang aktibong ipagtaguyod ang mga departamento ng gobyerno, mga nangungunang kumpanya, at mga institusyong pang-agham upang bilisang pag-unlad ng mga pamantayan ng industriya at pangkat sa mga larangan ng pagsusuri sa kakayahan ng seguridad ng intelligent agent, pag-uuri ng panganib, pagkakasunod-sunod sa seguridad ng data, atbp., upang magbigay ng batayan na institusyonal para sa pamantayang pag-unlad ng industriya at tugunan ang kawalan ng katiyakan ng mga panganib sa seguridad gamit ang katiyakan ng mataas na kalidad na pag-unlad. Bukod dito, dapat tayong aktibong sumali sa pagbuo at koordinasyon ng mga pandaigdigang panuntunan sa pamamahala ng seguridad ng artificial intelligence, itatag ang isang platform para sa talakayan tungkol sa seguridad ng intelligent agent, sama-samang alamin ang kolaboratibong daan ng pandaigdigang pamamahala ng seguridad ng network sa panahon ng katalinuhan, sama-samang itayo ang isang komunidad ng ibinabahaging kinabukasan sa cyberspace, at mambigay ng Tsino na karunungan at lakas para sa malusog na pag-unlad ng pandaigdigang industriya ng intelligent agent.

Facebook Facebook
Facebook
Whatsapp Whatsapp
Whatsapp