Semua Kategori

Membina garis pertahanan yang selamat bagi pembangunan ejen pintar

2026-11-18
Dengan peningkatan teknologi kecerdasan buatan yang pesat, ejen pintar—sebagai pembawa penting bagi integrasi mendalam kecerdasan buatan dengan ekonomi sebenar—sedang memberi pengaruh mendalam terhadap cara pengeluaran dan gaya hidup, serta membina semula sempadan keselamatan.
Dengan peningkatan teknologi kecerdasan buatan yang pesat, ejen pintar—sebagai pembawa penting bagi integrasi mendalam kecerdasan buatan dengan ekonomi sebenar—sedang memberi pengaruh mendalam terhadap cara pengeluaran dan gaya hidup, serta membina semula sempadan keselamatan.
Pada Persidangan Keselamatan Internet ke-14 yang diadakan baru-baru ini, pakar menyatakan bahawa kita perlu menggunakan teknologi utama untuk menangani masalah kritikal, memperkukuh kemahiran dalaman, membina halangan kukuh melalui pembinaan sistem dan peraturan, serta memimpin norma industri melalui pembinaan sistem piawaian—bagi mencipta jalan pembangunan bersama dan keselamatan pada era ejen.
  Ejen pintar membawa risiko baharu
Kini, kecerdasan buatan sedang mengalami peralihan kritikal dari model besar kepada ejen pintar. Apabila ejen pintar mula membuat keputusan secara autonomi, memanggil alat, dan melaksanakan tugas, risiko keselamatan juga muncul.
"Berbandingkan dengan sistem maklumat lampau, ejen kini bukan lagi alat soal-jawab untuk pelaksanaan pasif, tetapi diberikan keupayaan persepsi, pengambilan keputusan dan pelaksanaan secara bebas. Lompatan dalam ciri teknologi ini telah mengubah secara mendalam situasi ofensif dan defensif dalam keselamatan rangkaian." kata Zhao Zhiguo, Timbalan Presiden Persatuan Internet China dan bekas Jurutera Ketua Kementerian Perindustrian dan Teknologi Maklumat.
Dengan penembusan pantas ejen pintar ke dalam bidang utama seperti pembuatan, kewangan dan tenaga, sebarang risiko keselamatan boleh mencetuskan tindak balas berantai merentasi rangkaian dan industri dalam tempoh singkat melalui keupayaan penjadualan autonomi ejen pintar, yang menimbulkan keperluan lebih tinggi terhadap pencegahan risiko dan tindak balas kecemasan.
Zhao Zhiguo menyatakan bahawa apabila ejen pintar mempunyai keupayaan membuat keputusan secara autonomi, risiko keselamatan berkembang daripada "kegagalan teknikal" kepada "kehilangan kawalan terhadap proses membuat keputusan". Apabila berlaku penyimpangan atau gangguan, ejen pintar mungkin mengambil tindakan yang tidak selaras dengan jangkaan manusia, dan akibatnya tidak dapat diramalkan. Risiko endogen ini menimbulkan cabaran asas terhadap kawalan keselamatan. Selain itu, ejen pintar beroperasi secara autonomi dalam sistem dengan cara yang sangat antropomorfik, sehingga mekanisme kepercayaan berbasis identiti tradisional berisiko gagal. Apabila ejen pintar menandatangani kontrak, melaksanakan transaksi, dan memanggil sumber secara autonomi, bagaimana mentakrifkan tanggungjawab keselamatan serta mencirikan tingkah laku tanpa kebenaran telah menjadi masalah praktikal yang mendesak untuk diselesaikan.
Menurut Wu Hequan, seorang ahli akademik Akademi Kejuruteraan China (CAE) dan pengerusi kehormat Persidangan Keselamatan Internet, serangan ejen menunjukkan ciri-ciri teknikal seperti pengambilan keputusan secara bebas, kerjasama kelompok, dan evolusi berterusan. Serangan siber tradisional sangat bergantung kepada operasi manual, manakala serangan berpandukan ejen mengubah corak ini secara asas.
Secara khusus, ejen pintar boleh mengesan persekitaran secara autonomi, merancang laluan serangan, dan menjalankan tugas penembusan; selain itu, beberapa ejen boleh berkongsi maklumat dan bekerjasama. Serangan berkelompok ini boleh dilancarkan serentak dari pelbagai pintu masuk dalam tempoh yang sangat singkat, sehingga sistem pertahanan menjadi keletihan dalam memberikan tindak balas. Yang perlu lebih diwaspadai ialah ejen pintar mempunyai keupayaan untuk belajar dan mengitar semula secara berterusan—setiap pertembungan antara serangan dan pertahanan akan menjadi bahan pengoptimuman bagi mereka, dengan kaedah serangan yang sentiasa berubah mengikut masa.
Zhou Hongyi, pengasas Kumpulan 360 dan Pengerusi Persidangan Keselamatan Internet, berpendapat bahawa AI telah mengubah landskap industri keselamatan rangkaian. Sebagai contoh, model Mythos mempunyai keupayaan perlombongan kerentanan dan pembinaan rantai serangan secara sepenuhnya automatik, yang meningkatkan kelajuan penemuan kerentanan sebanyak dua pesanan magnitud dan mengurangkan kos kepada kurang daripada satu per seribu.
  Transformasi pemikiran keselamatan digital
Pemalsuan identiti, kegagalan model, kerentanan pengurusan kebenaran, pemerasan jahat... Apabila ejen pintar memasuki peringkat aplikasi komersial, pelbagai risiko baharu terus muncul. Pada masa yang sama, risiko seperti perlombongan data tersembunyi yang dipacu oleh kecerdasan buatan juga memberi kesan terhadap ketepatan model dan kebolehpercayaan keputusan.
Zhao Chunjiang, ahli akademik Akademi Kejuruteraan China dan Timbalan Presiden Persatuan Kecerdasan Buatan China, memperkenalkan bahawa risiko keselamatan sistem AI merangkumi empat dimensi: lapisan data, lapisan model, lapisan aplikasi, dan lapisan asas. Masalah keselamatan yang dihadapi oleh setiap dimensi berbeza-beza, maka langkah khusus perlu diambil.
Dalam pandangan Wu Hequan, selama ini pendekatan kerja keselamatan ialah menangani masalah secara reaktif sebaik sahaja berlaku. Mod tindak balas pasif ini mungkin mampu menahan serangan manusia, tetapi apabila menghadapi serangan padat dari kelompok ejen pintar, kelajuan tindak balas sentiasa tertinggal separuh langkah.
Siapa yang lebih kuat pada masa lalu dan siapa yang akan lebih pantas pada masa hadapan? China mesti membina keupayaan sendiri dalam mengesan kerentanan AI secara bebas dan terkawal. ”Kata Zhou Hongyi.
Paradigma keselamatan mesti berubah daripada pertahanan pasif kepada imuniti aktif," kata Wu Hequan. "Kita perlu membina rangka operasi keselamatan sistematik yang merangkumi seluruh kitaran hayat ramalan, pertahanan, pengesanan, tindak balas, dan pemulihan. Kita perlu mengintegrasikan proses, personel, dan teknologi ke dalam suatu kemampuan gelung tertutup, supaya sistem keselamatan juga mempunyai persepsi ejen pintar, ramalan, dan kemampuan penyesuaian, serta mencapai peralihan daripada pembetulan selepas insiden kepada amaran awal dan halangan semasa proses.
Ini bukan sekadar hiasan tambahan, tetapi suatu pembinaan semula kemampuan yang menentukan hidup atau mati. Tanpa imuniti aktif, tiada keselamatan digital dalam era ejen pintar," kata Wu Hequan.
Zhao Zhiguo berpendapat bahawa adalah perlu memberi penekanan kepada penyelidikan dan pembangunan teknologi utama bagi keselamatan ejen pintar, memperkukuh pelaburan penyelidikan dan pembangunan dalam bidang-bidang utama seperti kebolehtafsiran algoritma, perlindungan privasi data, dan ketahanan sistem, meningkatkan keupayaan pertahanan proaktif sejak dari sumbernya, serta mengambil inisiatif dalam pembangunan. Percepat penubuhan piawaian keselamatan dan mekanisme pensijilan penilaian yang bersesuaian dengan ciri-ciri ejen pintar, laksanakan pengurusan berperingkat dan berklasifikasi terhadap ejen pintar berisiko tinggi, nyatakan sempadan tanggungjawab dalam penyelidikan dan pembangunan, penerapan, serta operasi, dan pastikan terdapat peraturan serta garis panduan yang boleh diikuti. Di bawah rangka piawaian kebangsaan, galakkan integrasi mendalam antara industri, akademik, penyelidikan dan aplikasi, serta percepat pembentukan piawaian perlindungan yang merangkumi keseluruhan kitaran hayat penyelidikan dan pembangunan ejen pintar, pelaksanaan, operasi dan penyelenggaraan.
 Beralih daripada menjual produk kepada menjual keupayaan
Mengikut laporan International Data Corporation (IDC), pasaran keselamatan siber di China telah menunjukkan pertumbuhan stabil disebabkan oleh penguatan berterusan dasar dan peraturan, peningkatan hasrat syarikat untuk melabur dalam keselamatan, serta penggunaan teknologi baharu yang semakin pesat. Dianggarkan bahawa pada tahun 2026, saiz pasaran keseluruhan akan melebihi 80 bilion yuan, dengan kadar pertumbuhan tahunan majmuk sebanyak 8.9% dari tahun 2024 hingga 2029. Keselamatan siber kini menjadi keupayaan asas yang penting dalam pembangunan ekonomi digital.
Kini, ejen pintar sedang mempercepat penembusan mereka ke dalam industri vertikal seperti kewangan, pembuatan dan penjagaan kesihatan, menjadi komponen utama sistem perniagaan sebenar. Namun, kebanyakan pengguna industri belum mempunyai keupayaan untuk membangunkan sistem pertahanan pintar sendiri, manakala pembekal keselamatan tradisional masih terbiasa menjual tembok api, alat pengesanan, dan sebagainya, menyebabkan ketidaksepadanan yang jelas antara penawaran dan permintaan.
Sesiapa yang dapat menyelesaikan transformasi daripada penyedia produk kepada penyedia perkhidmatan terlebih dahulu akan mampu memimpin dalam bidang baharu keselamatan ejen pintar," kata Wu Hequan. Syarikat keselamatan digital pada era ejen pintar mesti berpindah daripada menjual produk kepada menjual keupayaan, iaitu menyediakan perkhidmatan hos keselamatan yang merangkumi keseluruhan kitaran hayat ejen pintar, meninjau keselamatan semasa fasa pembangunan, menjalankan pemantauan masa nyata dan tindak balas terhadap aktiviti tidak normal semasa fasa operasi, serta menjalankan penilaian risiko dan memberikan cadangan penguatan semasa fasa pengulangan. Ini merupakan suatu perubahan paradigma dan halangan yang mesti diatasi oleh industri.
Zhao Zhiguo mencadangkan penubuhan satu platform keselamatan kolaboratif antara industri, akademik dan penyelidikan untuk mengintegrasikan sumber rangkaian dan mempromosikan kerjasama mendalam antara syarikat, universiti dan institusi penyelidikan dalam penyelidikan dan pembangunan teknologi keselamatan ejen pintar, kerjasama tindak balas kecemasan, serta promosi amalan terbaik. Satu corak tata kelola perlu dibina dengan panduan kerajaan, tanggungjawab korporat dan penyertaan masyarakat untuk menangani cabaran bersama dengan sikap terbuka dan kolaboratif.
Pada masa ini, syarikat-syarikat berkaitan dalam industri sedang mengambil tindakan untuk mempercepatkan pembinaan bakat baharu bagi era ejen pintar. Semasa Persidangan Keselamatan Internet ke-14, proses penganugerahan Pensyarah Bersijil Kejurutera Ejen Kebijaksanaan Buatan 360 (ADE) dan Biasiswa Khas Bakat AI Yayasan Kebajikan 360 dilancarkan secara serentak, menyediakan medium praktikal bagi pendidikan kolaboratif mendalam antara industri, universiti dan penyelidikan dari sudut pembinaan bakat dan inklusiviti pendidikan.
Zhao Zhiguo menyatakan bahawa adalah perlu untuk secara aktif mempromosikan jabatan kerajaan, syarikat utama, dan institut penyelidikan bagi mempercepatkan pembangunan piawaian industri dan piawaian kelompok dalam bidang-bidang seperti penilaian keupayaan keselamatan ejen pintar, pengelasan risiko, pematuhan keselamatan data, dan sebagainya, serta menyediakan asas institusi untuk pembangunan piawai industri dan menangani ketidakpastian risiko keselamatan dengan kepastian pembangunan berkualiti tinggi. Selain itu, kita harus secara aktif menyertai perumusan dan penyelarasan peraturan tadbir urus keselamatan kecerdasan buatan global, membina platform dialog keselamatan ejen pintar, bersama-sama meneroka jalan kolaboratif tadbir urus keselamatan siber global di era kecerdasan, bekerjasama membina komuniti masa depan bersama dalam siberangkasa, serta menyumbang kebijaksanaan dan kekuatan Cina kepada pembangunan sihat industri ejen pintar global.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp