Cùng với việc công nghệ trí tuệ nhân tạo được cập nhật nhanh chóng, các tác nhân thông minh — với vai trò là phương tiện quan trọng thúc đẩy sự tích hợp sâu sắc giữa trí tuệ nhân tạo và nền kinh tế thực — đang tác động mạnh mẽ đến cách sản xuất và lối sống, đồng thời tái cấu trúc các ranh giới an ninh.
Cùng với việc công nghệ trí tuệ nhân tạo được cập nhật nhanh chóng, các tác nhân thông minh — với vai trò là phương tiện quan trọng thúc đẩy sự tích hợp sâu sắc giữa trí tuệ nhân tạo và nền kinh tế thực — đang tác động mạnh mẽ đến cách sản xuất và lối sống, đồng thời tái cấu trúc các ranh giới an ninh.
Tại Hội nghị An ninh Internet lần thứ 14 vừa được tổ chức gần đây, các chuyên gia nhấn mạnh rằng cần vận dụng công nghệ cốt lõi để giải quyết những vấn đề then chốt, nâng cao năng lực nội tại, xây dựng hàng rào vững chắc thông qua thiết lập hệ thống và quy tắc, đồng thời dẫn dắt chuẩn mực ngành bằng việc xây dựng hệ thống tiêu chuẩn, từ đó kiến tạo con đường phát triển hài hòa giữa tăng trưởng và an ninh trong kỷ nguyên của các tác nhân.
Các tác nhân thông minh mang lại những rủi ro mới
Hiện nay, trí tuệ nhân tạo đang trải qua một bước chuyển trọng yếu từ các mô hình lớn sang các tác nhân thông minh. Khi các tác nhân thông minh bắt đầu đưa ra quyết định tự chủ, gọi các công cụ và thực hiện nhiệm vụ, các rủi ro an ninh cũng đồng thời phát sinh.
"So sánh với các hệ thống thông tin trước đây, các tác nhân (agents) giờ đây không còn là công cụ hỏi-đáp để thực hiện thụ động nữa, mà được trang bị khả năng nhận thức, ra quyết định và thực thi một cách độc lập. Bước nhảy vọt về đặc điểm công nghệ này đã làm thay đổi sâu sắc cục diện tấn công và phòng thủ trong an ninh mạng." ông Triệu Chí Quốc, Phó Chủ tịch Hiệp hội Internet Trung Quốc và cựu Kỹ sư trưởng của Bộ Công nghiệp và Công nghệ Thông tin, phát biểu.
Khi các tác nhân thông minh ngày càng thâm nhập nhanh chóng vào những lĩnh vực then chốt như sản xuất, tài chính và năng lượng, bất kỳ rủi ro an ninh nào cũng có thể gây ra phản ứng dây chuyền trên diện rộng qua mạng lưới và giữa các ngành trong thời gian ngắn nhờ khả năng lên lịch tự chủ của các tác nhân thông minh, từ đó đặt ra yêu cầu cao hơn đối với việc phòng ngừa rủi ro và ứng phó khẩn cấp.
Triệu Chí Quốc phát biểu rằng một khi các tác nhân thông minh có khả năng ra quyết định tự chủ, các rủi ro an ninh sẽ mở rộng từ "sự cố kỹ thuật" sang "mất kiểm soát trong ra quyết định". Khi các sai lệch hoặc nhiễu loạn xảy ra, các tác nhân thông minh có thể thực hiện những hành động lệch khỏi kỳ vọng của con người, và hậu quả là không thể dự đoán được. Rủi ro nội sinh này đặt ra một thách thức căn bản đối với khả năng kiểm soát an toàn. Ngoài ra, các tác nhân thông minh vận hành tự chủ trong hệ thống theo cách thức mang tính nhân văn rất cao, khiến các cơ chế tin cậy dựa trên danh tính truyền thống đối mặt với nguy cơ thất bại. Khi các tác nhân thông minh ký hợp đồng, thực hiện giao dịch và gọi tài nguyên một cách tự chủ, việc xác định trách nhiệm an ninh cũng như mô tả hành vi trái phép đã trở thành những vấn đề thực tiễn cấp bách cần được giải quyết.
Theo Wu Hequan, vien si cua Hoi Dong Khoa Hoc Ky Thuat Trung Quoc (CAE) va Chu Tich Danh Du Hoi Nghi An Toan Mang, cac cuoc tan cong bang dai dien the hien dac diem ky thuat ve quyet dinh doc lap, hop tac tap the va phat trien lien tuc. Cac cuoc tan cong mang truyen thong phu thuoc rat nhieu vao thao tac bang tay, trong khi cac cuoc tan cong duoc dieu khien boi dai dien hoan toan thay doi mau hinh nay.
Cu the hon, cac dai dien thong minh co kha nang tu nhan thuc moi truong, len ke hoach duong di tan cong va thuc hien cac nhiem vu xam nhap; dong thoi, nhieu dai dien co the chia se thong tin va hop tac voi nhau. Kieu tan cong tap the nay co the duoc phat dong dong thoi tu nhieu cua vao trong mot khoang thoi gian rat ngan, lam cho cac he thong phong thu khong kip phan ung. Dieu can canh giac hon nua la cac dai dien thong minh co kha nang hoc hoi va tu hoan thien lien tuc; moi lan doi dau giua tan cong va phong thu deu tro thanh lieu pham de chung toi uu hoa, va cac phuong phap tan cong lien tuc thay doi theo thoi gian.
Châu Hồng Nghị, người sáng lập Tập đoàn 360 và Chủ tịch Hội nghị An ninh Internet, cho rằng trí tuệ nhân tạo đã làm thay đổi ngành an ninh mạng. Lấy mô hình Mythos làm ví dụ, khả năng khai thác lỗ hổng và xây dựng chuỗi tấn công hoàn toàn tự động đã tăng tốc độ phát hiện lỗ hổng lên gấp trăm lần và giảm chi phí xuống dưới một phần nghìn.
Sự chuyển đổi trong tư duy an ninh số
Giả mạo danh tính, lỗi mô hình, lỗ hổng quản lý quyền hạn, tống tiền ác ý… Khi các tác nhân thông minh bước vào giai đoạn ứng dụng thương mại, nhiều rủi ro mới liên tục xuất hiện. Đồng thời, các rủi ro như khai thác dữ liệu tiềm ẩn do trí tuệ nhân tạo điều khiển cũng ảnh hưởng đến độ chính xác của mô hình và độ tin cậy của quyết định.
Triệu Xuân Giang, viện sĩ của Viện Kỹ thuật Trung Quốc và Phó Chủ tịch Hiệp hội Trí tuệ Nhân tạo Trung Quốc, giới thiệu rằng các rủi ro an ninh hệ thống AI bao quát bốn chiều: lớp dữ liệu, lớp mô hình, lớp ứng dụng và lớp nền tảng. Các vấn đề an ninh mà mỗi chiều gặp phải cũng khác nhau, do đó cần áp dụng các biện pháp có tính mục tiêu.
Theo Ngô Hà Toàn, trong một thời gian dài, tư duy công tác an ninh luôn là dập lửa ở đâu thì xuất hiện ở đó. Mô thức phản ứng bị động này có thể chịu đựng được các cuộc tấn công do con người thực hiện, nhưng trước các cuộc tấn công liên tục từ các cụm tác nhân thông minh, tốc độ phản ứng luôn chậm hơn nửa nhịp.
Ai mạnh hơn trong quá khứ và ai sẽ nhanh hơn trong tương lai? Trung Quốc phải xây dựng năng lực khai thác lỗ hổng AI độc lập và kiểm soát được. ”Chu Hồng Nghị phát biểu.
Mô hình an ninh phải chuyển từ phòng thủ thụ động sang miễn dịch tích cực, "Wu Hequan nói". Chúng ta cần xây dựng một khuôn khổ hoạt động an ninh có hệ thống bao gồm toàn bộ vòng đời dự đoán, phòng thủ, phát hiện, phản ứng và phục hồi. Chúng ta cần tích hợp các quy trình, nhân viên và công nghệ vào khả năng vòng kín, để hệ thống an ninh cũng có thể có khả năng nhận thức, dự đoán và thích nghi thông minh, và đạt được sự chuyển đổi từ sau khắc phục đến cảnh báo trước và chặn trong quá trình.
Đây không chỉ là bánh tráng lệ, mà là một sự tái tạo khả năng sống và chết. Không có khả năng miễn dịch hoạt động, không thể có an ninh kỹ thuật số trong thời đại của các đại lý thông minh, "Wu Hequan nói.
Triệu Chí Quốc cho rằng cần chú trọng nghiên cứu và phát triển các công nghệ cốt lõi nhằm đảm bảo an ninh cho tác nhân thông minh, tăng cường đầu tư nghiên cứu trong những lĩnh vực then chốt như khả năng giải thích thuật toán, bảo vệ quyền riêng tư dữ liệu và độ bền vững của hệ thống, từ đó nâng cao năng lực phòng thủ chủ động ngay từ gốc và chủ động nắm bắt xu thế phát triển. Cần đẩy nhanh việc thiết lập các tiêu chuẩn an ninh và cơ chế đánh giá, chứng nhận phù hợp với đặc điểm của các tác nhân thông minh; áp dụng quản lý phân cấp, phân loại đối với các tác nhân thông minh có rủi ro cao; làm rõ ranh giới trách nhiệm trong các giai đoạn nghiên cứu và phát triển, triển khai cũng như vận hành; đồng thời đảm bảo mọi hoạt động đều có quy tắc và quy định rõ ràng để tuân theo. Trong khuôn khổ tiêu chuẩn quốc gia, thúc đẩy tích hợp sâu rộng giữa ngành công nghiệp – giáo dục – nghiên cứu – ứng dụng, từ đó đẩy nhanh việc hình thành các tiêu chuẩn bảo vệ bao quát toàn bộ vòng đời nghiên cứu và phát triển, triển khai, vận hành và bảo trì tác nhân thông minh.
Chuyển từ bán sản phẩm sang bán năng lực
Theo một báo cáo của International Data Corporation (IDC), thị trường an ninh mạng Trung Quốc đã duy trì tăng trưởng ổn định nhờ việc liên tục tăng cường chính sách và quy định, sự sẵn sàng đầu tư nhiều hơn vào an ninh của các doanh nghiệp cũng như việc ứng dụng nhanh chóng các công nghệ mới. Dự kiến đến năm 2026, quy mô tổng thể của thị trường sẽ vượt quá 80 tỷ nhân dân tệ, với tốc độ tăng trưởng kép hàng năm (CAGR) đạt 8,9% trong giai đoạn từ năm 2024 đến năm 2029. An ninh mạng đã trở thành một năng lực nền tảng thiết yếu trong quá trình phát triển kinh tế số.
Hiện nay, các tác nhân thông minh đang đẩy nhanh việc thâm nhập vào các ngành dọc như tài chính, sản xuất và chăm sóc sức khỏe, trở thành những thành phần cốt lõi trong các hệ thống kinh doanh thực tế. Tuy nhiên, phần lớn người dùng trong ngành vẫn chưa có khả năng phát triển các hệ thống phòng thủ thông minh riêng, trong khi các nhà cung cấp an ninh truyền thống vẫn quen bán các sản phẩm như tường lửa, công cụ phát hiện, v.v., dẫn đến sự chênh lệch rõ rệt giữa cung và cầu.
Người nào có thể hoàn thành việc chuyển đổi từ nhà cung cấp sản phẩm sang nhà cung cấp dịch vụ trước tiên sẽ có thể dẫn đầu trong lĩnh vực mới là an ninh tác nhân thông minh," ông Ngô Hòa Toàn phát biểu. Các doanh nghiệp an ninh số trong thời đại của các tác nhân thông minh phải chuyển từ việc bán sản phẩm sang bán năng lực, tức là cung cấp các dịch vụ lưu trữ an ninh bao quát toàn bộ vòng đời của các tác nhân thông minh: đánh giá an ninh trong giai đoạn phát triển, thực hiện giám sát thời gian thực và phản ứng với các bất thường trong giai đoạn vận hành, tiến hành đánh giá rủi ro và đề xuất các giải pháp tăng cường trong giai đoạn cải tiến. Đây là một sự thay đổi mô hình và cũng là một trở ngại mà ngành công nghiệp buộc phải vượt qua.
Triệu Chí Quốc đề xuất nên thành lập một nền tảng an ninh hợp tác giữa ngành công nghiệp, giới học thuật và nghiên cứu nhằm tích hợp các nguồn lực mạng và thúc đẩy hợp tác sâu rộng giữa các doanh nghiệp, trường đại học và tổ chức nghiên cứu trong lĩnh vực nghiên cứu và phát triển công nghệ an ninh cho tác nhân thông minh, phối hợp ứng phó khẩn cấp cũng như phổ biến các thực hành tốt nhất. Cần xây dựng một mô hình quản trị dựa trên sự định hướng của chính phủ, trách nhiệm của doanh nghiệp và sự tham gia của xã hội để giải quyết những thách thức chung với tinh thần cởi mở và hợp tác.
Hiện nay, các doanh nghiệp liên quan trong ngành đang hành động nhằm đẩy nhanh việc đào tạo nhân tài mới cho thời đại các tác tử thông minh. Trong khuôn khổ Hội nghị An ninh Mạng lần thứ 14, quy trình trao chứng nhận Giảng viên Kỹ sư Tác tử Trí tuệ Nhân tạo (ADE) của 360 và Học bổng Đặc biệt về Nhân tài AI của Quỹ Từ thiện 360 đã được khởi động đồng thời, tạo nên một phương tiện thực tiễn để thúc đẩy giáo dục hợp tác sâu rộng giữa ngành công nghiệp – trường đại học – viện nghiên cứu từ hai góc độ: đào tạo nhân tài và phổ cập giáo dục.
Triệu Chí Quốc phát biểu rằng cần chủ động thúc đẩy các cơ quan chính phủ, các doanh nghiệp đầu ngành và các viện nghiên cứu đẩy nhanh việc xây dựng tiêu chuẩn ngành và tiêu chuẩn nhóm trong các lĩnh vực như đánh giá năng lực an ninh của tác nhân thông minh, phân loại rủi ro, tuân thủ an ninh dữ liệu… nhằm cung cấp cơ sở thể chế cho sự phát triển chuẩn hóa của ngành và giải quyết tính bất định của các rủi ro an ninh bằng tính xác định của sự phát triển chất lượng cao. Bên cạnh đó, chúng ta cần tích cực tham gia vào việc soạn thảo và điều phối các quy tắc toàn cầu về quản trị an ninh trí tuệ nhân tạo, xây dựng nền tảng đối thoại về an ninh tác nhân thông minh, cùng nhau khám phá con đường hợp tác trong quản trị an ninh mạng toàn cầu thời đại trí tuệ, chung tay kiến tạo cộng đồng tương lai chung trên không gian mạng, đồng thời đóng góp trí tuệ và sức mạnh Trung Quốc vào sự phát triển lành mạnh của ngành tác nhân thông minh toàn cầu.