Tüm Kategoriler

Akıllı ajanların gelişimi için güvenli bir savunma hattı inşa etmek

2026-11-18
Yapay zekâ teknolojisinin hızlı yinelemesiyle birlikte, akıllı ajanlar, yapay zekânın gerçek ekonomiyle derin entegrasyonunun önemli taşıyıcısı olarak üretim ve yaşam biçimlerini derinden etkiliyor ve güvenlik sınırlarını yeniden tanımlıyor.
Yapay zekâ teknolojisinin hızlı yinelemesiyle birlikte, akıllı ajanlar, yapay zekânın gerçek ekonomiyle derin entegrasyonunun önemli taşıyıcısı olarak üretim ve yaşam biçimlerini derinden etkiliyor ve güvenlik sınırlarını yeniden tanımlıyor.
Son zamanlarda düzenlenen 14. İnternet Güvenliği Konferansı’nda uzmanlar, temel teknolojileri kullanarak kritik sorunlara çözüm bulmak, iç yetenekleri güçlendirmek, sistem ve kurallarla sağlam bir bariyer oluşturmak ve standart sistem inşasıyla sektör normlarını yönlendirmek gerektiğini belirtti; böylece ajan çağında koordine gelişim ve güvenlik yolunu oluşturmak mümkün olur.
  Akıllı ajanlar yeni riskler getiriyor
Şu anda yapay zekâ, büyük modellerden akıllı ajanlara geçiş sürecinde kritik bir dönüm noktasındadır. Akıllı ajanlar bağımsız karar vermeye, araçları çağırmaya ve görevleri yerine getirmeye başladıkça güvenlik riskleri de ortaya çıkmaktadır.
"Geçmiş bilgi sistemleriyle karşılaştırıldığında, ajanlar artık pasif yürütme için bir soru-cevap aracı değil; bağımsız algılama, karar verme ve yürütme yeteneği kazandırılmıştır. Bu teknolojik özellikteki sıçrama, siber güvenlikte saldıran ve savunan tarafların durumunu derinden değiştirmiştir." dedi Zhao Zhiguo, Çin İnternet Derneği Başkan Yardımcısı ve Endüstri ve Bilgi Teknolojisi Bakanlığı eski Baş Mühendisi.
Üretim, finans ve enerji gibi kritik alanlara akıllı ajanların hızla yayılmasıyla birlikte, herhangi bir güvenlik riski, akıllı ajanların otonom planlama yeteneği sayesinde kısa sürede ağlar ve sektörler arasında zincirleme bir tepkiye neden olabilir; bu da risk önleme ve acil durum müdahaleleri açısından daha yüksek gereksinimler doğurur.
Zhao Zhiguo, akıllı ajanların bağımsız karar verme yeteneğine sahip hale gelmeleri durumunda güvenlik risklerinin "teknik arızalardan" "karar vermede kontrol kaybına" kadar genişlediğini belirtti. Bir sapma veya bozulma meydana geldiğinde akıllı ajanlar insan beklentilerinden sapacak eylemler gerçekleştirebilir ve sonuçlar tahmin edilemez olabilir. Bu içsel risk, güvenliğin kontrol edilebilirliği açısından temel bir zorluk oluşturur. Ayrıca akıllı ajanlar sistem içinde son derece insani bir biçimde bağımsız olarak çalışır ve geleneksel kimlik tabanlı güven mekanizmaları başarısızlık riskiyle karşı karşıyadır. Akıllı ajanlar sözleşmeleri bağımsız olarak imzaladığında, işlemler gerçekleştirdiğinde ve kaynakları çağırdığında güvenlik sorumluluklarının nasıl tanımlanacağı ile yetkisiz davranışların nasıl karakterize edileceği acil pratik sorunlar haline gelmiştir.
CAE Üyesi Akademisyen ve İnternet Güvenliği Konferansı Onur Başkanı Wu Hequan’a göre, ajan saldırıları bağımsız karar verme, küme iş birliği ve sürekli evrim gibi teknik özellikler gösterir. Geleneksel siber saldırılar büyük ölçüde manuel işlemlere dayanırken, ajan odaklı saldırılar bu kalıbı temelden değiştirir.
Özellikle akıllı ajanlar ortamı otomatik olarak algılayabilir, saldırı yollarını planlayabilir ve penetrasyon görevlerini gerçekleştirebilir; ayrıca birden fazla ajan bilgi paylaşabilir ve iş birliği yapabilir. Bu küme saldırısı çok kısa bir süre içinde birden fazla giriş noktasından aynı anda başlatılabilir ve savunma sistemlerini tepki vermeye yorgun düşürebilir. Daha dikkatli olunması gereken nokta ise akıllı ajanların sürekli öğrenme ve yineleme yeteneğine sahip olmasıdır; her saldırı ve savunma çatışması, onların optimizasyonu için birer malzeme haline gelir ve saldırı yöntemleri zaman içinde sürekli değişir.
360 Grubu kurucusu ve İnternet Güvenliği Konferansı başkanı Zhou Hongyi, yapay zekânın siber güvenlik sektöründe bakım maliyetlerini düşürdüğünü düşünüyor. Mythos modelini örnek alarak, tam otomatikleştirilmiş güvenlik açığı keşfi ve saldırı zinciri oluşturma yeteneklerinin güvenlik açığı tespit hızını iki katına çıkardığını ve maliyetleri binde birin altına indirdiğini belirtiyor.
  Dijital güvenlik düşüncesi dönüşümü
Kimlik sahteciliği, model başarısızlığı, izin yönetimi güvenlik açıkları, kötü niyetli şantaj... Akıllı ajanlar ticari uygulama aşamasına girdikçe çeşitli yeni riskler ortaya çıkmaya devam ediyor. Aynı zamanda yapay zeka tarafından yönlendirilen gizli veri madenciliği gibi riskler de model doğruluğunu ve karar güvenilirliğini etkiliyor.
CAE Üyesi ve Çin Yapay Zeka Derneği Başkan Yardımcısı Zhao Chunjiang, yapay zeka sistemi güvenlik risklerinin dört boyutu—veri katmanı, model katmanı, uygulama katmanı ve temel katman—kapsadığını açıkladı. Farklı boyutların karşılaştığı güvenlik sorunları da farklıdır ve bu nedenle hedefe yönelik önlemler alınması gerekir.
Wu Hequan’ın görüşüne göre, uzun süredir güvenlik çalışmaları felsefesi yangın çıktıkça söndürme yaklaşımına dayanmaktadır. Bu pasif tepki modu insan saldırılarına karşı dayanabilir; ancak akıllı ajan kümelerinden kaynaklanan yoğun saldırılar karşısında tepki süresi her zaman bir yarım vuruş geridedir.
Geçmişte kim daha güçlüydü, gelecekte kim daha hızlı olacak? Çin, bağımsız ve kontrol edilebilir yapay zeka zafiyet tarama yeteneği geliştirmelidir.” Zhou Hongyi dedi.
Güvenlik anlayışı, pasif savunmadan aktif bağışıklığa doğru kaydırmalıdır," dedi Wu Hequan. Tahmin, savunma, tespit, tepki ve iyileşme olmak üzere tüm yaşam döngüsünü kapsayan sistematik bir güvenlik operasyon çerçevesi kurmamız gerekmektedir. Süreçleri, personeli ve teknolojiyi kapalı döngülü bir yetenek haline getirmemiz gerekir; böylece güvenlik sistemi aynı zamanda akıllı ajan algısı, tahmini ve uyarlanabilir yeteneklere sahip olur ve müdahale sonrası düzeltmeden önceden uyarıya ve işlem sırasında engellemeye geçiş sağlanır.
Bu, sadece bir süsleme değil, yeteneklerin yaşam ya da ölümle sonuçlanacak şekilde yeniden inşasıdır. Akıllı ajanlar çağındaki dijital güvenliği sağlamak için aktif bağışıklık olmadan hiçbir şey mümkün değildir," dedi Wu Hequan.
Zhao Zhiguo, akıllı ajan güvenliği için temel teknolojilerin araştırma ve geliştirilmesine öncelik verilmesinin gerekli olduğuna inanıyor; algoritma yorumlanabilirliği, veri gizliliği koruması ve sistem dayanıklılığı gibi kritik alanlarda araştırma ve geliştirme yatırımlarını artırarak, kaynaktan itibaren proaktif savunma kapasitesini güçlendirmeli ve gelişimde liderlik etmelidir. Akıllı ajanların özelliklerine uygun güvenlik standartları ve değerlendirme sertifikasyon mekanizmalarının oluşturulmasını hızlandırmalı, yüksek riskli akıllı ajanlar için seviyeye ve sınıfa göre yönetim uygulamalı, araştırma ve geliştirme, dağıtım ve işletme süreçlerinde sorumluluk sınırlarını netleştirmeli ve kurallara ve düzenlemelere bağlı kalınmasını sağlamalıdır. Ulusal standart çerçevesi altında, sanayi, akademi, araştırma ve uygulama arasındaki derin entegrasyonu teşvik ederek, akıllı ajanların araştırma ve geliştirme, uygulama, işletme ve bakım süreçlerini kapsayan yaşam döngüsü boyunca geçerli koruma standartlarının oluşumunu hızlandırmalıdır.
 Ürün satışı yerine yetenek satışı yapmaya geçiş
Uluslararası Veri Merkezi (IDC) raporuna göre, Çin siber güvenlik pazarı, politika ve düzenlemelerin sürekli güçlenmesi, işletmelerin güvenlik yatırımlarına yönelik isteklerinin artması ve yeni teknolojilerin uygulanmasının hızlanması nedeniyle dengeli bir büyüme göstermeye devam etmektedir. 2026 yılına kadar toplam pazar büyüklüğünün 80 milyar yuan’ı aşması beklenmekte olup, 2024–2029 dönemi boyunca bileşik yıllık büyüme oranı %8,9 olarak öngörülmektedir. Siber güvenlik, dijital ekonomi gelişiminin temel ve vazgeçilmez bir yeteneği haline gelmiştir.
Şu anda akıllı ajanlar, finans, imalat ve sağlık gibi dikey sektörlerde yayılmalarını hızlandırıyor ve gerçek iş sistemlerinin temel bileşenleri haline geliyor. Ancak çoğu sektör kullanıcısı henüz kendi akıllı savunma sistemlerini geliştirme yeteneğine sahip değil; geleneksel güvenlik sağlayıcıları ise hâlâ güvenlik duvarları, tespit araçları vb. ürünleri satmaya alışkın durumda, bu da arz ile talep arasında açık bir uyumsuzluğa yol açıyor.
Ürün sağlayıcısından hizmet sağlayıcısına dönüşümü ilk tamamlayan kişi, akıllı ajan güvenliği alanında yeni alanda öncülüğü ele geçirebilecek," dedi Wu Hequan. Akıllı ajanlar çağındaki dijital güvenlik şirketleri, ürün satışı yerine yetenek satışı yapmaya geçmelidir; bu da akıllı ajanların tüm yaşam döngüsünü kapsayan güvenlik barındırma hizmetleri sunmayı, geliştirme aşamasında güvenliği incelemeyi, işletme aşamasında gerçek zamanlı izleme ve anormal durumlara yanıt vermeyi, yineleme aşamasında risk değerlendirmeleri yapmayı ve güçlendirme önerileri sunmayı içerir. Bu bir paradigma değişimidir ve sektörün aşması gereken bir engeldir.
Zhao Zhiguo, akıllı ajan güvenlik teknolojisi araştırması ve geliştirilmesi, acil durum tepkisi iş birliği ile en iyi uygulamaların yaygınlaştırılması konularında endüstri, akademi ve araştırma kurumları arasında derin iş birliğini teşvik etmek amacıyla ağ kaynaklarını entegre eden ortak bir güvenlik platformunun oluşturulmasını önerdi. Ortak zorluklarla açık ve iş birlikçi bir tutumla başa çıkmak için hükümet rehberliği, şirket sorumluluğu ve toplumsal katılım temelinde bir yönetim modeli oluşturulmalıdır.
Şu anda ilgili sektör kuruluşları, akıllı ajanlar çağı için yeni yeteneklerin yetiştirilmesini hızlandırmak amacıyla harekete geçmektedir. 14. İnternet Güvenliği Konferansı sırasında 360 Yapay Zeka Ajan Mühendisi (ADE) sertifikalı eğitmen ve 360 Kamu Yararı Vakfı Yapay Zeka Yetenekleri Özel Bursu ödüllendirme süreçleri aynı anda başlatıldı; bu da yetenek geliştirme ve eğitim eşitliği açısından sanayi, üniversite ve araştırma iş birliğinin derinleşmesi için somut bir platform sağlamaktadır.
Zhao Zhiguo, akıllı ajan güvenlik yeteneği değerlendirmesi, risk sınıflandırması, veri güvenliği uyumluluğu gibi alanlarda endüstri standartlarının ve grup standartlarının geliştirilmesini hızlandırmak amacıyla hükümet departmanlarını, öncü işletmeleri ve araştırma enstitülerini aktif olarak teşvik etmenin gerekli olduğunu belirtti; bu da sektörün standartlaştırılmış gelişimi için kurumsal bir temel oluşturur ve güvenlik risklerinin belirsizliğini yüksek kaliteli gelişimin kesinliğiyle giderir. Ayrıca küresel yapay zeka güvenlik yönetimi kurallarının hazırlanması ve koordinasyonuna aktif olarak katılmak, akıllı ajan güvenlik diyalog platformu kurmak, akıllı çağda küresel siber güvenlik yönetimi için iş birliği yollarını ortaklaşa keşfetmek, siber uzayda ortak bir gelecek topluluğu inşa etmek ve küresel akıllı ajan sektörünün sağlıklı gelişimine Çin bilgeliğini ve gücünü katkıda bulunmak gerekmektedir.

Facebook Facebook
Facebook
Whatsapp Whatsapp
Whatsapp