Yapay zekâ, buluttan uç birime doğru hızlanıyor

Son zamanlarda token ekonomisi, yapay zekâ sektöründe ilgi gören sıcak bir konu haline geldi. Büyük modellerde bilgi işleme için en küçük birim olan token’ların sözel kullanımındaki üstel patlama, uç birimdeki akıllı ajan teknolojilerinin çığır açıcı gelişimini ve büyük ölçekte uygulanmasını sağlayan itici güç haline geldi; bu da yapay zekâyı buluttan uç birimlere taşımakta ve yardımcı araçlardan bağımsız ajanlara evrim geçirmesini sağlamaktadır.

Verilere göre, Mart ayı itibarıyla Çin'de anahtar kelimeler ve tonlar için günlük ortalama kullanım hacmi 14 trilyon yuanı aştı; bu da 2024 yılının başındaki 100 milyar yuana kıyasla bin kat üzerinde bir artışa denk gelmektedir. Ulusal Veri İdaresi’nden yetkili kişi, anahtar kelimeler için günlük ortalama kullanım hacmindeki önemli artışın, Çin’in yapay zekâ gelişiminin hızlı büyüme aşamasına girdiğini gösterdiğini belirtti. Aynı zamanda Çin’in yüksek kaliteli veri tedarik sistemi sürekli olarak geliştirilmektedir. 2025 yılı sonuna kadar ülke genelinde 100.000’den fazla yüksek kaliteli veri seti oluşturulacak ve toplam hacim 890 PB olacak; bu da anahtar kelime ekonomisi ile uç nokta akıllı ajanların gelişimi için sağlam bir veri temeli oluşturacaktır.

Her seferinde bir akıllı ajan düşünür, planlar ve uygular; bu süreçte leksikal öğeler tüketir. Kelime öğesi tüketiminin yüksek maliyeti, güçlü bulut bağımlılığı ve gizlilik ile güvenlik riskleri gibi sorunlarla karşılaştığında, terminal üreticileri, bu sorunları çözmek ve kelime öğesi ekonomisini 'verimlilik, düşük maliyet ve güvenlik' yönünde ilerletmek amacıyla uçtan uca akıllı ajan teknolojisini öncü olarak benimsemiştir. Son zamanlarda Honor, YOYO Claw teknolojisini duyurdu; bu, terminal tarafında çalışan bir 'lobster' yapay zekâ akıllı ajandır. Bu teknoloji, akıllı yönlendirme algoritmalarına dayanarak uç-bulut iş birliğinin kesin şekilde planlanmasını sağlar. Basit ve yüksek sıklıkta gerçekleşen görevler %100 uçtan uca yürütülür ve bu sayede kelime öğesi tüketimi sıfıra indirilir; karmaşık görevler ise ihtiyaç duyulduğunda buluta çağrılabilecek şekilde tasarlanmıştır. Bağlam optimizasyonu ve bellek eşleştirme yoluyla verim artırılabilir ve kullanıcı maliyetleri önemli ölçüde azaltılabilir.

Akıllı kabinin daha yüksek seviyelere evrilme sürecinde karşılaşılan üç ana zorluk, hesaplama gücüne olan artan talep, yüksek bulut maliyetleri ve karmaşık geliştirme sürecidir. SenseTime Jueying tarafından tanıtılan Sage Box bu sorunlara bir çözüm sunuyor. SenseTime Jueying'in Baş Teknoloji Yöneticisi (CTO) Xiao Feng, cihazın araç tarafında karmaşık akıllı ajan yeteneklerini gerçekleştiren büyük bir temel modelle donatıldığını ve "sıfır token maliyeti"ni sağladığını açıkladı. Hesaplamalara göre, tek bir araç günlük olarak yaklaşık 30 yuan bulut maliyeti tasarrufu sağlayabiliyor; büyük ölçekli dağıtım yapıldığında ise her 10.000 araç için yıllık tasarruf 100 milyon yuan'ı aşabiliyor. Sistem yanıt süresi 0,5 saniyeye kadar kısaltılabilir.

Yapay zekânın gelişimi, işlem gücü ağları ve altyapının iş birliğine dayalı desteklenmesinden ayrılamaz. Çin Mobil'in yüksek hızlı veri ağı, temel prensibi olarak "yüksek hızlı dolaşım, güvenli yerel üretim ve uyumlu izlenebilirlik"i benimser; bu sayede işletme düzeyinde çapraz ağ ve eyaletler arası ikinci seviye bağlantıyı sağlar, veri dolaşımının tamamen izlenebilir olmasını garanti eder ve veri iletim verimliliğini ile işletme tepki hızını büyük ölçüde artırır.

Çin Mobile Dijital Zekâ Bölümü Başkan Yardımcısı Liu Hong, ilk parti yüksek hızlı veri ağ çözümlerinin Tianjin, Suzhou ve Ganzhou gibi şehirlerde uygulandığını açıkladı; bu çözümler, yeni enerjili araç (NEV) veri entegrasyon uygulamaları, bankacılık ve finansal risk kontrolü, meteorolojik verilerin verimli dolaşımı ve veri akışı operasyon hizmetleri gibi kritik senaryoların inşasını başarıyla destekledi ve veri işlem teslimatının çevrimdışıdan çevrimiçiye geçişini kolaylaştırdı.

Çin Sosyal Bilimler Akademisi Sosyoloji Enstitüsü'nden araştırmacı Lv Peng, sözcük ekonomisinin patlaması ile uç akıllı ajanların gelişiminin birbirini desteklediğine inanıyor. Söz dizimi ekonomisi, uç akıllı ajanları 'kapsayıcılık ve verimlilik' yönüne doğru yönlendirerek yapay zekâ hizmetlerinin değer demirleme noktasını oluşturuyor ve akıllı ajanları basit teknik kavramlardan ölçülebilir bir üretkenliğe dönüştürüyor. Kullanıcıların anahtar kelime kullanım maliyetlerini azaltmak amacıyla uç cihaz üreticileri, uçtan uca işlem gücüne ve sistem düzeyinde optimizasyona odaklanıyor; ayrıca yazılım-donanım iş birliğiyle anahtar kelime dönüşüm oranlarını artırıyor. Akıllı ajanları sıfırdan kullanıma hazır, sıradan kullanıcılar için samimi yardımcılar haline getirmek, yapay zekânın tüketici pazarında yerleşimini sağlamıştır.

PC'ler, otomobiller ve akıllı evler gibi alanlarda uç nokta akıllı ajanların sürekli yayılmasıyla birlikte, kelime öğelerini "yakıt" olarak ve uç nokta hesaplama gücünü "motor" olarak kullanan yeni bir yapay zekâ ekosistemi gerçekliğe hızla kavuşuyor. Lv Peng, Ci Yuan gelişiminin hâlâ üç büyük eksiklikle karşı karşıya olduğunu belirtti: Birincisi, maliyet ve enerji tüketimi baskıları; yani hesaplama gücü tedariki ve elektrik maliyetleri, Ci Yuan'ın büyük ölçekte yaygınlaşmasının hâlâ sert kısıtlamaları olmaya devam ediyor. İkincisi, akıllı ajanların sık sık çağrı yapmasından kaynaklanan veri sızıntısı ve izinlerin kötüye kullanımı gibi güvenlik ve gizlilik riskleri, sistematik olarak önlenmesi acil gereken konulardır. Üçüncüsü, standartlar ve ekosistem eksikliği; yani sözcüksel öğelerin ölçülmesi ve fiyatlandırılması için birleşik standartların bulunmaması ile endüstriyel ekosistemin henüz olgunlaşmamış olmasıdır. Lv Peng, "Yalnızca bu eksiklikler giderildiğinde Ci Yuan ekonomisi istikrar kazanacak ve uzun vadeli başarıya ulaşacaktır." dedi.