A mesterséges intelligencia gyorsulása a felhőből a terminálra

Nemrégiben a token-gazdaság a mesterséges intelligencia iparág egyik legforróbb témájává vált. Mint a nagy modellekben az információfeldolgozás legkisebb egysége, a lexikális tokenek felhasználásának exponenciális növekedése lett a terminális intelligens ügynöktechnológia áttörésének és nagy léptékű bevezetésének hajtóereje, elősegítve a mesterséges intelligencia átmozdulását a felhőből a terminálra, valamint fejlődését segéd eszközökből önálló ügynökökké.

Az adatok szerint márciusig Kínában a kulcsszavak és hangok napi átlagos felhasználása meghaladta a 14 trillió jüan-t, ami több mint ezerszeres növekedést jelent a 2024 elején regisztrált 100 milliárd jüanhoz képest. A Nemzeti Adatigazgatás felelős személye kijelentette, hogy a kulcsszavak napi átlagos felhasználásának jelentős növekedése a mesterséges intelligencia gyors fejlődési szakaszát jelzi Kínában. Ugyanakkor Kína minőségi adatszállítási rendszere folyamatosan javul. 2025 végére országos szinten több mint 100 000 minőségi adatkészletet hoznak létre, amelyek össztérfogata 890 PB lesz, így szilárd adatalapot teremtve a kulcsszó-gazdaság és a végponti intelligens ügynökök fejlődéséhez.

Minden alkalommal, amikor egy intelligens ügynök gondolkodik, tervez és végrehajt, lexikális elemeket fogyaszt. A magas szóelem-fogyasztási költségek, az erős felhőfüggőség, valamint az adatvédelmi és biztonsági kockázatok okozta problémákra reagálva a terminálgyártók vezető szerepet vállaltak az end-to-end intelligens ügynöktechnológia alkalmazásában a problémák megoldására és a szóelem-gazdaság fejlődésének elősegítésére az „hatékonyság, alacsony költség és biztonság” irányába. Nemrégiben a Honor bemutatta a YOYO Claw technológiát, egy termináloldali „rák” AI intelligens ügynököt. Ez a technológia intelligens útválasztási algoritmusokra támaszkodik az eszköz–felhő együttműködés pontos ütemezésének eléréséhez. Az egyszerű és gyakori feladatok 100%-osan end-to-end módon hajtódnak végre, így a lexikális elemek fogyasztása nulla; a bonyolultabb feladatok igény szerint hívhatók a felhőbe, és a hatékonyság javítható a kontextusoptimalizálással és a memóriaillesztéssel, ami jelentősen csökkenti a felhasználói költségeket.

Az intelligens kabinok magasabb szintre fejlődésének folyamatában három fő kihívással kell szembenézni: a számítási teljesítmény iránti kereslet robbanásszerű növekedése, a felhőalapú szolgáltatások magas költségei és a fejlesztés bonyolultsága. A SenseTime Jueying által bemutatott Sage Box megoldást kínál ezek leküzdésére. Xiao Feng, a SenseTime Jueying vezető technológiai tisztje (CTO), bemutatta, hogy az eszköz egy nagy alapmodellt tartalmaz, amely összetett intelligens ügynök-képességeket valósít meg a jármű oldalán, és elérhetővé teszi a „nulla tokenköltséget”. Számítások szerint egy jármű naponta körülbelül 30 jüan megtakarítást ér el a felhőalapú költségek területén, és nagy léptékű telepítés esetén 10 000 jármű esetében évente több mint 100 millió jüan megtakarítás érhető el. A rendszer válaszideje 0,5 másodpercre csökkenthető.

A mesterséges intelligencia fejlesztése nem választható el a számítási teljesítmény-hálózatok és az infrastruktúra együttműködő erősítésétől. A China Mobile nagysebességű adathálózata a „nagysebességű keringés, biztonságos belső rendszer és megfelelőséget biztosító nyomon követhetőség” elvet teszi központjába, és üzleti szinten kereszt-hálózati és kereszt-provinciális másodperces összeköttetést valósít meg, biztosítva az adatkeringés teljes nyomon követhetőségét, és jelentősen növelve az adatátvitel hatékonyságát és az üzleti reakciósebességet.

Liu Hong, a Kínai Mobil Digitális Intelligencia Osztályának helyettes általános igazgatója bevezette, hogy az első tétel nagysebességű adathálózati megoldásokat már bevezették olyan városokban, mint Tiencsin, Szucsu és Kan-csou, és így sikeresen elősegítették a kulcsfontosságú forgatókönyvek – például az új energiájú járművek adatainak integrált alkalmazásai, a bank- és pénzügyi kockázatkezelés, az időjárásadatok hatékony cirkulációja, valamint az adatfolyam-működtetési szolgáltatások – építését, továbbá hozzájárultak az adattranzakciók szállításának átalakításához a hagyományos, offline módról az online módba.

Lv Peng, a szociológiai intézet kutatója a Kínai Társadalomtudományi Akadémián, úgy véli, hogy a lexikális gazdaság robbanásszerű növekedése és a végponti intelligens ügynökök fejlődése kölcsönösen erősítik egymást. A kifejezés-gazdaság a végponti intelligens ügynököket az „inkluzivitás és hatékonyság” irányába tereli, meghatározva az MI-szolgáltatások értékorientációját, és átalakítva az intelligens ügynököket egyszerű technikai fogalmakból mérhető termelékenységgé. A kulcsszavak felhasználásának költségeinek csökkentése érdekében a végponti gyártók a végponttól végpontig tartó számítási teljesítményre és a rendszerszintű optimalizálásra összpontosítanak, valamint a szoftver–hardver együttműködés révén javítják a kulcsszavak konverziós arányát. Az intelligens ügynökök átalakítása olyan közvetlen segítőkké, amelyeket az átlagfelhasználók azonnal használhatnak, elősegítette az MI fogyasztói piacon történő bevezetését.

A terminális intelligens ügynökök folyamatos behatolása a számítógépek, az autók és az okos otthonok területén egy új, mesterséges intelligencia-alapú ökoszisztémát gyorsít a valóságba, amelyben a szóelemek a „üzemanyagot”, az eszközök oldalán elérhető számítási teljesítmény pedig a „motort” képezik. Lv Peng kijelentette, hogy a ci yuan fejlesztése továbbra is három fő hiányossággal küzd: elsőként a költség- és energiafogyasztási nyomás, mivel a számítási teljesítményellátás és az áramköltségek továbbra is kemény korlátozó tényezők a ci yuan nagy léptékű elterjedésében; másodszor biztonsági és adatvédelmi kockázatok állnak fenn, amelyeket sürgősen rendszerszinten kell megelőzni – például az intelligens ügynökök gyakori hívásai miatt fellépő adatszivárgás vagy jogosultságok visszaélése; harmadszor hiányoznak az egységes szabványok és az ökoszisztéma: nincsenek egységes szabványok a lexikális elemek mérésére és árazására, és az ipari ökoszisztéma is éretlen. Csak ezeknek a hiányosságoknak a kezelésével érhető el a ci yuan gazdaságának stabilitása és hosszú távú sikeressége – mondta Lv Peng.