Sztuczna inteligencja przyspiesza przejście od chmury do urządzenia końcowego

Ostatnio gospodarka tokenowa stała się gorącym tematem zainteresowania w branży sztucznej inteligencji. Jako najmniejsza jednostka przetwarzania informacji w dużych modelach, wykładniczy wzrost wykorzystania tokenów stał się siłą napędową przełomów i masowej implementacji technologii inteligentnych agentów terminalowych, wspierając ewolucję sztucznej inteligencji – od chmury do terminali oraz od narzędzi pomocniczych do autonomicznych agentów.

Zgodnie z danymi, na dzień marca średnie dzienne wykorzystanie słów kluczowych i tonów w Chinach przekroczyło 14 bilionów juanów, osiągając wzrost ponad tysiąckrotny w porównaniu do 100 miliardów juanów na początku 2024 roku. Osoba odpowiedzialna w Administracji Narodowych Danych stwierdziła, że znaczny wzrost średniego dziennego wykorzystania słów kluczowych oznacza etap szybkiego rozwoju sztucznej inteligencji w Chinach. Jednocześnie system dostaw wysokiej jakości danych w Chinach stale się ulepsza. Do końca 2025 roku na całym terytorium Chin zostanie utworzonych ponad 100 000 zestawów danych wysokiej jakości o łącznym objętości 890 PB, co stworzy solidne podstawy danych dla rozwoju gospodarki opartej na słowach kluczowych oraz inteligentnych agentów końcowych.

Za każdym razem, gdy inteligentny agent myśli, planuje i wykonuje zadania, zużywa elementy leksykalne. Wobec problemów takich jak wysokie koszty zużycia elementów leksykalnych, silna zależność od chmury oraz ryzyka związane z prywatnością i bezpieczeństwem, producenci urządzeń końcowych jako pierwsi zastosowali technologię inteligentnych agentów end-to-end w celu rozwiązywania tych problemów i wspierania ewolucji gospodarki elementów leksykalnych w kierunku „wyższej wydajności, niższych kosztów i większego bezpieczeństwa”. Ostatnio firma Honor wprowadziła na rynek technologię YOYO Claw – AI-inteligentnego agenta działającego po stronie urządzenia końcowego, nazywanego żartobliwie „homarem”. Technologia ta opiera się na algorytmach inteligentnego routingu, umożliwiając precyzyjne planowanie współpracy między urządzeniem końcowym a chmurą. Proste i często powtarzane zadania są wykonywane w 100% end-to-end, bez zużycia żadnych elementów leksykalnych; natomiast zadania złożone mogą być na żądanie przekazywane do chmury, a ich wydajność można poprawić dzięki optymalizacji kontekstu i dopasowaniu pamięci, co znacznie obniża koszty dla użytkownika.

W trakcie ewolucji inteligentnej kokpity w kierunku wyższych poziomów trzy główne wyzwania to gwałtowny wzrost zapotrzebowania na moc obliczeniową, wysokie koszty chmury oraz złożoność procesu rozwoju. Sage Box, wprowadzony przez SenseTime Jueying, oferuje rozwiązanie tych problemów. Xiao Feng, CTO (Chief Technology Officer) SenseTime Jueying, wyjaśnił, że urządzenie wyposażone jest w duży model bazowy, który umożliwia realizację złożonych funkcji inteligentnego agenta bezpośrednio po stronie pojazdu i osiąga „zerowy koszt tokenów”. Według obliczeń pojedynczy pojazd może zaoszczędzić około 30 juanów dziennie na kosztach chmury, a przy masowej wdrożeniu oszczędności te mogą przekroczyć 100 milionów juanów rocznie na 10 000 pojazdów. Czas odpowiedzi systemu można skrócić do 0,5 sekundy.

Rozwój sztucznej inteligencji nie może odbywać się bez wspólnej współpracy sieci obliczeniowych i infrastruktury. Wysokoprzepustowa sieć danych China Mobile opiera się na zasadach „wysokiej prędkości przepływu, bezpieczeństwa wewnętrznie zapewnionego oraz zgodności z możliwością śledzenia”, umożliwiając połączenia między sieciami i między prowincjami na poziomie sekundowym – zgodnie z wymaganiami biznesowymi – oraz zapewniając pełną śledzilność przepływu danych, co znacznie poprawia wydajność transmisji danych oraz szybkość reakcji na potrzeby biznesowe.

Liu Hong, zastępca dyrektora generalnego działu Digital Intelligence firmy China Mobile, poinformował, że pierwsza partia rozwiązań sieci danych o wysokiej przepustowości została wdrożona w miastach takich jak Tianjin, Suzhou i Ganzhou, co pomyślnie przyczyniło się do budowy kluczowych scenariuszy, w tym zastosowań fuzji danych pojazdów energii nowej (NEV), kontroli ryzyka w sektorze bankowym i finansowym, wydajnej cyrkulacji danych meteorologicznych oraz usług operacyjnych przepływu danych, a także wspiera transformację dostarczania transakcji danych z trybu offline do online.

Lv Peng, badacz z Instytutu Socjologii Chińskiej Akademii Nauk Społecznych, uważa, że eksplozja gospodarki leksykalnej oraz rozwój inteligentnych agentów końcowych wzajemnie się wspierają. Gospodarka leksykalna kieruje inteligentne agenty końcowe ku „inkluzywności i efektywności”, ustanawiając punkt odniesienia wartości usług sztucznej inteligencji i przekształcając inteligentne agenty z prostych pojęć technicznych w mierzalną wydajność. Aby obniżyć koszty korzystania z fraz kluczowych przez użytkowników, producenci urządzeń końcowych koncentrują się na optymalizacji mocy obliczeniowej end-to-end oraz na poziomie systemu, a także poprawiają wskaźniki konwersji fraz kluczowych dzięki współpracy oprogramowania i sprzętu. Przekształcenie inteligentnych agentów w intymnych asystentów, których zwykli użytkownicy mogą stosować od razu po wyjęciu z opakowania, przyczyniło się do wprowadzenia rozwiązań AI na rynek konsumencki.

Wraz z ciągłym przenikaniem inteligentnych agentów końcowych w takie dziedziny jak komputery PC, samochody i inteligentne domy, powstaje nowy ekosystem sztucznej inteligencji, w którym elementy słowne stanowią „paliwo”, a obliczenia po stronie urządzenia – „silnik”. Lv Peng stwierdził, że rozwój ci yuan napotyka nadal trzy główne ograniczenia: po pierwsze, presję kosztową i energetyczną – dostawa mocy obliczeniowej oraz koszty energii elektrycznej pozostają nadal twardymi ograniczeniami dla masowej popularizacji ci yuan; po drugie, istnieją ryzyka związane z bezpieczeństwem i prywatnością, które wymagają systemowego zapobiegania – np. wyciek danych lub nadużycia uprawnień spowodowane częstymi wywołaniami przez inteligentne agenty; po trzecie, brakuje standardów i ekologii – brak jednolitych standardów pomiaru i ceny elementów słownych oraz niedojrzała ekologia przemysłowa. Tylko poprzez rozwiązanie tych ograniczeń gospodarka ci yuan może osiągnąć stabilność i długotrwały sukces, stwierdził Lv Peng.