인공지능이 클라우드에서 단말기로 가속화되고 있습니다

최근 토큰 경제가 인공지능 산업에서 주목받는 화두가 되고 있다. 대규모 모델에서 정보를 처리하는 최소 단위인 토큰의 사용량이 기하급수적으로 증가하면서, 단말기 기반 지능형 에이전트 기술의 돌파와 대규모 실현을 이끄는 동력이 되고 있으며, 이는 인공지능을 클라우드에서 단말기로 이동시키고 보조 도구에서 자율 에이전트로 진화하게 한다.

데이터에 따르면, 3월 기준 중국 내 키워드 및 톤의 일일 평균 사용 규모가 14조 위안을 넘어서며, 2024년 초 1000억 위안 대비 천 배 이상 증가했다. 국가데이터행정국 관계자는 키워드의 일일 평균 사용 규모 급증이 중국 인공지능 발전의 급속 성장 단계를 상징한다고 밝혔다. 동시에 중국의 고품질 데이터 공급 체계도 지속적으로 개선되고 있다. 2025년 말까지 전국적으로 10만 개 이상의 고품질 데이터셋이 구축될 예정이며, 총 용량은 890PB에 달해 키워드 경제 및 터미널 인텔리전트 에이전트 발전을 위한 탄탄한 데이터 기반을 마련할 것이다.

지능형 에이전트가 생각하고, 계획하며, 실행할 때마다 어휘 요소를 소비한다. 어휘 요소 소비 비용이 높고, 클라우드 의존도가 크며, 프라이버시 및 보안 위험이 존재하는 등의 과제에 직면해 터미널 제조사들은 엔드투엔드 지능형 에이전트 기술을 선도적으로 도입하여 문제를 해결하고, 어휘 요소 경제를 ‘효율성, 저비용, 보안’ 방향으로 진화시키고 있다. 최근 화웨이는 YOYO Claw 기술을 출시했는데, 이는 터미널 측 ‘랍스터’ AI 지능형 에이전트이다. 이 기술은 지능형 라우팅 알고리즘을 기반으로 엔드-클라우드 협업의 정밀한 스케줄링을 실현한다. 단순하고 고빈도의 작업은 100% 엔드투엔드로 실행되어 어휘 요소 소비를 완전히 제로로 만든다. 복잡한 작업은 필요 시 클라우드로 호출되며, 컨텍스트 최적화와 메모리 매칭을 통해 효율성을 높여 사용자 비용을 크게 절감한다.

지능형 콕핏이 고도화되는 과정에서 세 가지 주요 과제는 급증하는 컴퓨팅 파워 수요, 높은 클라우드 비용, 복잡한 개발 작업이다. 센스타임 쥐에잉이 출시한 세이지 박스(Sage Box)는 이 문제를 해결할 수 있는 방안을 제시한다. 센스타임 쥐에잉의 최고기술책임자(CTO) 샤오 펑(Xiao Feng)은 이 장치가 차량 측에서 복잡한 지능형 에이전트 기능을 구현하는 대규모 베이스 모델을 탑재해 ‘토큰 비용 제로’를 실현한다고 소개했다. 계산에 따르면, 단일 차량당 하루 평균 약 30위안의 클라우드 비용을 절감할 수 있으며, 대규모 도입 시 1만 대의 차량 기준 연간 1억 위안 이상을 절감할 수 있다. 시스템 응답 시간은 0.5초로 단축된다.

인공지능의 발전은 컴퓨팅 파워 네트워크와 인프라의 협업적 역량 강화 없이는 불가능하다. 차이나모바일의 고속 데이터 네트워크는 ‘고속 순환, 보안 내재화, 규정 준수 추적성’을 핵심으로 하여, 비즈니스 수준 기반의 네트워크 간·성 간 초단위 연동을 실현하고, 데이터 순환 전 과정의 완전한 추적성을 보장함으로써 데이터 전송 효율과 비즈니스 대응 속도를 크게 향상시킨다.

중국모바일 디지털지능부 류훙 부총경리는 첫 번째 고속 데이터 네트워크 솔루션을 톈진, 쑤저우, 간저우 등 도시에 도입해 신에너지차 데이터 융합 응용, 금융업 리스크 관리, 기상 데이터의 효율적 유통, 데이터 흐름 운영 서비스 등 핵심 시나리오 구축을 성공적으로 촉진했으며, 데이터 거래 전달 방식을 오프라인에서 온라인으로 전환하는 데 기여했다고 소개했다.

중국 사회과학원 사회학연구소의 연구자 류 펑은 어휘 경제의 급속한 확장과 단말 지능형 에이전트의 발전이 서로를 강화한다고 주장한다. 어휘 경제는 단말 지능형 에이전트를 ‘포용성과 효율성’ 방향으로 이끌며, AI 서비스의 가치 기준을 확립하고, 지능형 에이전트를 단순한 기술 개념에서 측정 가능한 생산성으로 전환시킨다. 사용자들이 키워드를 활용하는 데 드는 비용을 낮추기 위해 단말 제조사들은 엔드투엔드 연산 능력과 시스템 수준의 최적화에 집중하고 있으며, 소프트웨어와 하드웨어의 협업을 통해 키워드 전환률을 개선하고 있다. 지능형 에이전트를 일반 사용자가 별도 설정 없이 바로 활용할 수 있는 친밀한 보조 도구로 전환함으로써, AI의 소비자 시장 정착이 가속화되고 있다.

PC, 자동차, 스마트 홈 등 터미널 인텔리전트 에이전트의 지속적인 확산과 함께, ‘단어 요소’를 ‘연료’로 삼고 엔드 사이드 컴퓨팅 파워를 ‘엔진’으로 삼는 새로운 AI 생태계가 현실화되는 속도를 높이고 있다. 뤼 펑은 ‘치 위안(ciyuan)’의 발전이 여전히 세 가지 주요 한계에 직면해 있다고 밝혔다. 첫째, 비용 및 에너지 소비 압박이다. 컴퓨팅 파워 공급과 전력 비용은 여전히 치 위안의 대규모 보급을 가로막는 강력한 제약 요인이다. 둘째, 보안 및 프라이버시 리스크로, 인텔리전트 에이전트의 빈번한 호출로 인한 데이터 유출 및 권한 남용 등이 시급히 체계적으로 방지되어야 한다. 셋째, 표준 및 생태계 부재이다. 단어 요소의 측정 및 가격 책정을 위한 통일된 표준이 부족하고, 산업 생태계 역시 미성숙하다. 이러한 한계를 극복해야만 치 위안 경제가 안정적이고 장기적인 성공을 거둘 수 있다.”고 뤼 펑은 말했다.