Штучний інтелект прискорюється від хмари до терміналу

Нещодавно економіка токенів стала популярною темою обговорень у галузі ШІ. Як найменша одиниця обробки інформації в великих моделях, експоненціальне зростання використання лексичних токенів стало рушійною силою проривів і масштабного впровадження технологій інтелектуальних агентів на терміналах, сприяючи переходу ШІ від хмарних рішень до терміналів та його еволюції від допоміжних інструментів до автономних агентів.

Згідно з даними, станом на березень щоденне середнє використання ключових слів та тонів у Китаї перевищило 14 трлн юанів, що становить зростання понад у тисячу разів порівняно з 100 млрд юанів на початку 2024 року. Відповідальний працівник Національного управління даними заявив, що значне зростання щоденного середнього використання ключових слів свідчить про етап швидкого розвитку штучного інтелекту в Китаї. У той самий час система високоякісного забезпечення даними в Китаї постійно вдосконалюється. До кінця 2025 року по всій країні буде створено понад 100 000 високоякісних наборів даних загальним обсягом 890 ПБ, що закладе міцну данихну основу для розвитку економіки ключових слів та термінальних інтелектуальних агентів.

Кожного разу, коли інтелектуальний агент мислить, планує й виконує завдання, він споживає лексичні елементи. Стикаючись із болючими проблемами, такими як високі витрати на споживання лексичних елементів, сильна залежність від хмари та ризики щодо конфіденційності й безпеки, виробники терміналів першими почали застосовувати технологію інтелектуальних агентів end-to-end для вирішення цих проблем і сприяння еволюції «лексичної економіки» у напрямку «ефективності, низьких витрат і безпеки». Недавно Honor представив технологію YOYO Claw — інтелектуальний агент AI «ловець омарів» на стороні терміналу. Ця технологія ґрунтується на інтелектуальних алгоритмах маршрутизації й забезпечує точне планування співпраці між терміналом і хмарою. Прості й високочастотні завдання виконуються повністю end-to-end — без будь-якого споживання лексичних елементів; складні завдання можуть за запитом передаватися в хмару, а ефективність підвищується за рахунок оптимізації контексту й підбору відповідної пам’яті, що значно знижує витрати для користувачів.

Під час еволюції інтелектуальних кабін у бік вищих рівнів три основні виклики — це стрімке зростання потреби в обчислювальній потужності, високі витрати на хмарні сервіси та складність розробки. Sage Box, запущений SenseTime Jueying, пропонує рішення цих проблем. Сяо Фен, технічний директор (CTO) SenseTime Jueying, пояснив, що пристрій оснащений великою базовою моделлю, яка реалізує складні можливості інтелектуального агента безпосередньо на стороні транспортного засобу й забезпечує «нульову вартість токенів». За розрахунками, один автомобіль може економити приблизно 30 юанів на хмарних витратах щодня, а після масштабного розгортання економія для 10 000 автомобілів становитиме понад 100 мільйонів юанів щорічно. Час відгуку системи можна скоротити до 0,5 секунди.

Розвиток штучного інтелекту неможливий без спільного посилення обчислювальних мереж та інфраструктури. Високошвидкісна даних-мережа China Mobile ґрунтується на трьох ключових принципах: «високошвидкісне обігове з’єднання, безпечне внутрішнє функціонування та відповідність вимогам щодо відстеження». Це забезпечує міжмережеве й міжпровінційне з’єднання на рівні бізнес-процесів з затримкою менше ніж одна секунда, гарантує повну відстежуваність обігу даних і суттєво підвищує ефективність передачі даних та швидкість реагування бізнес-систем.

Лю Хун, заступник генерального директора підсектору цифрового інтелекту China Mobile, повідомив, що перша партія рішень для високошвидкісних мереж передачі даних уже впроваджена в таких містах, як Тяньцзінь, Сучжоу та Ганчжоу. Це сприяло успішному розвитку ключових сценаріїв, зокрема інтегрованих застосувань даних у сфері електромобілів (EV), контролю ризиків у банківській та фінансовій галузях, ефективної циркуляції метеорологічних даних та послуг з управління потоками даних, а також сприяло переходу від офлайн- до онлайн-доставки даних у рамках угод щодо їх обміну.

Лю Пень, дослідник Інституту соціології Китайської академії суспільних наук, вважає, що експансія лексичної економіки та розвиток інтелектуальних агентів на терміналах взаємно підсилюють одне одного. Лексична економіка сприяє тому, що інтелектуальні агенти на терміналах стають «всеохопними й ефективними», закріплюючи ціннісну основу AI-сервісів і перетворюючи інтелектуальні агенти з простих технічних концепцій на кількісно вимірювану продуктивність. Щоб знизити витрати користувачів на використання ключових слів, виробники терміналів зосереджуються на оптимізації обчислювальної потужності «від кінця до кінця» та на рівні системи, а також підвищують коефіцієнт конверсії ключових слів за рахунок співпраці програмного та апаратного забезпечення. Перетворення інтелектуальних агентів на інтимних помічників, якими звичайні користувачі можуть користуватися «з коробки», сприяло впровадженню AI на споживчому ринку.

З постійним поширенням інтелектуальних агентів на кінцевих пристроях у таких галузях, як ПК, автомобілі та розумні будинки, нова екосистема ШІ, що використовує лексичні елементи як «паливо» й обчислювальну потужність на стороні кінцевого пристрою як «двигун», прискорено стає реальністю. Лю Пень зазначив, що розвиток «Ци Юань» досі стикається з трьома основними недоліками: по-перше, тиск витрат і енергоспоживання — постачання обчислювальної потужності та вартість електроенергії залишаються жорсткими обмеженнями для масового поширення «Ци Юань»; по-друге, існують ризики щодо безпеки й конфіденційності, які терміново потрібно системно запобігати, наприклад, витік даних чи зловживання правами через часті виклики інтелектуальних агентів; по-третє — брак стандартів та екосистеми: відсутні узгоджені стандарти вимірювання й ціноутворення лексичних елементів, а також незріла промислова екосистема. Лише подолавши ці недоліки, економіка «Ци Юань» зможе досягти стабільності й довготривалого успіху», — заявив Лю Пень.