3097
Qualcomm продовжує розкривати подробиці про наступне покоління своїх флагманських мобільних процесорів і цього разу зосередилася на нейронному блоці. Компанія заявляє, що майбутня платформа Snapdragon отримає оновлений Hexagon NPU, розрахований не лише на звичайні генеративні функції, а й на складні агентні сценарії без постійного звернення до хмари.
Головна ідея полягає в тому, щоб дедалі більше операцій штучного інтелекту виконувалися безпосередньо на смартфоні. Це стосується не лише коротких запитів до асистента, а й агентів, які можуть послідовно виконувати кілька дій, працювати з різними типами даних і самостійно вирішувати проміжні задачі.
Qualcomm стверджує, що новий NPU зможе працювати з моделями типу Mixture-of-Experts обсягом до 30 млрд параметрів. У таких системах під час конкретного запиту активується не вся модель, а лише частина спеціалізованих блоків, що дозволяє скоротити обчислювальне навантаження і зробити запуск великої моделі на мобільному пристрої реалістичнішим.
Компанія також говорить про спеціальні зміни в архітектурі, які мають пришвидшити відповіді й зменшити затримку. Для локального ШІ це особливо важливо, тому що користувач очікує реакції практично миттєво, а смартфон має одночасно контролювати енергоспоживання і нагрівання.
Локальна робота агентів має ще одну перевагу — частина особистих даних може залишатися на самому пристрої. Qualcomm уже кілька років просуває ідею персонального ШІ, який працює з голосом, текстом, зображеннями та контекстом користувача без необхідності постійно надсилати всю інформацію на віддалені сервери.
Повний анонс нового покоління Snapdragon очікується на Snapdragon Summit 22 вересня. До цього Qualcomm уже натякнула на процесорні ядра з частотою понад 5 ГГц і нові можливості графічної частини, а тепер окремо підкреслює роль NPU.
Саме підтримка великих локальних моделей може стати однією з головних відмінностей наступних флагманських Android-смартфонів. Водночас реальні можливості залежатимуть не лише від процесора, а й від обсягу оперативної пам’яті, програмного забезпечення та того, які моделі виробники телефонів фактично дозволять запускати на пристрої.
https://www.androidauthority.com/snapdragon-qualcomm-snapdragon-8-elite-gen-6-npu-3709726/
