ИИ в мобильных устройствах: как по спецификации понять, что будет работать локально
Методика для покупателя: по поддержке в ОС и API, объёму RAM и производительности NPU понять, будет ли ИИ-функция работать локально, в облаке или недоступна.

Короткий ответ: наличие NPU и число TOPS в спецификации сами по себе не гарантируют, что нужная ИИ-функция будет выполняться на устройстве. Вердикт складывается из трёх проверок — доступность функции на уровне ОС и API, достаточный объём памяти под модель и реальная производительность ускорителя для конкретной задачи. Если хотя бы одно условие не выполняется, функция либо уходит в облако, либо недоступна вовсе.
Ниже — практическая методика для покупателя: как перевести строки спецификации в понятный ответ и стоит ли из-за этого менять смартфон. Это не руководство по разработке и не обзор эффектов обработки фото.
Почему «TOPS на коробке» не отвечает на вопрос о функциях
TOPS описывает пиковую производительность ускорителя в определённом режиме вычислений. На практике доступная мощность зависит от того, какая модель запускается, в каком формате она хранится и сколько памяти ей нужно. Заявленный пик и реальная скорость конкретной функции — разные величины, и по одному числу из спецификации их не сопоставить.
Второй нюанс — программный слой. В обсуждении на форуме Google AI Developers разработчики уточняют, что AICore (системный компонент, через который на части устройств доступна модель Gemini Nano) использует NNAPI для аппаратного ускорения; в той же переписке участники ссылаются на то, что NNAPI объявлен устаревшим в Android 15, а для собственных моделей предлагается путь через LiteRT. Там же отмечено, что интерфейс Neural Networks HAL продолжает поддерживаться как слой между системными сервисами и драйверами. Вывод для покупателя простой: даже при мощном железе функция может быть недоступна, если её нет в прошивке или она не включена для вашей модели.
Третий нюанс — регион, язык и модель устройства. Один и тот же сервис может быть доступен на флагмане и отсутствовать на более доступном аппарате с тем же классом чипа.
Три условия локального выполнения ИИ-функции
1. Поддержка на уровне ОС и API
Сначала проверяйте не железо, а список поддерживаемых устройств и версию ОС. Если функция заявлена как локальная, у неё обычно есть системный компонент и перечень совместимых моделей. В том же обсуждении разработчиков приводится единичный случай: устройство числится совместимым с рядом API на базе Gemini Nano, но системный компонент AICore занимает очень мало места — то есть на этом конкретном аппарате модель, судя по всему, ещё не поставлена. Это пример из одного сообщения, а не общее правило: формальное наличие API в списке не равно работающей функции.
Что проверить:
- указана ли ваша модель в списке поддерживаемых для конкретной функции;
- какая версия ОС требуется и доступна ли она для вашего аппарата;
- не привязана ли функция к региону или языку.
Официальные требования к устройству и порядок проверки версии AICore описаны в документации AICore для разработчиков: там перечислены поддерживаемые устройства и способ обновить системный компонент через сервисы Google.
2. Бюджет RAM под квантованную модель
Локальная модель занимает память не только на диске, но и в оперативной памяти во время работы. Квантование (сжатие весов модели) снижает требования, но не отменяет их. Практический ориентир: чем крупнее модель и чем выше качество ответов, тем больше памяти нужно резервировать, и эта память конкурирует с приложениями.
Поэтому вопрос «сколько гигабайт в телефоне» полезно заменить вопросом «сколько памяти останется свободно при работающих приложениях». Устройство с большим объёмом RAM, но занятой системой, может уступать аппарату с меньшим номиналом, но лучшим управлением памятью.
3. Реальная доступная производительность NPU
Здесь важна не только цифра TOPS, но и то, для каких типов вычислений она приведена. В обсуждении на форуме NVIDIA разработчики разбирают похожую проблему на примере Jetson AGX Orin: в документации фигурируют разные значения производительности для разреженных и плотных вычислений, а также отдельный ускоритель DLA, и совокупные числа из спецификации не складываются в скорость одного конкретного ядра. Этот пример не про смартфоны, но хорошо показывает общий принцип: заявленный пик нужно приводить к условиям вашей задачи, иначе сравнение вводит в заблуждение.
Для покупателя это означает: сравнивайте устройства по описанию функции, а не по максимальному числу TOPS. Если производитель заявляет локальную работу ассистента, уточните, какие именно сценарии выполняются без сети.
Методика: от спецификации к вердикту «локально / облако / недоступно»
- Проверьте функцию в списке поддерживаемых. Найдите вашу модель и версию ОС в официальном перечне. Если модели нет — вердикт «недоступно», независимо от чипа.
- Оцените память. Сопоставьте требования функции к RAM с реально свободным объёмом на устройстве. Если памяти впритык, локальный режим под вопросом — уточните у производителя, что происходит при нехватке ресурсов.
- Сопоставьте ускоритель с задачей. Уточните, для каких операций заявлена производительность NPU и есть ли подтверждение, что нужный сценарий работает офлайн.
Итог: все три пункта выполнены — вероятен локальный режим; часть пунктов не выполнена, но функция заявлена — скорее всего, облако; функция отсутствует в перечне — недоступна.
Учебный пример на двух устройствах
Ниже — не характеристики реальных моделей, а учебная иллюстрация логики. Числа и параметры условные и приведены только для демонстрации методики.
| Параметр | Устройство A (условный флагман) | Устройство B (условный средний класс) |
|---|---|---|
| Функция в списке поддерживаемых | Да | Нет для нужной версии ОС |
| Свободная RAM при работе приложений | Условно достаточно | Условно недостаточно |
| NPU | Заявлен для локальных задач | Есть, но сценарий офлайн не подтверждён |
| Вердикт | Локально, с оговоркой на проверку офлайн-режима | Облако или недоступно |
Разбор: на устройстве A совпали все три условия, поэтому функция с высокой вероятностью выполняется на самом смартфоне. На устройстве B формально мощный чип не помогает: нужной функции нет в перечне для установленной ОС, а памяти может не хватить. Покупка B «на будущее» ради этой функции не оправдана, пока производитель не расширит список поддерживаемых устройств.
Обратите внимание: даже на устройстве A стоит отдельно проверить, что функция работает без сети. Локальный режим и офлайн-режим — не всегда одно и то же: часть операций может требовать подключения для проверки или загрузки данных.
Типичная ошибка: покупка по числу TOPS без проверки API и памяти
Самая частая ошибка — выбрать смартфон по максимальному числу в строке про NPU и ожидать, что все ИИ-функции будут локальными. На деле решающими оказываются перечень поддерживаемых устройств и объём свободной памяти. Если функция не включена для вашей модели, мощность ускорителя не используется вовсе.
Вторая ошибка — считать, что локальная обработка автоматически означает приватность по умолчанию. Локальный режим может сокращать объём передаваемых данных, но это зависит от конкретной функции и настроек, поэтому их стоит проверить отдельно и понять, какие операции всё же уходят в сеть. Подробнее о смежных вопросах — в материале о безопасности данных и ИИ.
Критерии выбора и когда менять устройство ради ИИ-функций
Перед сменой смартфона ответьте на четыре вопроса:
- Какие функции вам действительно нужны? Составьте короткий список из двух-трёх сценариев, а не общий перечень «ИИ-возможностей».
- Работают ли они офлайн? Если да, локальный режим важен. Если нет, разница между устройствами по NPU почти не влияет на результат.
- Зависит ли качество от облака? Для части задач облачная обработка даёт лучший результат, и локальный режим — компромисс ради скорости или приватности.
- Есть ли подтверждение поддержки для вашей модели и версии ОС? Без этого пункта остальные не имеют значения.
Менять устройство имеет смысл, когда нужная функция есть в официальном перечне, работает офлайн и текущий аппарат её не поддерживает по версии ОС или памяти. Если же функция доступна только в облаке, смена телефона ради неё редко что-то меняет.
Полезно также посмотреть, как ИИ-ассистенты встраиваются в повседневные задачи: об этом — в статье об использовании ИИ-ассистентов. А если вы выбираете устройство под учёбу и работу с текстом, пригодятся материалы об изучении языков с ИИ и о планировании дня.
Ограничения методики и что проверить перед покупкой
Методика даёт вероятностный вердикт, а не гарантию. Производители меняют списки поддерживаемых устройств, выпускают обновления и переносят часть функций между локальным и облачным режимами. Поэтому финальную проверку лучше делать по официальной документации на конкретную модель и версию ОС.
Что стоит уточнить в магазине или на сайте производителя:
- перечень поддерживаемых моделей и требуемая версия ОС для нужной функции;
- работает ли функция без подключения к интернету;
- какие ограничения по языку и региону;
- как функция ведёт себя при нехватке памяти.
Технические детали о том, как системные компоненты взаимодействуют с ускорителями, меняются от версии к версии. Ориентируйтесь на официальные материалы Android и обсуждения разработчиков, а не на маркетинговые формулировки.
Заключение
Искусственный интеллект в смартфонах удобнее оценивать не по числу TOPS, а по трём проверкам: поддержка функции в ОС и API, достаточная память под модель и подтверждённая производительность для конкретного сценария. Такой подход помогает заранее понять, будет ли функция работать локально, уйдёт в облако или окажется недоступной, и принять взвешенное решение о смене устройства.


