ИИ в повседневной жизни

ИИ в мобильных устройствах: как по спецификации понять, что будет работать локально

Методика для покупателя: по поддержке в ОС и API, объёму RAM и производительности NPU понять, будет ли ИИ-функция работать локально, в облаке или недоступна.

Редакция DeepMe
· Обновлено · 7 мин чтения
Бумажная карточка, керамический кубик и шар на ступенчатой подставке, соединённые лентой.

Короткий ответ: наличие NPU и число TOPS в спецификации сами по себе не гарантируют, что нужная ИИ-функция будет выполняться на устройстве. Вердикт складывается из трёх проверок — доступность функции на уровне ОС и API, достаточный объём памяти под модель и реальная производительность ускорителя для конкретной задачи. Если хотя бы одно условие не выполняется, функция либо уходит в облако, либо недоступна вовсе.

Ниже — практическая методика для покупателя: как перевести строки спецификации в понятный ответ и стоит ли из-за этого менять смартфон. Это не руководство по разработке и не обзор эффектов обработки фото.

Почему «TOPS на коробке» не отвечает на вопрос о функциях

TOPS описывает пиковую производительность ускорителя в определённом режиме вычислений. На практике доступная мощность зависит от того, какая модель запускается, в каком формате она хранится и сколько памяти ей нужно. Заявленный пик и реальная скорость конкретной функции — разные величины, и по одному числу из спецификации их не сопоставить.

Второй нюанс — программный слой. В обсуждении на форуме Google AI Developers разработчики уточняют, что AICore (системный компонент, через который на части устройств доступна модель Gemini Nano) использует NNAPI для аппаратного ускорения; в той же переписке участники ссылаются на то, что NNAPI объявлен устаревшим в Android 15, а для собственных моделей предлагается путь через LiteRT. Там же отмечено, что интерфейс Neural Networks HAL продолжает поддерживаться как слой между системными сервисами и драйверами. Вывод для покупателя простой: даже при мощном железе функция может быть недоступна, если её нет в прошивке или она не включена для вашей модели.

Третий нюанс — регион, язык и модель устройства. Один и тот же сервис может быть доступен на флагмане и отсутствовать на более доступном аппарате с тем же классом чипа.

Три условия локального выполнения ИИ-функции

1. Поддержка на уровне ОС и API

Сначала проверяйте не железо, а список поддерживаемых устройств и версию ОС. Если функция заявлена как локальная, у неё обычно есть системный компонент и перечень совместимых моделей. В том же обсуждении разработчиков приводится единичный случай: устройство числится совместимым с рядом API на базе Gemini Nano, но системный компонент AICore занимает очень мало места — то есть на этом конкретном аппарате модель, судя по всему, ещё не поставлена. Это пример из одного сообщения, а не общее правило: формальное наличие API в списке не равно работающей функции.

Что проверить:

  • указана ли ваша модель в списке поддерживаемых для конкретной функции;
  • какая версия ОС требуется и доступна ли она для вашего аппарата;
  • не привязана ли функция к региону или языку.

Официальные требования к устройству и порядок проверки версии AICore описаны в документации AICore для разработчиков: там перечислены поддерживаемые устройства и способ обновить системный компонент через сервисы Google.

2. Бюджет RAM под квантованную модель

Локальная модель занимает память не только на диске, но и в оперативной памяти во время работы. Квантование (сжатие весов модели) снижает требования, но не отменяет их. Практический ориентир: чем крупнее модель и чем выше качество ответов, тем больше памяти нужно резервировать, и эта память конкурирует с приложениями.

Поэтому вопрос «сколько гигабайт в телефоне» полезно заменить вопросом «сколько памяти останется свободно при работающих приложениях». Устройство с большим объёмом RAM, но занятой системой, может уступать аппарату с меньшим номиналом, но лучшим управлением памятью.

3. Реальная доступная производительность NPU

Здесь важна не только цифра TOPS, но и то, для каких типов вычислений она приведена. В обсуждении на форуме NVIDIA разработчики разбирают похожую проблему на примере Jetson AGX Orin: в документации фигурируют разные значения производительности для разреженных и плотных вычислений, а также отдельный ускоритель DLA, и совокупные числа из спецификации не складываются в скорость одного конкретного ядра. Этот пример не про смартфоны, но хорошо показывает общий принцип: заявленный пик нужно приводить к условиям вашей задачи, иначе сравнение вводит в заблуждение.

Для покупателя это означает: сравнивайте устройства по описанию функции, а не по максимальному числу TOPS. Если производитель заявляет локальную работу ассистента, уточните, какие именно сценарии выполняются без сети.

Методика: от спецификации к вердикту «локально / облако / недоступно»

  1. Проверьте функцию в списке поддерживаемых. Найдите вашу модель и версию ОС в официальном перечне. Если модели нет — вердикт «недоступно», независимо от чипа.
  2. Оцените память. Сопоставьте требования функции к RAM с реально свободным объёмом на устройстве. Если памяти впритык, локальный режим под вопросом — уточните у производителя, что происходит при нехватке ресурсов.
  3. Сопоставьте ускоритель с задачей. Уточните, для каких операций заявлена производительность NPU и есть ли подтверждение, что нужный сценарий работает офлайн.

Итог: все три пункта выполнены — вероятен локальный режим; часть пунктов не выполнена, но функция заявлена — скорее всего, облако; функция отсутствует в перечне — недоступна.

Учебный пример на двух устройствах

Ниже — не характеристики реальных моделей, а учебная иллюстрация логики. Числа и параметры условные и приведены только для демонстрации методики.

ПараметрУстройство A (условный флагман)Устройство B (условный средний класс)
Функция в списке поддерживаемыхДаНет для нужной версии ОС
Свободная RAM при работе приложенийУсловно достаточноУсловно недостаточно
NPUЗаявлен для локальных задачЕсть, но сценарий офлайн не подтверждён
ВердиктЛокально, с оговоркой на проверку офлайн-режимаОблако или недоступно

Разбор: на устройстве A совпали все три условия, поэтому функция с высокой вероятностью выполняется на самом смартфоне. На устройстве B формально мощный чип не помогает: нужной функции нет в перечне для установленной ОС, а памяти может не хватить. Покупка B «на будущее» ради этой функции не оправдана, пока производитель не расширит список поддерживаемых устройств.

Обратите внимание: даже на устройстве A стоит отдельно проверить, что функция работает без сети. Локальный режим и офлайн-режим — не всегда одно и то же: часть операций может требовать подключения для проверки или загрузки данных.

Типичная ошибка: покупка по числу TOPS без проверки API и памяти

Самая частая ошибка — выбрать смартфон по максимальному числу в строке про NPU и ожидать, что все ИИ-функции будут локальными. На деле решающими оказываются перечень поддерживаемых устройств и объём свободной памяти. Если функция не включена для вашей модели, мощность ускорителя не используется вовсе.

Вторая ошибка — считать, что локальная обработка автоматически означает приватность по умолчанию. Локальный режим может сокращать объём передаваемых данных, но это зависит от конкретной функции и настроек, поэтому их стоит проверить отдельно и понять, какие операции всё же уходят в сеть. Подробнее о смежных вопросах — в материале о безопасности данных и ИИ.

Критерии выбора и когда менять устройство ради ИИ-функций

Перед сменой смартфона ответьте на четыре вопроса:

  • Какие функции вам действительно нужны? Составьте короткий список из двух-трёх сценариев, а не общий перечень «ИИ-возможностей».
  • Работают ли они офлайн? Если да, локальный режим важен. Если нет, разница между устройствами по NPU почти не влияет на результат.
  • Зависит ли качество от облака? Для части задач облачная обработка даёт лучший результат, и локальный режим — компромисс ради скорости или приватности.
  • Есть ли подтверждение поддержки для вашей модели и версии ОС? Без этого пункта остальные не имеют значения.

Менять устройство имеет смысл, когда нужная функция есть в официальном перечне, работает офлайн и текущий аппарат её не поддерживает по версии ОС или памяти. Если же функция доступна только в облаке, смена телефона ради неё редко что-то меняет.

Полезно также посмотреть, как ИИ-ассистенты встраиваются в повседневные задачи: об этом — в статье об использовании ИИ-ассистентов. А если вы выбираете устройство под учёбу и работу с текстом, пригодятся материалы об изучении языков с ИИ и о планировании дня.

Ограничения методики и что проверить перед покупкой

Методика даёт вероятностный вердикт, а не гарантию. Производители меняют списки поддерживаемых устройств, выпускают обновления и переносят часть функций между локальным и облачным режимами. Поэтому финальную проверку лучше делать по официальной документации на конкретную модель и версию ОС.

Что стоит уточнить в магазине или на сайте производителя:

  • перечень поддерживаемых моделей и требуемая версия ОС для нужной функции;
  • работает ли функция без подключения к интернету;
  • какие ограничения по языку и региону;
  • как функция ведёт себя при нехватке памяти.

Технические детали о том, как системные компоненты взаимодействуют с ускорителями, меняются от версии к версии. Ориентируйтесь на официальные материалы Android и обсуждения разработчиков, а не на маркетинговые формулировки.

Заключение

Искусственный интеллект в смартфонах удобнее оценивать не по числу TOPS, а по трём проверкам: поддержка функции в ОС и API, достаточная память под модель и подтверждённая производительность для конкретного сценария. Такой подход помогает заранее понять, будет ли функция работать локально, уйдёт в облако или окажется недоступной, и принять взвешенное решение о смене устройства.