Аппаратное обеспечение и чипы для ИИ: как проверить совместимость до закупки
Как до закупки ускорителей собрать матрицу «модель → движок → версия рантайма → чип», различить «собирается» и «работает» и отсеять карты без пути запуска.

Закупка партии ускорителей проваливается не на этапе оплаты, а позже — когда выясняется, что целевая модель на конкретной карте с конкретной версией рантайма не запускается. Поэтому до заказа полезно собрать формальную матрицу «модель → движок → версия рантайма → чип» и отсеять карты, у которых нет подтверждённого пути запуска. Ниже — вендор-нейтральная процедура: какие источники статуса смотреть, как различать уровни готовности и по какому правилу карта выбывает из шорт-листа.
Это не обзор рынка ИИ-чипов и не сравнение производителей. Речь только о программной совместимости: сможете ли вы запустить нужную модель на нужной карте в фиксированной версии рантайма.
Зачем матрица совместимости до закупки
Аппаратные характеристики карты — память, пропускная способность, число тензорных ядер — отвечают на вопрос «сколько», но не на вопрос «запустится ли». Между моделью и железом стоит цепочка: движок инференса, версия рантайма, набор поддерживаемых архитектур чипа. Разрыв в любом звене означает, что карта не подходит, даже если формально она мощнее.
Матрица фиксирует эту цепочку в явном виде. Она нужна, чтобы:
- сравнивать карты по одному критерию — наличию рабочего пути запуска целевой модели;
- не путать «драйвер установился» с «модель работает»;
- иметь документ, на который можно сослаться при отсеве варианта.
Смежные темы — инфраструктура для ИИ-проектов и аппаратное обеспечение для ИИ — помогают понять контекст развёртывания, но саму проверку совместимости не заменяют.
Четыре уровня готовности и что считается доказательством
Главная ошибка предзакупочной проверки — считать установку пакета доказательством работоспособности. Разделим четыре уровня; каждый следующий строже предыдущего.
- Собирается. Пакет рантайма устанавливается, окружение импортируется, ошибок на этапе установки нет. Это ещё не значит, что карта поддерживается: бинарник может ставиться, но не содержать нужных архитектур.
- Запускается. Модель загружается на устройство, инференс проходит без падения. Доказательство — успешный прогон на целевой версии рантайма.
- Даёт корректный вывод. Результат совпадает с ожидаемым в пределах допуска: нет мусора, NaN, обрезанных ответов. Здесь же проверяются квантизация и выбранный backend.
- Воспроизводимо на партии. Тот же результат повторяется на нескольких экземплярах карты и после переустановки окружения с нуля.
Доказательством считается только то, что вы можете воспроизвести сами или что зафиксировано в официальном источнике статуса. Скриншот из чата или пересказ коллеги — не доказательство.
Источники статуса: где смотреть и чему доверять
Порядок доверия примерно такой: официальная матрица поддержки и release notes рантайма → документация движка инференса → официальные issue-трекеры проекта → обсуждения сообщества. Последние полезны как подсказка, но не как подтверждение.
Пример из первичного источника: в обсуждении на форуме PyTorch пользователь столкнулся с тем, что установленная сборка сообщала о неподдерживаемой вычислительной возможности GPU, хотя формально версия CUDA совместима с картой. Разбор показал, что в окружении оказался другой бинарник PyTorch, собранный под иную версию CUDA. Вывод для процедуры: смотреть надо не на версию CUDA в системе, а на то, под какие архитектуры собран конкретный бинарник рантайма.
Второй пример — из документации проекта ACE-Step 1.5: там описано автоматическое переключение backend для карт с вычислительной возможностью CUDA ниже 7.0 — вместо vLLM используется backend на PyTorch. Это иллюстрирует общий принцип: у карты может быть рабочий путь запуска, но не через тот движок, который вы планировали по умолчанию.
Что проверять в источниках:
- список поддерживаемых архитектур чипа в матрице поддержки рантайма;
- release notes: какие backend и движки заявлены для этой версии;
- issue-трекер движка: есть ли открытые проблемы именно с вашей связкой;
- дата публикации источника — статус меняется от версии к версии.
Источник статуса устаревает вместе с версией рантайма. Матрицу имеет смысл пересобирать при каждом обновлении рантайма или движка.
Правило отсева и фиксация статуса в матрице
Правило простое: карта без подтверждённого пути запуска целевой модели на фиксированной версии рантайма не проходит в шорт-лист. Не «потом разберёмся», не «наверное, заработает» — либо есть воспроизводимый прогон, либо карта выбывает.
Фиксация статуса в матрице требует дисциплины. Для каждой ячейки указывайте:
- версию рантайма и движка (точную, не «последняя»);
- уровень готовности по шкале выше;
- ссылку на источник статуса или пометку «локальный прогон»;
- дату проверки.
Если статус неизвестен, ячейка остаётся пустой, а не заполняется предположением. Пустая ячейка — это тоже решение: она означает, что карта не прошла отсев.
Учебный пример матрицы (локальный, не исследование)
Ниже — синтетический пример для иллюстрации формата. Это не результат исследования и не данные о реальных продуктах: названия условные, цифры приведены только чтобы показать структуру.
| Модель | Движок | Версия рантайма | Чип (условный) | Уровень | Комментарий |
|---|---|---|---|---|---|
| Модель A | Движок 1 | 2.x | Карта X | 4 — воспроизводимо | Прогон на трёх экземплярах |
| Модель A | Движок 1 | 2.x | Карта Y | 2 — запускается | Вывод не сверялся |
| Модель A | Движок 2 | 2.x | Карта Z | 1 — собирается | Архитектура не в матрице поддержки |
| Модель B | Движок 1 | 3.x | Карта Y | — | Нет источника статуса |
Как читать пример: карта X проходит отсев, карта Y проходит только для модели A и только на уровне «запускается» — до закупки её нужно дотестировать, карта Z выбывает, потому что её архитектура не заявлена в матрице поддержки движка, а по модели B статуса нет вовсе.
Такой таблицы достаточно, чтобы решение о закупке опиралось на проверяемые ячейки, а не на общее впечатление о мощности карты.
Типовая ошибка: «собирается» ≠ «работает»
Самая частая путаница — принять успешную установку за совместимость. Установка проверяет только то, что пакет поставился в текущее окружение. Она не проверяет, что бинарник содержит код для архитектуры вашей карты и что выбранный backend вообще умеет работать с этой моделью.
Второй источник ошибок — несколько окружений на одной машине. Как видно из обсуждения на форуме PyTorch, разные сборки рантайма в разных окружениях дают разные наборы поддерживаемых архитектур, и ошибка проявляется не там, где её ищут. Перед проверкой фиксируйте окружение: одна версия рантайма, один backend, явно указанная версия движка.
Третий случай — «работает, но не тем путём». Карта может запускать модель через резервный backend с выгрузкой части вычислений на CPU. Формально уровень «запускается» достигнут, но производительность и поведение будут другими. Это стоит фиксировать в комментарии к ячейке, а не скрывать.
Чек-лист перед закупкой партии
- Зафиксируйте целевую модель и версию движка инференса.
- Зафиксируйте точную версию рантайма — ту, которую будете использовать в проде.
- Проверьте в матрице поддержки, заявлена ли архитектура чипа для этой версии.
- Сверьте release notes: какие backend доступны для вашей связки.
- Просмотрите открытые issue по связке «движок + чип».
- Проведите локальный прогон и присвойте уровень готовности.
- Повторите прогон на втором экземпляре карты, если закупка партийная.
- Занесите статус, источник и дату в матрицу.
- Отсейте карты без подтверждённого пути запуска.
Если после отсева в шорт-листе не осталось вариантов, это результат проверки, а не повод ослабить правило. Возможно, стоит пересмотреть версию рантайма или движок — но это отдельное решение, которое тоже нужно зафиксировать в матрице.
Ограничения процедуры
Матрица совместимости отвечает только на вопрос запуска. Она не оценивает стоимость владения, не сравнивает экономику парка и не заменяет нагрузочное тестирование. Она также не гарантирует, что завтрашняя версия рантайма сохранит поддержку: статус нужно перепроверять при обновлениях.
Для тем, где важна архитектура моделей и их поведение, полезны материалы об устройстве языковых моделей и о моделях эмбеддингов. Но решение о закупке принимается по матрице, а не по общему описанию технологии.
Материалы по теме: PyTorch not supported - Uncategorized - PyTorch Forums.


