Вышел NVIDIA Personal AI Router 1.0.0 с поддержкой llama.cpp и Claude Code: как установить PAIR и объединить компьютеры в ИИ-кластер

193 комментарии
NVIDIA Personal AI Router (PAIR) 1.0.0 научился работать с llama.cpp и принимать запросы в формате Anthropic Messages API, поэтому к кластеру можно подключить Claude Code. Показываем на двух компьютерах с Windows 11, как установить PAIR, загрузить модель и объединить машины в кластер

13 октября 2026 года NVIDIA выпустила Personal AI Router версии 1.0.0. PAIR – бесплатная программа с открытым исходным кодом, которая объединяет компьютеры в домашней сети и распределяет между ними запросы к локальным языковым моделям. Как она устроена, мы подробно разбирали в статье о первой бета-версии, вышедшей в конце августа.

Главное изменение версии 1.0.0 – поддержка llama.cpp. Раньше PAIR работал только с Ollama и LM Studio, теперь llama.cpp можно установить прямо из программы и загрузить для него модели в формате GGUF с Hugging Face. Через Ollama и LM Studio PAIR принимает запросы в формате Anthropic Messages API, поэтому к кластеру можно подключать совместимые клиенты, например Claude Code. Для движков появились настройки запуска: аргументы командной строки и переменные окружения задаются и на своём, и на сопряжённом компьютере, в том числе размер контекста.

Сборку для Windows на Arm NVIDIA проверила с llama.cpp и CUDA на оборудовании RTX Spark N1X, хотя в списке поддерживаемых платформ она по-прежнему отмечена как экспериментальная. Терминальный интерфейс для компьютеров без рабочего стола перестроен вокруг устройств и получил вкладку Jobs. Приложение для macOS теперь называется NVIDIA PAIR.app и устанавливается рядом со старым PAIR.app, которое можно удалить. При удалении LM Studio или самого PAIR загруженные модели больше не стираются.

Скачать NVIDIA Personal AI Router 1.0.0

Демонстрация работы PAIR: запросы приходят на один компьютер, а выполняются на обоих узлах кластера, у каждого видна загрузка видеокарты и памяти

Что нужно для работы

PAIR работает в Windows 11, Linux и macOS на процессорах x64 и arm64, а компьютеры с разными системами можно объединять в один кластер. Программе нужно не менее 8 ГБ оперативной памяти и около 20 ГБ на диске. Все машины должны находиться в одной локальной сети, и на каждую из них PAIR устанавливается отдельно. Требования к видеокарте и драйверам определяет не сам PAIR, а выбранный движок: узел обрабатывает запрос, только если на нём запущен совместимый движок и хватает памяти для модели.

Мы установили PAIR на две виртуальные машины с Windows 11, версия 24H2 и 25H2. У каждой 8 ГБ памяти и нет видеокарты, поэтому llama.cpp работал на процессоре с небольшой моделью Gemma 3 1B. Такая конфигурация показывает, как устроены установка, сопряжение и распределение запросов, но ничего не говорит о скорости: на настоящих видеокартах модели будут и крупнее, и быстрее.

Установка PAIR

Для 64-разрядной Windows скачайте файл NVPAIR-Setup-1.0.0-x64.exe размером около 164 МБ. Установщик подписан NVIDIA Corporation: запрос контроля учётных записей показывает проверенного издателя. Вопросов установщик не задаёт, показывает только полосу прогресса, а после завершения сам запускает программу. На рабочем столе появляется ярлык NVIDIA PAIR.

Окно «Установка NVIDIA PAIR» с полосой прогресса

При первом запуске брандмауэр Windows спрашивает, разрешить ли процессу nvpair-ui-broker доступ к общедоступным и частным сетям. Нажмите «Разрешить»: через этот процесс PAIR запускает поиск других компьютеров и сопряжение, а оно идёт по TCP-порту 14321. Если отказаться, второй компьютер, скорее всего, не будет обнаружен, и PAIR придётся разрешать в брандмауэре вручную.

Запрос брандмауэра Windows на доступ nvpair-ui-broker к общедоступным и частным сетям

Движок и модель

После приветствия PAIR предлагает установить движки. Ollama, LM Studio и llama.cpp отмечены сразу, лишние можно отключить: мы оставили только llama.cpp. Установка идёт в фоне и продолжается, даже если закрыть окно. Позже движки устанавливаются, запускаются и удаляются из карточки компьютера на вкладке Overview – по значку шестерёнки.

Окно Install engines в NVIDIA PAIR: переключатели Ollama, LM Studio и llama.cpp

Чтобы добавить модель, раскройте в карточке движок llama.cpp, затем раздел Models и нажмите Add model. Список заполняется популярными моделями GGUF с Hugging Face, ввод текста фильтрует его, а клавиша Enter ищет по всем публичным репозиториям. Автора репозитория список не показывает, поэтому одинаковые названия легко перепутать. Надёжнее вводить полное имя, например ggml-org/gemma-3-1b-it-GGUF. Популярный список PAIR собирает из репозиториев ggml-org, bartowski и unsloth. PAIR предлагает для каждой модели вариант с квантованием Q4_K_M.

Окно Model search в NVIDIA PAIR с найденной моделью ggml-org/gemma-3-1b-it-GGUF

Загруженная модель появляется в разделе Models, а зелёная точка рядом с ней означает, что она загружена в память. Через меню с тремя точками модель можно загрузить, выгрузить или удалить.

Карточка компьютера в NVIDIA PAIR: llama.cpp запущен, модель gemma 3 1b it загружена

Объединение компьютеров в кластер

Установите PAIR на второй компьютер тем же способом. Затем на первом откройте Settings, раздел Cluster. Компьютеры в той же сети PAIR находит сам через mDNS и показывает в списке Available nodes to add: у нас вторая машина появилась там сразу после запуска программы. Если компьютер не нашёлся, его можно добавить по IP-адресу кнопкой Add node.

Раздел Settings – Cluster в NVIDIA PAIR: найденный компьютер W11-24H2 и кнопка Invite

Нажмите Invite. Первый компьютер покажет шестизначный PIN-код, а на втором откроется окно Cluster invitation с полем для этого кода. Введите его и нажмите Join cluster. Код действует только для одного приглашения: если он введён с ошибкой или приглашение отменено, сопряжение нужно начать заново.

NVIDIA PAIR на приглашающем компьютере показывает шестизначный PIN-код и ждёт подтверждения

Окно Cluster invitation на втором компьютере с введённым PIN-кодом и кнопкой Join cluster

После сопряжения второй компьютер появляется в разделе Connected nodes, а на вкладке Overview обеих машин видны две карточки. Обмен данными между узлами защищён взаимной аутентификацией mTLS. NVIDIA советует сопрягать компьютеры только в доверенной сети: PIN-код служит лишь для первого знакомства машин.

Вкладка Overview в NVIDIA PAIR с двумя компьютерами кластера: W11-24H2 и W11-25H2

Чтобы запросы могли выполняться на обоих компьютерах, загрузите одну и ту же модель на каждый из них. Узел участвует в обработке запроса, только если на нём запущен нужный движок и есть запрошенная модель.

Проверка работы кластера

Проверить кластер можно без собственных программ. В разделе Settings – Service есть кнопка Test: PAIR в течение минуты сам отправляет запросы к модели тем же путём, что и обычные приложения. На той же странице указаны версия программы и версии всех её служб.

Раздел Settings – Service в NVIDIA PAIR 1.0.0: статус службы, кнопка Test и версии компонентов

Ход теста виден на вкладке Overview. Слева перечислены задания: для каждого указано, с какого компьютера пришёл запрос и куда он отправлен, а линии связывают задания с карточками узлов. В нашей проверке 60 запросов с машины W11-25H2 распределились между ней самой и W11-24H2.

Вкладка Overview во время теста NVIDIA PAIR: задания распределяются между W11-25H2 и W11-24H2

Подключение приложений

Приложения обращаются не к движку напрямую, а к прокси PAIR. Он занимает порт, который движок использует по умолчанию, а сам движок переносит на следующий свободный порт. Поэтому программы, уже настроенные на Ollama или LM Studio, продолжают работать без изменений. По умолчанию это http://127.0.0.1:11434 для Ollama, http://127.0.0.1:1234 для LM Studio и http://127.0.0.1:8080 для llama.cpp. Точный адрес показывает кнопка Endpoints.

Окно API endpoints в NVIDIA PAIR: адрес llama.cpp http://127.0.0.1:8080

Через адрес llama.cpp доступен только API в формате OpenAI. Запросы в формате Ollama и Anthropic Messages API PAIR принимает через прокси Ollama, а Anthropic Messages API – ещё и через LM Studio. Например, в PowerShell запрос к модели выглядит так:

$body = '{"model":"ggml-org/gemma-3-1b-it-GGUF:Q4_K_M","messages":[{"role":"user","content":"In one sentence, what does a router do?"}]}'
$r = Invoke-RestMethod http://127.0.0.1:8080/v1/chat/completions -Method Post -ContentType application/json -Body $body
$r.choices[0].message.content

Запрос к модели через PAIR в Windows PowerShell и ответ модели ggml-org/gemma-3-1b-it-GGUF

Ответ приходит в обычном формате OpenAI, а задание появляется на вкладке Overview с именем компьютера, который его выполнил.

PAIR не объединяет видеокарты в один ускоритель и не складывает их видеопамять. Модель не разбивается между компьютерами, и каждый запрос целиком выполняется на одном узле. Выигрыш появляется, когда приложение отправляет много независимых запросов одновременно, например при работе ИИ-агентов с несколькими помощниками.

Автор:
Комментарии и отзывы

Нашли ошибку?

Новое на сайте