Компания Nvidia анонсировала Personal AI Router (PAIR) — инструмент с открытым исходным кодом, предназначенный для распределения задач по запуску нейросетей между несколькими устройствами в локальной сети. Несмотря на название, PAIR не является аппаратным устройством, а представляет собой программное решение, которое синхронизирует вычислительные мощности домашних ПК, ноутбуков или рабочих станций. Это позволяет пользователям запускать более тяжелые модели, которые не помещаются в память одного устройства. Инструмент интегрируется с популярными средами для работы с локальными LLM, такими как Ollama и LM Studio. Принцип работы заключается в создании кластера, где PAIR берет на себя роль координатора, перенаправляя запросы на свободные вычислительные ресурсы других компьютеров в сети. Это решение ориентировано на энтузиастов и разработчиков, которые хотят использовать возможности распределенных вычислений для локального инференса без необходимости арендовать облачные мощности или покупать дорогостоящее серверное оборудование.