Компания DeepSeek представила DeepInfer — внутренний фреймворк для инференса (процесса обработки запросов и генерации ответов обученной моделью), распространяемый под лицензией Apache 2.0. Данное решение является основой для работы быстрой модели V4.1-Flash. Система базируется на архитектуре vLLM и включает оптимизированные вычислительные ядра, инструменты для распределенной обработки данных между несколькими чипами и методы ускоренной генерации текста. В дополнение к движку компания выпустила deepseek-recipe, набор инструментов, позволяющий воспроизвести логику обработки токенов официального API DeepSeek при самостоятельном развертывании моделей. По заявлению разработчиков, цель релиза — помочь сообществу сократить расходы на вычислительные ресурсы и снизить энергопотребление. Аналитики отмечают, что этот шаг может усилить ценовое давление на западных провайдеров, таких как OpenAI и Anthropic, и потенциально несет политический подтекст в контексте технологического соперничества между Китаем и США.