Компания Hugging Face представила TorchNeuron, плагин для PyTorch, который обеспечивает нативную поддержку AWS Trainium. В отличие от предыдущего решения Optimum Neuron, которое требовало адаптации кода под специфические компиляторы и статические графы, TorchNeuron позволяет использовать стандартные библиотеки, такие как Transformers, Diffusers, Accelerate, PEFT и TRL, без необходимости в специализированных форках или отдельных тренерах. Новый бэкенд поддерживает eager-режим, torch.compile и стандартные распределенные API, включая FSDP и TP. Теперь для запуска модели на устройствах Neuron достаточно указать device_map=neuron. По данным Hugging Face, это обеспечивает поддержку 89% из 100 самых популярных архитектур для генерации текста «из коробки» по сравнению с 46% в предыдущей версии. Публичная бета-версия TorchNeuron станет доступна 20 октября 2026 года через установку пакета torch-neuronx.