Компания Amazon Web Services (AWS) представила TorchNeuron, инструмент, призванный упростить перенос приложений, созданных на базе PyTorch, на собственные ИИ-чипы Amazon Trainium. По заявлению компании, для адаптации приложения достаточно изменить одну строку конфигурации, что исключает необходимость переписывать программный код. Amazon стремится снизить зависимость разработчиков от экосистемы Nvidia CUDA, которая исторически глубоко интегрирована в PyTorch. Помимо выпуска инструмента, AWS планирует внести изменения в основной проект PyTorch, чтобы сделать фреймворк более независимым от конкретных аппаратных решений. В компании утверждают, что использование Trainium обеспечивает более выгодную экономику для стартапов за счет объединения процессов обучения и инференса на одной платформе. В качестве примера AWS приводит компанию Deepgram, которая, по их данным, увеличила объем обработки аудио на 70% на каждый затраченный доллар после перехода на Trainium.