Hugging Face представила TorchNeuron для работы с AWS Trainium
Hugging Face анонсировала TorchNeuron — новый бэкенд для PyTorch, упрощающий запуск моделей на чипах AWS Trainium. Инструмент переводит работу с ускорителем на нативный уровень PyTorch.
Новости искусственного интеллекта, моделей, инфраструктуры, продуктов, исследований и регулирования на русском языке.
Hugging Face анонсировала TorchNeuron — новый бэкенд для PyTorch, упрощающий запуск моделей на чипах AWS Trainium. Инструмент переводит работу с ускорителем на нативный уровень PyTorch.
Компании объединяют усилия для создания специализированных чипов для ИИ-инференса. Qualcomm будет использовать облачные сервисы AWS для проектирования, а AWS внедрит решения Qualcomm в свою инфраструктуру.
Microsoft запустила сервис Azure Multicloud Interconnect, упрощающий создание частных сетевых соединений между облаками Azure и AWS для поддержки сложных ИИ-нагрузок.