Google представила проект с открытым исходным кодом TorchTPU, который позволяет запускать приложения на базе популярного фреймворка PyTorch на собственных тензорных процессорах (TPU) компании. Ранее аналогичный инструмент под названием TorchNeuron для чипов Trainium представила компания Amazon. Оба решения нацелены на упрощение миграции приложений с оборудования Nvidia на облачные инфраструктуры Google и AWS без необходимости изменения исходного кода. Google заявляет о сотрудничестве с Meta, Hugging Face и разработчиками vLLM и SGLang для обеспечения совместимости TorchTPU с существующими инструментами разработки. Кроме того, компания запустила «TPU agent suite» для помощи в переносе приложений и обновила инструмент LiteRT для работы с PyTorch на мобильных устройствах. Amazon, в свою очередь, планирует внести в основной проект PyTorch изменения, которые сделают его менее зависимым от архитектуры чипов Nvidia.