Компания Meta представила MTIA 300 — новое поколение собственных ускорителей, разработанных специально для задач обучения и инференса нейросетей. В отличие от универсальных графических процессоров, этот чип оптимизирован для работы с алгоритмами ранжирования и рекомендательными моделями, которые требуют высокой интенсивности обмена данными между узлами системы. Ключевой особенностью архитектуры MTIA 300 стало внедрение встроенных чиплетов сетевых интерфейсов (NIC) и специализированных движков для разгрузки коммуникационных задач. Такое решение позволяет чипу эффективнее справляться с передачей данных в крупных кластерах, снижая нагрузку на основные вычислительные мощности. Для управления этими процессами Meta разработала библиотеку HCCL, которая работает в связке с аппаратным обеспечением, обеспечивая более высокую производительность при обучении сложных моделей по сравнению с традиционными GPU общего назначения.