Компания Microsoft представила Azure Maia 300 — третье поколение специализированных ИИ-ускорителей, разработанных для повышения эффективности инференса (вывода) нейросетей. Архитектура системы ориентирована на поддержку агентных рабочих нагрузок, включая многошаговое выполнение задач и работу с длинным контекстом. По заявлению компании, Maia 300 обеспечивает до 7 раз более высокую пропускную способность токенов на уровне стойки и в 2,5 раза большую производительность на ватт по сравнению с предыдущим поколением, Maia 200. Ключевые изменения включают переход к архитектуре памяти NUMA, внедрение новых форматов с узкой точностью и масштабирование до 12 288 ускорителей в рамках одного суперпода. Система использует программно-определяемую архитектуру потоков данных (SDLA), которая позволяет оптимизировать перемещение данных между вычислительными узлами и памятью. Новая сетевая инфраструктура на базе Ethernet интегрирована непосредственно в модель программирования, что упрощает управление данными в масштабах дата-центра.