Команда инфраструктуры ИИ в Институте Аллена (Ai2) перешла на новую систему планирования для управления тысячами GPU NVIDIA (H100, B200, B300). Ранее использовавшийся приоритетный планировщик приводил к «захвату» ресурсов и инфляции приоритетов, когда все задачи помечались как высокоприоритетные. Новая модель вводит «бюджеты времени» для исследовательских групп и иерархическое распределение ресурсов, что делает процесс прозрачным и административно управляемым. Система использует «контракт на планирование», требующий от пользователей указывать минимальное время выполнения задачи. Это позволяет планировщику автоматически перераспределять ресурсы и сокращать простои. По данным Ai2, после внедрения медианное время ожидания в очереди на крупнейшем кластере H100 сократилось с 5 минут до 24 секунд, а количество ремонтов оборудования, требующих участия инженеров, снизилось на 74%.