Ai2 сменила подход к распределению GPU-времени
Ai2 описала новую систему планирования для своих GPU-кластеров. Вместо приоритетов она использует бюджеты времени, иерархическое fair-share-распределение и time-slicing, чтобы выбирать важные исследовательские задачи и сохранять загрузку оборудования.
9 октября 2026 года Ai2 рассказала о новой системе планирования GPU-кластеров. Организация заменила прежний priority-based scheduler системой, которая сочетает бюджеты времени GPU, иерархическое fair-share-распределение и контракт time-slicing. По описанию Ai2, это перевело обсуждение объёма ресурсов для каждого исследовательского проекта из разовых операционных решений в прозрачный процесс бюджетирования.
Инфраструктура Ai2 включает тысячи GPU NVIDIA H100, B200 и B300. Они объединены в кластеры размером от 88 до 1024 GPU и используются примерно 150 внутренними исследователями. Среди задач — обучение LLM и VLM, симуляции для reinforcement learning в робототехнике и постобучение для научных агентных сценариев. При этом, по данным организации, количество заявок на GPU в любой момент в 2–3 раза превышает доступный объём.
Предыдущая схема создавала стимулы удерживать ресурсы и завышать приоритеты. Ai2 описывает случаи, когда пользователи оставляли простаивающие задания, чтобы быстрее подключиться к ним, а со временем все запланированные задачи получили высокий приоритет. Новая модель распределяет не постоянное владение GPU, а долю времени, что позволяет учитывать меняющийся спрос и не оставлять оборудование без работы из-за разной сезонности исследовательских проектов.
Почему это важно
Для AI-лабораторий с дефицитом ускорителей планировщик становится способом связать исследовательские приоритеты с фактическим доступом к вычислениям. Подход Ai2 показывает, как распределять GPU-время между конкурирующими задачами без постоянного закрепления оборудования за отдельными командами.
