Apple описала распределённый слой инференса на простаивающих Mac
В исследовательской работе Minions Apple предложила объединять простаивающие GPU Apple Silicon на устройствах macOS в распределённое виртуальное GPU-облако для задач машинного обучения.
В опубликованной Apple работе Minions описан подход к распределённому выполнению ML-инференса на уже имеющихся устройствах. Система собирает простаивающие GPU Apple Silicon на компьютерах с macOS и предоставляет их командам как виртуальный пул вычислительных ресурсов.
По описанию авторов, Minions рассчитана на ситуации, когда централизованные GPU-ресурсы дороги, недостаточно эластичны или перегружены. Такой подход позволяет использовать существующее оборудование без отдельной закупки ускорителей. В работе также заявлены выполнение задач с учётом отказов и более эффективное использование доступных ресурсов.
Почему это важно
Подход может помочь командам использовать простаивающие Mac для инференса, когда централизованные GPU-ресурсы ограничены. Однако источник не приводит количественного сравнения производительности.