Meta использует простаивающую inference-мощность для рекомендаций рекламы
Meta описала систему, которая направляет временно свободные вычислительные ресурсы на улучшение рекламных рекомендаций. Она увеличивает объём дополнительной работы, не затрагивая базовую производительность.
Meta 12 октября 2026 года рассказала о системе, использующей простаивающую inference-мощность для рекламных рекомендаций. По описанию компании, глобальная инфраструктура может испытывать дефицит ресурсов в целом, пока отдельные регионы, типы ускорителей или другие участки остаются недогруженными. Система объединяет такие фрагменты в общий пул временно доступной мощности.
Основной риск связан с тем, что этот ресурс может быть отозван без предупреждения. Поэтому Meta отделяет его от мощности, зарезервированной для базового обслуживания. При изменении доступности система должна быстро добавлять или сокращать необязательную работу, не ухудшая задержки и надёжность основного сервиса.
В компании выделяют два механизма. Rank More Ads увеличивает число кандидатов, которые проходят этапы ранжирования, когда появляются свободные ресурсы. Serve Better Models меняет долю запросов, направляемых на более мощную модель. Дополнительные контуры управления регулируют объём кандидатов и охват более сильной моделью.
Для защиты сервиса Meta также применяет постепенное снижение нагрузки на серверах и клиентах. Если свободная мощность исчезает, дополнительная обработка сокращается, а базовая выдача продолжает работать. В опубликованном материале компания не приводит конкретных чисел прироста качества рекламы или рекламной выручки, ограничиваясь описанием архитектуры и принципов эксплуатации.
Почему это важно
Подход показывает, как использовать временно свободные ускорители без покупки дополнительной мощности и без риска для основного сервиса. Он применим прежде всего к крупным inference-системам с эластичной дополнительной нагрузкой.