Apple Research предложила агентам самостоятельно сжимать контекст
12 октября 2026 года Apple Research описала SELFCOMPACT — механизм, который позволяет языковой модели выбирать момент для сжатия длинной цепочки рассуждений и вызовов инструментов.
Apple Research представила SELFCOMPACT для агентных языковых моделей. Проблема, которую решает подход, возникает в длинных цепочках: в них накапливается устаревший контент, влияющий на последующие ответы, а сама траектория в итоге может перестать помещаться в контекстное окно.
Вместо сжатия через фиксированный интервал SELFCOMPACT предлагает самой модели определить подходящий момент. Для этого используются инструмент, который кратко пересказывает накопленный контекст, и специальная инструкция — «рубрика», описывающая ситуации для сжатия. Среди них авторы называют завершение подзадачи или сходимость траектории; во время промежуточного вывода или при застревании сжатие следует подавлять. По данным работы, подход не требует дообучения и внешнего надзора.
Авторы проверили метод на шести бенчмарках по соревновательной математике и агентному поиску, используя семь моделей. По описанию Apple Research, SELFCOMPACT сравнялся или превзошёл суммаризацию через фиксированный интервал при меньших затратах на токены. По сравнению с режимом без суммаризации улучшение составило до 18,1 пункта на математических задачах и 5–9 пунктов в агентном поиске, а стоимость вопроса снизилась на 30–70%.
Почему это важно
Метод показывает практический способ уменьшить избыточный контекст в агентных системах без изменения самих моделей. В описанных тестах это одновременно сохранило качество относительно фиксированного сжатия и снизило стоимость обработки.