Apple исследовала компромисс между управляемостью и качеством текста у LLM
30 сентября 2026 года Apple представила систематическое исследование методов управления выводом больших языковых моделей. Работа принята на конференцию EMNLP.
В исследовании Apple сравниваются методы conditioning — управления поведением языковых моделей через промпты, дообучение и вмешательство в активации. Авторы рассматривают два сценария: добавление целевой концепции в вывод и её удаление. По результатам работы, эффективное управление часто сопровождается ухудшением плавности генерации. Отдельно исследователи отмечают зависимость результата от типа обучения модели: activation steering оказался значительно менее эффективным для instruction-tuned моделей, чем для базовых. Простое промптирование и supervised fine-tuning авторы называют рабочими вариантами для внедрения концепций, однако для удаления они подходят хуже. Исследование также показывает, что недорогие текстовые метрики хорошо коррелируют с оценками LLM-as-a-judge, что может упростить первичное сравнение методов.
Почему это важно
Работа показывает, что контроль над поведением LLM нельзя оценивать только по тому, удалось ли внедрить или удалить нужную концепцию: важна и цена такого вмешательства для качества генерации.
