Sakana AI описала метод самоулучшения через команды виртуальных агентов
Sakana AI представила Multi-Agent Self-Supervision — метод, в котором одна модель обучается на работе команды виртуальных субагентов. В эксперименте компании после двух циклов вырос показатель на выходной токен.
Sakana AI представила Multi-Agent Self-Supervision, или MASS, — подход к рекурсивному самоулучшению моделей. В описании компании одна общая модель решает задачи через команду виртуальных субагентов, ищет более эффективные многоагентные рабочие процессы, а затем использует собственные оценки, чтобы выбрать лучшие из них. Опыт команды после этого возвращается в общую модель через обучение на результатах выбранной команды.
Эксперимент провели в двух циклах с открытой моделью на 27B параметров и синтетическими открытыми исследовательскими задачами. После второго цикла показатель на выходной токен составил 1.2–1.6 от уровня базовой модели на четырёх исследовательских бенчмарках. По утверждению Sakana AI, метод также показал обобщение ролей: обучение на данных решения задач улучшало возможности как оптимизатора, так и оценщика.
Авторы отдельно обозначают ограничение подхода. Если модель одновременно создаёт решения и оценивает их, общие ошибки и слепые зоны могут быть приняты за прогресс и усилены последующим обучением. Вместе с описанием MASS команда опубликовала ссылку на исследовательскую статью и код.
Почему это важно
Работа предлагает практическую схему обучения многоагентных систем, но одновременно показывает риск замкнутой оценки: модель может закреплять собственные ошибки, если внешняя проверка недостаточна.
