ForkPilot снижает вычислительные затраты агентов до 59% без падения качества
🧠 ForkPilot снижает вычислительные затраты агентов до 59% без падения качества
В свежем выпуске Microsoft Research Focus показали ForkPilot — самоулучшающийся фреймворк для долгоживущих агентов. Он учится определять, когда стоит откатиться к предыдущему решению и попробовать другой путь, вместо слепого продолжения или перезапуска всей цепочки. На шести бенчмарках и нескольких ведущих моделях ForkPilot сравнялся с лучшими существующими методами, но снизил вычислительную нагрузку до 59%.
Механика не в том, чтобы агент больше рассуждал. ForkPilot обучает политику ретроспективного поиска: по телеметрии прошлых запусков агент запоминает, в каких ситуациях возврат к раннему шагу окупался, а когда лишь тратил токены. Дорогой возврат к предыдущим шагам из случайной рулетки превращается в управляемый процесс.
Для продакшена это принципиально: если длинные агентные цепочки начнут жить в реальных продуктах, каждый лишний вызов модели — счёт за GPU. Экономия до 59% вычислений при том же качестве — уже разница между «демо работает» и «юнит-экономика сходится».
Правда, Microsoft не раскрыла ни список конкретных бенчмарков, ни названия моделей, ни абсолютные цифры стоимости. «До 59%» — верхняя граница: в среднем может быть скромнее. Но даже если реальная экономия вдвое меньше, направление интересное: не гнаться за более умной моделью, а учить агента меньше и реже думать.
Пока все меряются точностью на бенчмарках, ForkPilot напоминает: в продакшен-агентах не менее важен момент, когда агент перестаёт «думать» и начинает действовать. Учить политику отката по телеметрии — возможно, более приземлённый и масштабируемый путь, чем очередной скачок параметров.
#MicrosoftResearch #ForkPilot #AIagents #инференс
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.