Режимы reasoning effort в языковых моделях: как это работает
🧠 Режимы reasoning effort в языковых моделях: как это работает
Себастьян Рашка разобрал механику управления «усилиями рассуждений» на примере GPT-5.6 и свежего открытого Inkling. Выбор low/medium/high в интерфейсе сводится к одному параметру — стоимости токена на этапе RLVR. Модель не «думает глубже», она получает большее или меньшее право тратить токены на цепочку рассуждений. Системный промпт «Reasoning effort: low» меняет штраф за токен в процессе обучения с подкреплением, так что модель учится выдавать короткие цепочки рассуждений. Inkling пошла дальше: вместо дискретных меток — непрерывное число от 0 до 1, что даёт плавное управление бюджетом. Точность растёт с длиной ответа, но на графиках GPT-5.6 Sol отчётливо видно насыщение — за определённым порогом каждый дополнительный миллион токенов приносит лишь доли процента на бенчмарках.
— GPT-5.6: три размера модели, каждая с 5–6 уровнями effort (low/medium/high плюс промежуточные).
— Inkling: open-weight, continuous effort label 0–1, управляется через штраф за токен в RL, точная формула не раскрыта.
— Теги <think> — лишь разметка для UI, на способность рассуждать они не влияют.
Предсказуемость reasoning effort как функции от бюджета одновременно разочаровывает и обнадёживает. Никакой «глубины мысли» там нет — есть оплаченное время. Но именно эта предсказуемость превращает reasoning в понятный инженерный параметр, который можно оптимизировать так же прицельно, как размер батча. Следующий шаг — не увеличение лимита токенов, а архитектуры, достигающие high-effort качества за low-effort цену.
Ahead of AI
#reasoning #RLVR #GPT5 #Inkling #инференс