Fable сломала бесплатный апгрейд: инженеры снова выбирают модель под задачу
📊 Fable сломала бесплатный апгрейд: инженеры снова выбирают модель под задачу
Drew Breunig описывает сдвиг, который знаком каждому, кто собирал рабочие конвейеры в последние два года: до Fable оптимизировать инструменты для написания кода или стратегии работы с контекстом казалось бессмысленным — новая модель появлялась по той же цене или дешевле и решала большинство проблем. Fable изменила всё: она невероятна, но дорога, а Opus, 5.6, K3 и даже GLM оказались достаточно хороши для большей части задач по написанию кода. Команды начали думать, какую работу какой модели поручать.
Это не столько про качество модели, сколько про экономику вывода. Раньше стандартной стратегией было отправлять всё в самую свежую модель и забыть о настройке подсказок. Теперь цена токена снова стала переменной, от которой зависит архитектура: где хватит Opus, где нужна Fable, а где вообще GLM.
По данным Simon Willison, конкретных цифр стоимости Fable в заметке нет — только качественное «высокая». Но само умолчание показательно: как только модель перестала быть дешёвой по умолчанию, инженеры вернулись к тому, что три года назад называли «преждевременной оптимизацией».
«Бесплатный обед» закончился не потому, что модели перестали улучшаться, а потому что улучшение теперь стоит отдельно от предыдущего поколения. Маршрутизация между несколькими моделями из модного термина превратилась в повседневную необходимость — и это, пожалуй, самый прагматичный сдвиг в индустрии за год.
#Fable #LLMOps #стоимостьинференса #мультимодельныесистемы
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.