🧠 Гибридные архитектуры Transformer и Mamba становятся стандартом LLM Собранный за январь–май список ключевых LLM-статей фиксирует сдвиг, который уже нельзя игнорировать: гибридные архитектуры стали основным направлением, а не лабораторным экспериментом. Себастьян Рашка в своём дайджесте подчёркивает, что интерес сместился от простого масштабирования трансформеров к эффективной работе с длинным контекстом — и главным инструментом здесь оказалось чередование слоёв внимания с Mamba-2 или Gated DeltaNet. Nvidia уже встроила такой подход в боевую модель Nemotron 3 Super, а Qwen3.6 использует гибридную схему на Gated DeltaNet, и это лишь самые заметные примеры. Причина прагматична: системы агентов вроде OpenClaw обрабатывают контексты по сотни тысяч токенов, и чистый Transformer на таких дистанциях упирается в квадратичную сложность внимания. Гибрид же переносит часть слоёв на линейные по затратам state-space-блоки, сохраняя выразительность там, где внимание действительно нужно. Параллельно в списке заметен рост работ по диффузионным языковым моделям, эффективному выводу и RLVR — но архитектурный тренд на гибриды выглядит самым зрелым, потому что уже опирается на боевые модели, а не только на статьи. → Nemotron 3 Super: 550B-A55B, MoE, гибрид Mamba-2 + Transformer, в боевом использовании. → Появились Mamba-3 и Gated DeltaNet-2 — следующее поколение блоков для грядущих моделей. → Вектор на длинный контекст: гибридные слои снижают стоимость вывода в сценариях с агентами. Пока массовое внимание приковано к тестам, реальная гонка идёт за архитектурой, которая выдерживает 128K+ токенов без дикого счёта за GPU. Гибриды здесь берут верх не магией, а простым инженерным компромиссом: они не «умнее», а просто дешевле в боевом использовании — и именно это, а не число параметров, определяет, какую модель заказчик оставит в долгосрочном контракте. Ahead of AI: LLM Research Papers 2026 (Jan–May) #LLM #Nemotron #Mamba #hybrid #2026