📊 Локальные LLM на домашнем ПК не экономят облачный лимит Попытка переложить часть работы с ChatGPT на локальные модели обернулась нулевой экономией подписочной квоты. В эксперименте на Habr автор тестировал Qwen3.5 9B, GLM-4.7-Flash и Qwen3.5 27B на Windows-ПК с RTX 3080 (10 ГБ VRAM) и 32 ГБ оперативной памяти. Начальная скорость Qwen 9B впечатляла — 89 токенов в секунду, но на реальных задачах время ответа доходило до 37 минут у Qwen 27B для редактуры небольшого текста. В основном рабочем профиле за сутки локальные модели выполнили лишь 12 вызовов из 477 — 2,45%. Содержательные ошибки оказались серьёзнее задержек. Qwen 9B спутала подтверждение брокера с результатом ERP и предложила компенсацию без подтверждённых возможностей системы; все три модели обернули JSON в Markdown-разметку, хотя требовался чистый объект. При извлечении данных из файла GLM и Qwen 27B верно нашли все шесть значений, но нарушили формат ответа. Квантование GLM от Q4_K_M до Q6_K не исправило архитектурные ошибки: Q6 утверждала, что события пропадут при падении обработчика, хотя в схеме они сохранялись, а скорость упала с 30 до 21 токена в секунду при свободной RAM всего 5,29 ГБ. Внутри Hermes Agent локальная Qwen 9B как основной агент изменила путь C: на Q:, не прочитала файл, но выдала правдоподобные значения — совпало только одно поле из семи. Однако как делегированный субагент с явной схемой результата та же модель прочитала нужный файл и вернула все семь полей верно. Автор оставил Qwen 9B Q4_K_M ради меньшего давления на системную память (окно 64K, около 7 ГБ VRAM), но облачная модель осталась координатором, а локальные — только для узких подзадач. Главный вывод эксперимента не в том, что локальные модели ошибаются, а в том, что добавление локального субагента в оркестратор создаёт новую точку отказа: правдоподобный ответ без чтения файла опаснее явной ошибки. Пока модель не научится честно сообщать о недоступности данных, доверять ей даже черновую работу рискованно — а экономия лимита при такой схеме не возникает вовсе. #Qwen #GLM #локальныеLLM #HermesAgent #Ollama