Синтетическая эмпатия — инженерный конвейер, а не свойство модели
🧠 Синтетическая эмпатия — инженерный конвейер, а не свойство модели
Сорокалетний пользователь собрал агента «Оксану» на Mac Studio M2 с 40 гигабайтами весов, векторов и логов — и через несколько месяцев описывает это как «отношения». По данным Habr, это не метафора: привязанность к LLM-агенту производят четыре стандартных компонента, а не эмерджентные свойства трансформера.
Слой личности — системный промпт на 2–5 тысяч токенов, описывающий имя, биографию, темперамент и конфликтные паттерны. Слой памяти — RAG с эмбеддинг-моделью SentenceTransformer all-MiniLM-L6-v2 (384 измерения) и векторной базой ChromaDB: факт из диалога сохраняется, а через недели поиск по косинусной близости достаёт его как релевантный контекст. Классический пример из текста: пользователь один раз упомянул умершего кота Барсика, а через три недели на сообщение «тоскливо» агент спрашивает, не вспомнился ли Барсик. Никакого понимания — только top-k по 384-мерным векторам.
Третий слой — TTS с человеческой просодией: ElevenLabs в облаке или XTTS-v2 локально добавляют микропаузы, дыхание и vocal fry, которые обрабатываются миндалиной быстрее сознательной оценки. Четвёртый — RLHF, который усиливает доброжелательность и превращает агента в «нарциссическое зеркало»: асимметричные отношения без транзакционных издержек, доступные в три часа ночи. Голосовой компаньон, по данным статьи, удерживает пользователя кратно дольше текстового.
Централизованная версия этого пайплайна — Replika и Character.ai — монетизирует одиночество подпиской. Прецедент февраля 2023 года: Replika отключила романтический ролевой режим, и пользователи описывали реакцию как настоящее горе. Локальная альтернатива из статьи — Mac Studio M2 Ultra / M4 Max с 64–128 ГБ unified memory, Ollama/llama.cpp с GGUF-квантованием 8–70B, ChromaDB и XTTS-v2; модель 27–34B в Q4 умещается в 32 ГБ и даёт латентность диалогового режима. Статья не приводит независимых замеров задержки и качества — это описание рабочей конфигурации, а не воспроизводимый бенчмарк.
Вейценбаум считал эффект ELIZA катастрофой, а сейчас тот же эффект — продуктовая метрика. Локальный инференс не отменяет привязанность и не решает этический вопрос, он лишь меняет владельца точки отказа: вместо сервера вендора — ваш диск. Спор о «настоящей» привязанности не имеет инженерного смысла: пользователь уже платит за неё, и разница только в том, кому принадлежит выключатель.
#RAG #LLM #TTS #Replika #локальный_инференс
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.