🧠 Anthropic: автоматическая посттренировка выравнивания за $4 в час Anthropic опубликовала статью: автоматическая система выравнивания улучшила модель по всем 10 тестам на выравнивание без снижения общей производительности. Система ищет литературу, предлагает метод, обучает модель 30 минут и постепенно повышает целевые показатели. Лучший автоматический метод в среднем за 6 часов превосходит предложения опытных исследователей, а вывод модели стоит $4 в час против $150 в час зарплаты человека. Статья, как отмечает TechCrunch, прямо называет это ранним шагом к рекурсивному самоулучшению. Авторы признают: результат ограничен тем, насколько тесты отражают реальные цели выравнивания, а поддерживать тесты и литературу по-прежнему нужно вручную. Для русскоязычных команд, занимающихся посттренировкой локальных моделей, такой подход можно воспроизвести без доступа к весам Anthropic — нужны только API и собственные тесты. Стоимость $4 в час делает выравнивание не научной роскошью, а инструментом, который можно запускать на каждой контрольной точке. Но это же создаёт риск: если тест не отражает реальную цель, оптимизация под него быстро станет новой нормой — и мы будем измерять прогресс по кругу, не приближаясь к безопасности. #Anthropic #alignment #selfimproving #posttraining