Управление агентами должно жить в слое данных, а не в коде
🧠 Управление агентами должно жить в слое данных, а не в коде
В спонсированном EDB материале VentureBeat ставит жёсткий вопрос: если агент попытается выполнить действие без авторизации, что его остановит? Ответ автора — правила должны жить в слое данных, а не в коде приложения, потому что агенты не обладают собственным суждением и следуют правилам только в момент действия. Пример с дверью автомобиля: жёсткое правило «не открывай» в нормальном контексте мешает, а при пожаре должно отменяться — для этого нужен контекст данных. Ни одна конкретная модель, метрика или реализация в статье не названа — это концептуальный аргумент, а не техническое решение. Для разработчиков это переход от правил уровня приложения к ограничениям, встроенным в сами записи данных, что похоже на модель нулевого доверия для агентов. В российских проектах на YandexGPT или GigaChat вопрос встанет так же остро, когда агенты получат доступ к рабочим базам данных.
Правила в данных — это не магия: для них тоже нужно вести версии, проводить аудит и защищать от подделки. Если вы не готовы управлять данными, автономных агентов вам лучше не запускать. А вот кто будет отвечать, когда правило в данных окажется неверным — пока открытый вопрос.
VentureBeat
#AIagents #governance #dataLayer #agenticAI #EDB
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.