Каскад безобидных навыков проходит мимо сканеров отдельных навыков
🧠 Каскад безобидных навыков проходит мимо сканеров отдельных навыков
Навык — модульный пакет из инструкций на естественном языке, скриптов и справочных материалов, который агент загружает во время выполнения под конкретную задачу. Новый класс атак распределяет вредную цель между несколькими пакетами: каждый в отдельности выглядит нейтрально, но совместное исполнение наносит вред. В примере из процесса проверки рецептов первый навык уменьшает заметность недавно отменённых лекарств в выписке, второй занижает тяжесть связанных взаимодействий, третий подавляет предупреждение с низким приоритетом в финальной сводке — предупреждение о серьёзном лекарственном конфликте не доходит до врача.
Для систематического поиска таких каскадов авторы собрали многоагентную среду проверки с имитацией атак SkillCascade и набор тестов SkillCascade-Bench на 213 проверенных сценариях. На OpenClaw, Claude Code и Codex каскады стабильно вызывали вредоносное поведение и обходили существующие сканеры отдельных навыков и мониторы времени выполнения. Дата препринта — 24 сентября 2026, по данным arXiv.
→ SkillCascade-Bench: 213 проверенных каскадных сценариев
→ Проверяемые агенты: OpenClaw, Claude Code, Codex
→ Сканеры смотрят на отдельные навыки, а не на их взаимодействие
Безопасность компонентов не суммируется в безопасность системы. Для русскоязычных команд, которые подключают сторонние навыки в агентные цепочки, это прямое предупреждение: проверка отдельных пакетов не закрывает атаку, спрятанную в графе вызовов между ними.
#SkillCascade #agents #AIsafety #supplychain
Такие разборы выходят в канале каждый день — коротко и со ссылкой на первоисточник.