атаки на self-evolving agents
-
На проверке SkillJack: отравление навыков LLM-агентов через pipeline самообучения
Последние несколько месяцев я ковыряю experience-to-skill pipelines в агентных фреймворках - от Voyager-подобных архитектур до кастомных ReAct-цепочек с persistent skill library. Главный вопрос, который не давал покоя: при каких пороговых условиях отравленная траектория выживает после skill...- Сергей Попов
- Тема
- adversarial skill injection ai supply chain attack self-evolving agents skill poisoning skill poisoning атака skilljack атаки на self-evolving agents безопасность ai-агентов бэкдор в llm-агентах отравление навыков llm-агентов отравление опыта агента
- Ответы: 0
- Раздел: Безопасность ИИ и LLM