ai agent security обход защиты
-
На проверке Prompt injection атаки на AI-агенты: обход Claude Code
Indirect prompt injection, по ряду публикаций, срабатывает в значительном проценте случаев при тестировании агентных систем с auto-execution - точные цифры скачут в зависимости от методологии и набора тестов. За последние полгода я неформально проверял это на Claude Code Auto Mode, Cursor и двух...- Сергей Попов
- Тема
- ai agent security ai agent security обход защиты indirect prompt injection owasp llm top 10 prompt prompt injection атаки на llm-агентов защита llm от prompt injection инъекция промптов обход защиты claude code уязвимости ai-агентов
- Ответы: 0
- Раздел: Безопасность ИИ и LLM