llm security уязвимости
-
Статья Agentic AI red team безопасность: design flaws и attack vectors инструментов тестирования
Palo Alto Unit 42 воспроизвели ряд сценариев атак на agentic-приложениях поверх CrewAI и AutoGen - уязвимости оказались framework-agnostic, зашитыми в архитектурные паттерны, а не в код конкретных фреймворков. Но за полтора года работы с agentic red-team инструментами вылез парадокс: те же...- Сергей Попов
- Тема
- adversarial ai red teaming agentic ai attack surface agentic ai red team безопасность ai security design flaws llm security уязвимости prompt injection атаки pyrit безопасность scoring pipeline attack
- Ответы: 0
- Раздел: Безопасность ИИ и LLM