ai agent security
Всё по теме «ai agent security» на форуме Codeby.net. Обсуждений: 3. Разборы, инструменты и практика по информационной безопасности.
-
Статья Supply chain атаки на AI-агентов: kill chain 2026
26 августа 2025 года postinstall-payload в npm-пакете Nx - сборочной системе с 6 миллионами установок в неделю - сделал нечто, чего раньше в supply chain инцидентах не встречалось: обнаружив на рабочей станции разработчика CLI Claude, Gemini и Amazon Q, он дал каждому команду собрать...- Сергей Попов
- Тема
- ai agent security github actions security mcp уязвимости prompt injection supply chain attack llm supply chain атаки на ai-агентов безопасность агентных систем кража credentials llm угон github-аккаунтов
- Ответы: 0
- Раздел: Облачная безопасность и DevSecOps
-
Статья Prompt injection атаки на AI-агенты: обход Claude Code
Indirect prompt injection, по ряду публикаций, срабатывает в значительном проценте случаев при тестировании агентных систем с auto-execution - точные цифры скачут в зависимости от методологии и набора тестов. За последние полгода я неформально проверял это на Claude Code Auto Mode, Cursor и двух...- Сергей Попов
- Тема
- ai agent security ai agent security обход защиты indirect prompt injection owasp llm top 10 prompt prompt injection атаки на llm-агентов защита llm от prompt injection инъекция промптов обход защиты claude code уязвимости ai-агентов
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Instruction Privilege Escalation: как контекст агента получает root-права над LLM
В 2025 году Johann Rehberger (Embrace The Red) показал атаку, после которой хочется пересмотреть отношение к "безобидным" coding-агентам. GitHub Copilot через indirect prompt injection перезаписывал конфигурацию Claude Code - файл .mcp.json - добавляя туда вредоносный MCP-сервер. Claude Code...- Сергей Попов
- Тема
- ai agent harness уязвимости ai agent security confused deputy llm cross-agent privilege escalation instruction hierarchy bypass owasp llm top 10 prompt injection атаки контекст агента llm обход системного промпта эскалация привилегий в llm агентах
- Ответы: 0
- Раздел: Безопасность ИИ и LLM