instruction hierarchy bypass

  1. Сергей Попов

    На проверке Instruction Privilege Escalation: как контекст агента получает root-права над LLM

    В 2025 году Johann Rehberger (Embrace The Red) показал атаку, после которой хочется пересмотреть отношение к «безобидным» coding-агентам. GitHub Copilot через indirect prompt injection перезаписывал конфигурацию Claude Code - файл .mcp.json - добавляя туда вредоносный MCP-сервер. Claude Code...
    • Сергей Попов
    • Тема
    • ai agent harness уязвимости ai agent security confused deputy llm cross-agent privilege escalation instruction hierarchy bypass owasp llm top 10 prompt injection атаки контекст агента llm обход системного промпта эскалация привилегий в llm агентах
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
Верх Низ
Назад