безопасность ai агентов

  1. Сергей Попов

    Статья Кража inference-time harness в мультиагентных LLM-системах: методология извлечения и PoC

    Одна и та же frontier-модель. Идентичный payload. 0% Attack Success Rate на одном канале инъекции, 100% - на другом. Этот результат (воспроизводимый в нескольких препринтах 2024-2025 годов по kill-chain анализу prompt injection в мультиагентных системах) ломает привычную картину: реальная...
    • Сергей Попов
    • Тема
    • kill-chain canary model extraction attack model stealing атаки на llm owasp llm top 10 prompt injection llm reverse engineering llm атаки на оркестрацию агентов безопасность ai агентов извлечение harness llm агентов кража inference-time harness мультиагентные llm системы утечка данных через llm api уязвимости amas архитектур
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
  2. Сергей Попов

    Статья Атаки на agentic AI пайплайны: как публичный GitHub issue захватывает workflow организации

    В 2025-2026 годах описан класс атак на AI-агентов в GitHub Actions: вредоносный комментарий в pull request заставлял агентов - Copilot, Gemini CLI, Claude Code - сливать secrets, включая API-ключи и GITHUB_TOKEN, прямо в публичные логи workflow. Ноль взаимодействия от мейнтейнера, ноль...
    • Сергей Попов
    • Тема
    • ai supply chain атаки github actions безопасность indirect prompt injection github llm pipeline hijack owasp llm top 10 prompt injection ci/cd атаки на agentic ai пайплайны безопасность ai агентов
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
  3. Сергей Попов

    Статья Безопасность LLM приложений: полное руководство по атакам, защите и AI red teaming

    По данным CrowdStrike Global Threat Report 2025, использование генеративного AI для социальной инженерии и фишинга удвоилось за 2024 год. IBM X-Force Threat Intelligence Index 2025 фиксирует: генерация фишинговых писем через GenAI ускорилась в 11.4 раза при сопоставимом качестве. Но пока...
    • Сергей Попов
    • Тема
    • ai red teaming garak indirect prompt injection jailbreak llm mcp уязвимости model poisoning owasp llm top 10 prompt injection pyrit безопасность ai агентов безопасность llm приложений тестирование безопасности ai
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
Верх Низ
Назад