безопасность ai агентов

  1. Сергей Попов

    Статья Атаки на agentic AI пайплайны: как публичный GitHub issue захватывает workflow организации

    В 2025-2026 годах описан класс атак на AI-агентов в GitHub Actions: вредоносный комментарий в pull request заставлял агентов - Copilot, Gemini CLI, Claude Code - сливать secrets, включая API-ключи и GITHUB_TOKEN, прямо в публичные логи workflow. Ноль взаимодействия от мейнтейнера, ноль...
    • Сергей Попов
    • Тема
    • ai supply chain атаки github actions безопасность indirect prompt injection github llm pipeline hijack owasp llm top 10 prompt injection ci/cd атаки на agentic ai пайплайны безопасность ai агентов
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
  2. Сергей Попов

    Статья Безопасность LLM приложений: полное руководство по атакам, защите и AI red teaming

    По данным CrowdStrike Global Threat Report 2025, использование генеративного AI для социальной инженерии и фишинга удвоилось за 2024 год. IBM X-Force Threat Intelligence Index 2025 фиксирует: генерация фишинговых писем через GenAI ускорилась в 11.4 раза при сопоставимом качестве. Но пока...
    • Сергей Попов
    • Тема
    • ai red teaming garak indirect prompt injection jailbreak llm mcp уязвимости model poisoning owasp llm top 10 prompt injection pyrit безопасность ai агентов безопасность llm приложений тестирование безопасности ai
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
Верх Низ
Назад