атаки на llm

  1. Сергей Попов

    Статья Уязвимости RAG-систем: атаки на Retrieval-Augmented Generation в корпоративных AI-решениях

    Пять документов на один целевой вопрос. Именно столько понадобилось, чтобы манипулировать ответами RAG-системы с вероятностью выше 90% - на тестовых QA-корпусах (NQ, HotpotQA, MS-MARCO). Результат из исследования PoisonedRAG (Zou et al., USENIX Security 2025, Pennsylvania State University +...
    • Сергей Попов
    • Тема
    • embedding inversion owasp llm top 10 poisoning векторной базы post-auth rce в ai-системах prompt injection через rag ragflow rce уязвимость атаки на llm атаки на rag-системы безопасность корпоративных ai-решений пентест ai-систем уязвимости rag-систем
    • Ответы: 0
    • Раздел: Безопасность ИИ и LLM
  2. samhainhf

    Статья Prompt Jailbreak vs Prompt Injection: В чем разница?

    Если вы хотя бы немного следите за миром больших языковых моделей (LLM), вы наверняка сталкивались с терминами "промпт-инъекция" (prompt injection) о которой я говорил в прошлой статье, и "джейлбрейк" (jailbreak). Их используют разработчики, исследователи, хакеры и журналисты. И очень часто...
    • samhainhf
    • Тема
    • атаки на llm безопасность ai генеративный ии джейлбрейк защита llm защита от инъекций искусственный интеллект безопасность промпт-инъекция
    • Ответы: 0
    • Раздел: Безопасность веб-приложений
Верх Низ
Назад