prompt injection через rag
Всё по теме «prompt injection через rag» на форуме Codeby.net. Обсуждений: 1. Разборы, инструменты и практика по информационной безопасности.
-
Статья Уязвимости RAG-систем: атаки на Retrieval-Augmented Generation в корпоративных AI-решениях
Пять документов на один целевой вопрос. Именно столько понадобилось, чтобы манипулировать ответами RAG-системы с вероятностью выше 90% - на тестовых QA-корпусах (NQ, HotpotQA, MS-MARCO). Результат из исследования PoisonedRAG (Zou et al., USENIX Security 2025, Pennsylvania State University +...- Сергей Попов
- Тема
- owasp llm top 10 poisoning векторной базы post-auth rce в ai-системах prompt injection через rag ragflow rce уязвимость атаки на llm атаки на rag-системы безопасность корпоративных ai-решений пентест ai-систем уязвимости rag-систем
- Ответы: 0
- Раздел: Безопасность ИИ и LLM