prompt injection
-
К
SecAI: защита ML и LLM-продуктов от prompt injection и data poisoning
You must be registered for see element. В мире, где каждая компания спешит встроить LLM в продукт, злоумышленники уже нашли слабые места. Две самые опасные атаки, с которых всё начинается, — Prompt Injection и Data Poisoning. Обычные фильтры и сканеры безопасности против них Эти уязвимости...- Кудрин Евгений
- Тема
- ai product security ai security data poisoning llm model security nemo guardrails owasp llm top 10 prompt injection rag security
- Ответы: 0
- Раздел: Арсенал специалиста по ИБ
-
Статья Red Team против AI-продукта: как тестировать безопасность LLM-сервиса
You must be registered for see element. AI Red Teaming для LLM‑продукта начинается с понимания простой вещи: модель почти никогда не является единственной точкой риска. Риск живёт в системе вокруг неё - в том, какие данные подмешиваются в контекст, какие инструменты доступны, как устроены...- Luxkerr
- Тема
- ai red team data exfiltration garak indirect prompt injection jailbreak llm guardrails llm security prompt injection scoping threat modeling
- Ответы: 0
- Раздел: Этичный хакинг и тестирование на проникновение
-
News Первый AI-вымогатель PromptLock: как работает и чем опасен
You must be registered for see element. Исследователи компании ESET You must be registered for see element. об обнаружении первого в мире рафинированного ими программного обеспечения-вымогателя, использующего искусственный интеллект. Зловред под названием PromptLock представляет собой инъекцию...- Luxkerr
- Тема
- ai-вымогатель eset gpt-oss-20b ollama prompt injection promptlock ransomware speck 128 кибербезопасность
- Ответы: 0
- Раздел: Новости кибербезопасности