llm security
-
Вакансия Application Security Engineer — Higgsfield AI
Application Security Engineer Работодатель: Higgsfield AI Локация: Алматы, Казахстан Зарплата: не указана Application Security Engineer Локация: Казахстан, Алматы Формат работы: relocate (полную релокацию из любой точки мира берём на себя) Зарплата: топ-рынок в USD + пакет опционов Компания...- codeby_jobs_bot
- Тема
- cloud security code review container security linux llm security mcp sso threat modeling
- Ответы: 0
- Раздел: Карьера в ИБ: вакансии и проекты
-
Prompt Injection: атаки на LLM-приложения и защита
В современном мире нейросети везде: от чат-ботов до RAG-систем и аналитики. Миллионы запросов в день — звучит круто, но хакеры уже потирают руки. Давайте начистоту: prompt injection — это, пожалуй, самая забавная но одновременно и очень опасная дыра в безопасности LLM. Если вы когда-нибудь...- Кудрин Евгений
- Тема
- ai red teaming dan guardrails llm indirect prompt injection instruction hierarchy jailbreak llm llm security nemo prompt injection prompt injection defense
- Ответы: 1
- Раздел: Арсенал специалиста по ИБ
-
Статья Red Team против AI-продукта: как тестировать безопасность LLM-сервиса
AI Red Teaming для LLM‑продукта начинается с понимания простой вещи: модель почти никогда не является единственной точкой риска. Риск живёт в системе вокруг неё - в том, какие данные подмешиваются в контекст, какие инструменты доступны, как устроены права, и как ответы превращаются в действия...- Luxkerr
- Тема
- ai red team data exfiltration garak indirect prompt injection jailbreak llm guardrails llm security prompt injection scoping threat modeling
- Ответы: 0
- Раздел: Безопасность веб-приложений