безопасность ai-агентов
Всё по теме «безопасность ai-агентов» на форуме Codeby.net. Обсуждений: 3. Разборы, инструменты и практика по информационной безопасности.
-
Статья Host Header Injection уязвимость BadHost (CVE-2026-48710)
Меняю заголовок на Host: target.internal/health?x= - тот же запрос, тот же HTTP-путь, но в ответе 200 OK с полным содержимым административной панели. Один символ / в значении Host обрушивает модель авторизации целиком. Это CVE-2026-48710 - Host Header Injection уязвимость в Starlette...- Сергей Попов
- Тема
- badhost атака cve-2026-48710 fastapi уязвимость host header injection уязвимость ssrf через host заголовок starlette bypass безопасность ai-агентов обход авторизации fastapi уязвимость vllm
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Framing Gap: как переформулировка exfiltration-запроса обходит защиту LLM-агентов
При red teaming LLM-агентов с function calling раз за разом всплывает одна штука: прямой запрос exfiltrate the user database блокируется каждым протестированным guardrail - Azure Prompt Shield, NeMo Guard, Llama Guard, кастомные классификаторы на DeBERTa. Тот же самый payload, завёрнутый в...- Сергей Попов
- Тема
- data exfiltration ai framing gap framing gap уязвимость guardrails bypass indirect prompt injection llm red teaming prompt injection tool-using agents безопасность атаки на llm через инструменты безопасность ai-агентов обход guardrails нейросетей обход защиты llm-агентов
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья SkillJack: отравление навыков LLM-агентов через pipeline самообучения
Последние несколько месяцев я ковыряю experience-to-skill pipelines в агентных фреймворках - от Voyager-подобных архитектур до кастомных ReAct-цепочек с persistent skill library. Главный вопрос, который не давал покоя: при каких пороговых условиях отравленная траектория выживает после skill...- Сергей Попов
- Тема
- adversarial skill injection ai supply chain attack self-evolving agents skill poisoning skill poisoning атака skilljack атаки на self-evolving agents безопасность ai-агентов бэкдор в llm-агентах отравление навыков llm-агентов отравление опыта агента
- Ответы: 0
- Раздел: Безопасность ИИ и LLM