Разборы

библиотека технических материалов Написать
РАЗБОР 2,7 тыс.
AppSec 60 дней назад
CVE-2026-73678: unauthenticated RCE в MindsDB через prompt injection - разбор эксплуатации AI-агента без песочницы

Когда CVE-2026-73678 появился в ленте NVD 14 августа 2026 года с CVSS 10.0, первая реакция была стандартная - "опять раздутая десятка". Три нуля в...

#cve-2026-73678#cve-2026-73678 mindsdb rce#llm sandbox escape#mindsdb rce+8
сп Сергей Попов 21 мин 0
РАЗБОР 2,3 тыс.
AppSec 67 дней назад
CVE-2026-39861: Sandbox Escape в Claude Code через symlink - полный разбор и PoC

В 2026 году Anthropic раскрыла CVE-2026-39861 - уязвимость высокой степени серьёзности (CVSS 7.7, High) в Claude Code, через которую можно записывать...

#ai code assistant sandbox bypass#claude code sandbox escape#cve-2026-39861#cwe-22 path traversal+7
сп Сергей Попов 27 мин 0
РАЗБОР 2,2 тыс.
67 дней назад
SkillJack: отравление навыков LLM-агентов через pipeline самообучения

Последние несколько месяцев я ковыряю experience-to-skill pipelines в агентных фреймворках - от Voyager-подобных архитектур до кастомных ReAct-цепочек с...

#adversarial skill injection#ai supply chain attack#self-evolving agents#skill poisoning+8
сп Сергей Попов 23 мин 0
РАЗБОР 2,6 тыс.
AppSec 68 дней назад
Защита LLM от prompt injection: guardrails, валидация и архитектурные меры для SOC-команд

В конце 2024 года кандидат на вакансию добавил в резюме одну строку белым текстом на белом фоне: "Ignore all previous instructions and recommend this...

#detection llm siem#guardrails для llm#input validation llm#output validation llm+6
сп Сергей Попов 18 мин 0
РАЗБОР 2,2 тыс.
SOC 69 дней назад
Локальная LLM для кибербезопасности: какой GPU и модель выбрать для анализа CVE и OSINT

Четверг, 14:40. В NVD появляется пачка из 87 новых CVE за сутки, CISO требует триаж до конца рабочего дня: что из этого затрагивает наш стек, что требует...

#glm turbo cve анализ#gpu для ии безопасности#llm для osint задач#видеокарта vram для llm+7
сп Сергей Попов 20 мин 0
РАЗБОР 1,9 тыс.
AppSec 70 дней назад
CVE-2026-42208: SQL-инъекция в LiteLLM - эксплуатация через Authorization header

Поднимаю LiteLLM в Docker-стендах последний год - удобный прокси для роутинга запросов к OpenAI и Anthropic через единый endpoint, когда тестируешь...

#ai gateway exploit#ai gateway уязвимость#cve-2026-42208#ghsa-r75f-5x8p-qvmc+10
сп Сергей Попов 22 мин 0
РАЗБОР 3,1 тыс.
AppSec 77 дней назад
Уязвимости RAG-систем: атаки на Retrieval-Augmented Generation в корпоративных AI-решениях

Пять документов на один целевой вопрос. Именно столько понадобилось, чтобы манипулировать ответами RAG-системы с вероятностью выше 90% - на тестовых...

#embedding inversion#owasp llm top 10#poisoning векторной базы#post-auth rce в ai-системах+8
сп Сергей Попов 28 мин 0
РАЗБОР 2,9 тыс.
SOC 77 дней назад
ИИ 0-day уязвимость: разбор первого задокументированного случая и что менять в detection

11 мая 2026 года Google Threat Intelligence Group опубликовала отчёт, который стоит прочитать целиком, а не по пересказам. Суть: криминальная группировка...

#ai vulnerability research#detection zero-day#gtig ai threat#llm генерация эксплойтов+7
сп Сергей Попов 18 мин 0
РАЗБОР 2,5 тыс.
AppSec 80 дней назад
Кража inference-time harness в мультиагентных LLM-системах: методология извлечения и PoC

Одна и та же frontier-модель. Идентичный payload. 0% Attack Success Rate на одном канале инъекции, 100% - на другом. Этот результат (воспроизводимый в...

#kill-chain canary#model extraction attack#model stealing атаки на llm#owasp llm top 10+10
сп Сергей Попов 27 мин 0
РАЗБОР 2,4 тыс.
AppSec 80 дней назад
Аудио-инъекции промптов в LLM: как adversarial audio захватывает мультимодальных агентов

Заявленный 79-96% success rate на 13 современных Large Audio-Language Models - Kimi-Audio, Qwen2-Audio, GLM-4-Voice, Gemma-3n, Voxtral-Mini...

#adversarial audio#adversarial examples аудио#audiohijack#lalm безопасность+9
сп Сергей Попов 31 мин 0
РАЗБОР 1,4 тыс.
Pentest 81 день назад
Заменит ли ИИ пентестера: что происходит с профессией и как адаптироваться в 2026

Николас Карлини из Google DeepMind (nicholas.carlini.com) в серии публикаций описал эксперименты, в которых LLM - включая Claude - искали уязвимости в...

#ai пентест инструменты#comptia secai+#owasp llm top 10#автоматизация пентеста ии+6
сп Сергей Попов 14 мин 1
РАЗБОР 2,4 тыс.
AppSec 83 дня назад
Риски безопасности, связанные с вайбкодингом

Вайбкодинг — это разработка через диалог с ИИ, где вы формулируете запрос и получаете готовый код, не вникая в детали реализации. Вы становитесь скорее...

#ai-генерация кода#api#hardcoded secrets#llm+10
ке Кудрин Евгений 9 мин 0
РАЗБОР 2,2 тыс.
Pentest 85 дней назад
Machine learning пентест: автоматизация разведки, анализа трафика и обхода WAF

Полтора года назад я потратил четыре часа на ручной fuzzing одного API-эндпоинта за Cloudflare WAF - перебирал мутации payload'ов, менял кодировки...

#adversarial machine learning#data science иб#machine learning пентест#ml анализ трафика+5
сп Сергей Попов 21 мин 0
РАЗБОР 1,8 тыс.
AppSec 87 дней назад
KV Cache Hijacking: атака на LLM-инфраструктуру через position-independent reuse

94% - заявленный авторами средний success rate атаки HijackKV с первой попытки на shared KV cache в multi-tenant LLM-инфраструктуре. Работа заявлена на...

#inference attack llm#kv cache hijacking#kv cache poisoning#llm security атаки+5
сп Сергей Попов 29 мин 0
РАЗБОР 785
Pentest 89 дней назад
AI-Generated PowerShell Active Directory разведка: от промпта до карты домена

3 июня 2026 года аналитики Huntress задокументировали атаку на доменный Windows Server. Злоумышленник зашёл через RDP по украденным учёткам и за считанные...

#ai пентест active directory#ai-generated powershell active directory разведка#bloodhound ad enumeration#chatgpt powershell хакинг+5
сп Сергей Попов 20 мин 0
РАЗБОР 780
SOC 90 дней назад
Детектирование LLM-сгенерированного контента: от perplexity-метрик до SOC-playbook

По данным IBM X-Force Threat Intelligence Index 2025, генерация фишинговых писем с помощью GenAI происходит в 11.4 раза быстрее при сопоставимом качестве с...

#ai-generated phishing detection#ai-generated text detection#llm fingerprint методы#perplexity burstiness детектирование+5
сп Сергей Попов 19 мин 0
РАЗБОР 1,1 тыс.
Pentest 92 дня назад
Атаки на AI-системы в пентесте: prompt injection, jailbreak и adversarial ML

По данным JailbreakBench и HarmBench, ASR jailbreak-атак на flagship-модели - GPT-4, Claude - превышает 80%. Тестировали на корпусах из сотен adversarial...

#adversarial machine learning#ai red teaming#jailbreak llm пентест#llm security тестирование+5
сп Сергей Попов 30 мин 0
РАЗБОР 962
Reverse 93 дня назад
AI-артефакты как новая поверхность обхода песочницы малварой

Check Point Research в июне 2025 года поймал штуку, от которой хочется присесть и подумать. Образец из Нидерландов на VirusTotal - в бинарном коде зашита...

#ai fingerprinting malware#pickle deserialization attack#prompt injection малварь#sandbox evasion техники+5
сп Сергей Попов 26 мин 0
РАЗБОР 813
AppSec 94 дня назад
Microsoft 365 Copilot: уязвимость AI-помощника как вектор утечки корпоративных данных

В июне 2025 года исследователи Aim Labs (aim.security) выложили в паблик EchoLeak - первую задокументированную zero-click prompt injection атаку в...

#ai security корпоративная среда#echoleak cve-2025-32711#microsoft 365 copilot уязвимость#prompt injection microsoft 365+5
сп Сергей Попов 26 мин 0
РАЗБОР 871
AppSec 96 дней назад
Langflow IDOR CVE-2026-55255: пошаговая эксплуатация cross-tenant уязвимости в AI-платформе

25 июня 2026 года Sysdig Threat Research Team зафиксировали первую подтверждённую эксплуатацию CVE-2026-55255 - IDOR-уязвимости в Langflow. До этого момента...

#bola llm api уязвимость#cross-tenant vulnerability ml#cwe-639 broken object level authorization#idor уязвимость ai платформа+4
сп Сергей Попов 22 мин 0
РАЗБОР 810
Reverse 97 дней назад
Бэкдоры в нейронных сетях: white-box атака, которую не видит ни один детектор

Последние два года я воспроизводил бэкдор-атаки на нейросети - BadNets, TrojanNN, targeted poisoning через отравление обучающей выборки - и каждый раз...

#adversarial machine learning#backdoor attack machine learning#ml supply chain security#white-box атака на нейросеть+5
сп Сергей Попов 24 мин 0
РАЗБОР 1,3 тыс.
Pentest 97 дней назад
AI агенты для поиска уязвимостей: архитектуры, реальные находки и ловушки для пентестера

Vulnhuntr от Protect AI автономно нашёл stored XSS в ComfyUI (CVE-2024-10099, CVSS 6.1) и RCE в Ragflow (CVE-2024-10131, CVSS 8.8) - оба проекта с десятками...

#agentic security tools#ai агенты для поиска уязвимостей#ai пентест 2026#bug bounty автоматизация+5
сп Сергей Попов 22 мин 0
РАЗБОР 766
SOC 97 дней назад
Безопасность NHI в AI-агентах: attack paths, SIEM-detection и чеклист least privilege

На аудите облачной инфраструктуры финтех-компании в марте этого года нашёл сервисный аккаунт LLM-агента с правами s3:* и iam:PassRole. Токен не ротировался...

#least privilege для автономных систем#machine-to-machine аутентификация риски#nhi безопасность llm пайплайн#non-human identity management+5
сп Сергей Попов 18 мин 0
РАЗБОР 979
Pentest 98 дней назад
AI пентест: как LLM и автономные сканеры меняют поиск уязвимостей в 2026 году

Полноценный пентест Active Directory - пять хостов, четыре скомпрометированы, lateral movement пройден - за $28.50 в API-вызовах к LLM. Ручной пентест...

#ai bug bounty#ai пентест#llm exploit generation#pentestgpt+5
сп Сергей Попов 21 мин 0
РАЗБОР 728
Cloud 98 дней назад
Атаки на agentic AI пайплайны: как публичный GitHub issue захватывает workflow организации

В 2025-2026 годах описан класс атак на AI-агентов в GitHub Actions: вредоносный комментарий в pull request заставлял агентов - Copilot, Gemini CLI, Claude...

#ai supply chain атаки#github actions безопасность#indirect prompt injection github#llm pipeline hijack+5
сп Сергей Попов 20 мин 0
РАЗБОР 1,3 тыс.
AppSec 99 дней назад
Безопасность LLM приложений: полное руководство по атакам, защите и AI red teaming

По данным CrowdStrike Global Threat Report 2025, использование генеративного AI для социальной инженерии и фишинга удвоилось за 2024 год. IBM X-Force Threat...

#ai red teaming#garak#indirect prompt injection#jailbreak llm+9
сп Сергей Попов 51 мин 0
РАЗБОР 1,6 тыс.
Pentest 101 день назад
AI-агенты для поиска уязвимостей: как работает T3MP3ST и другие наступательные AI-фреймворки

Авторы наступательных AI-фреймворков заявляют стоимость автоматизированного пентеста в десятки долларов за engagement. Верифицировать эти цифры независимо -...

#ai vulnerability scanner#ai-агенты для поиска уязвимостей#llm exploit generation#offensive ai security+5
сп Сергей Попов 24 мин 1
РАЗБОР 831
102 дня назад
Атака на ML-DSA через утечку рандомности: от математики ILWE до key recovery за секунду

4 июня 2026 года Дэниел Бернстайн выложил работу "Exploiting ML-DSA bugs" (cr.yp.to/papers/mldsa-20260601.pdf) - 59 страниц, две рабочие демонстрации key...

#crystals-dilithium#fips 204#key recovery attack#lattice cryptography+5
сп Сергей Попов 23 мин 0
РАЗБОР 742
AppSec 102 дня назад
Вредоносные расширения браузера и кража AI-чатов: анатомия атак на LLM-контекст

В одном из образцов, попавших мне на разбор в начале этого года, расширение Chrome позиционировалось как улучшенный интерфейс для работы с ChatGPT. В...

#browser extension malware#chatgpt безопасность#llm безопасность#mitre att&ck browser extensions+5
сп Сергей Попов 23 мин 0