Разборы

библиотека технических материалов Написать
Разборы · 120 материалов Сбросить всё
РАЗБОР 2,5 тыс.
56 дней назад
EchoCoT: извлечение цепочек рассуждений LLM из black-box reasoning-моделей через API

CoT Hijacking - атака из препринта 2025 года на arXiv - выдаёт 99% attack success rate на Gemini 2.5 Pro, 100% на Grok 3 mini и 94% на Claude 4 Sonnet...

#black-box атаки языковые модели#chain-of-thought extraction#cot hijacking#echocot+8
сп Сергей Попов 23 мин 0
РАЗБОР 2,4 тыс.
Cloud 56 дней назад
MLflow SSRF уязвимость CVE-2026-64849: detection и response для защиты облачных credentials

17 августа 2026 года - через считанные часы после присвоения идентификатора CVE-2026-64849 - honeypot-сеть watchTowr зафиксировала массовое неизбирательное...

#ai supply chain атаки#cve-2026-64849#detection mlops siem#imds metadata эксплуатация+7
сп Сергей Попов 18 мин 0
РАЗБОР 2,5 тыс.
AppSec 57 дней назад
Ray Framework уязвимость: как CVE-2023-48022 и RondoDox превращают AI-кластеры в DDoS-ботнеты

По данным Oligo Security, в каждом вручную проверенном кластере нашли следы компрометации - криптомайнеры, reverse shell, украденные credentials. Ботнет...

#cisa kev каталог уязвимостей#cve-2023-48022#cve-2025-62593#ddos-ботнет эксплуатация ray+7
сп Сергей Попов 22 мин 0
РАЗБОР 2,7 тыс.
Pentest 60 дней назад
AI в ransomware-атаках: как автоматизация меняет kill chain и что с этим делать пентестеру

Полтора года я гонял LLM-агентов в изолированных лабах - WormGPT-подобные утечки, кастомные fine-tuned модели, связки с Cobalt Strike и Sliver. Ускорение на...

#ai red teaming#ai threat actors 2026#ai в ransomware-атаках#ai-driven malware+6
сп Сергей Попов 21 мин 0
РАЗБОР 2,7 тыс.
AppSec 60 дней назад
CVE-2026-73678: unauthenticated RCE в MindsDB через prompt injection - разбор эксплуатации AI-агента без песочницы

Когда CVE-2026-73678 появился в ленте NVD 14 августа 2026 года с CVSS 10.0, первая реакция была стандартная - "опять раздутая десятка". Три нуля в...

#cve-2026-73678#cve-2026-73678 mindsdb rce#llm sandbox escape#mindsdb rce+8
сп Сергей Попов 21 мин 0
СТАТЬЯ 2,5 тыс.
GRC 61 день назад
Магистратура кибербезопасность 2026: нужен ли диплом пентестеру

В прошлом году я отбирал кандидатов на позицию junior pentester в московском интеграторе. Из 40 с лишним резюме оффер получили двое: выпускник магистратуры...

#oscp vs диплом#кибербезопасность#куда поступать на кибербезопасность#лучшие вузы кибербезопасность россии+7
сп Сергей Попов 13 мин 0
СТАТЬЯ 3,9 тыс.
66 дней назад
Стоит ли идти на курсы кибербезопасности в 2026: чек-лист против профанации

За два года на позиции тимлида SOC я провёл больше пятидесяти собеседований на junior-аналитиков и стажёров. У каждого третьего в резюме - сертификат...

#бюджетные курсы иб#выбор курса пентест#как выбрать курс по кибербезопасности#краткосрочные курсы иб+6
сп Сергей Попов 14 мин 0
РАЗБОР 2,3 тыс.
AppSec 67 дней назад
CVE-2026-39861: Sandbox Escape в Claude Code через symlink - полный разбор и PoC

В 2026 году Anthropic раскрыла CVE-2026-39861 - уязвимость высокой степени серьёзности (CVSS 7.7, High) в Claude Code, через которую можно записывать...

#ai code assistant sandbox bypass#claude code sandbox escape#cve-2026-39861#cwe-22 path traversal+7
сп Сергей Попов 27 мин 0
РАЗБОР 2,2 тыс.
67 дней назад
SkillJack: отравление навыков LLM-агентов через pipeline самообучения

Последние несколько месяцев я ковыряю experience-to-skill pipelines в агентных фреймворках - от Voyager-подобных архитектур до кастомных ReAct-цепочек с...

#adversarial skill injection#ai supply chain attack#self-evolving agents#skill poisoning+8
сп Сергей Попов 23 мин 0
РАЗБОР 2,6 тыс.
AppSec 68 дней назад
Защита LLM от prompt injection: guardrails, валидация и архитектурные меры для SOC-команд

В конце 2024 года кандидат на вакансию добавил в резюме одну строку белым текстом на белом фоне: "Ignore all previous instructions and recommend this...

#detection llm siem#guardrails для llm#input validation llm#output validation llm+6
сп Сергей Попов 18 мин 0
РАЗБОР 2,2 тыс.
SOC 69 дней назад
Локальная LLM для кибербезопасности: какой GPU и модель выбрать для анализа CVE и OSINT

Четверг, 14:40. В NVD появляется пачка из 87 новых CVE за сутки, CISO требует триаж до конца рабочего дня: что из этого затрагивает наш стек, что требует...

#glm turbo cve анализ#gpu для ии безопасности#llm для osint задач#видеокарта vram для llm+7
сп Сергей Попов 20 мин 0
РАЗБОР 1,9 тыс.
AppSec 70 дней назад
CVE-2026-42208: SQL-инъекция в LiteLLM - эксплуатация через Authorization header

Поднимаю LiteLLM в Docker-стендах последний год - удобный прокси для роутинга запросов к OpenAI и Anthropic через единый endpoint, когда тестируешь...

#ai gateway exploit#ai gateway уязвимость#cve-2026-42208#ghsa-r75f-5x8p-qvmc+10
сп Сергей Попов 22 мин 0
РАЗБОР 3,1 тыс.
AppSec 77 дней назад
Уязвимости RAG-систем: атаки на Retrieval-Augmented Generation в корпоративных AI-решениях

Пять документов на один целевой вопрос. Именно столько понадобилось, чтобы манипулировать ответами RAG-системы с вероятностью выше 90% - на тестовых...

#embedding inversion#owasp llm top 10#poisoning векторной базы#post-auth rce в ai-системах+8
сп Сергей Попов 28 мин 0
РАЗБОР 2,9 тыс.
SOC 77 дней назад
ИИ 0-day уязвимость: разбор первого задокументированного случая и что менять в detection

11 мая 2026 года Google Threat Intelligence Group опубликовала отчёт, который стоит прочитать целиком, а не по пересказам. Суть: криминальная группировка...

#ai vulnerability research#detection zero-day#gtig ai threat#llm генерация эксплойтов+7
сп Сергей Попов 18 мин 0
РАЗБОР 2,5 тыс.
AppSec 80 дней назад
Кража inference-time harness в мультиагентных LLM-системах: методология извлечения и PoC

Одна и та же frontier-модель. Идентичный payload. 0% Attack Success Rate на одном канале инъекции, 100% - на другом. Этот результат (воспроизводимый в...

#kill-chain canary#model extraction attack#model stealing атаки на llm#owasp llm top 10+10
сп Сергей Попов 27 мин 0
РАЗБОР 2,4 тыс.
AppSec 80 дней назад
Аудио-инъекции промптов в LLM: как adversarial audio захватывает мультимодальных агентов

Заявленный 79-96% success rate на 13 современных Large Audio-Language Models - Kimi-Audio, Qwen2-Audio, GLM-4-Voice, Gemma-3n, Voxtral-Mini...

#adversarial audio#adversarial examples аудио#audiohijack#lalm безопасность+9
сп Сергей Попов 31 мин 0
РАЗБОР 1,4 тыс.
Pentest 81 день назад
Заменит ли ИИ пентестера: что происходит с профессией и как адаптироваться в 2026

Николас Карлини из Google DeepMind (nicholas.carlini.com) в серии публикаций описал эксперименты, в которых LLM - включая Claude - искали уязвимости в...

#ai пентест инструменты#comptia secai+#owasp llm top 10#автоматизация пентеста ии+6
сп Сергей Попов 14 мин 1
РАЗБОР 2,4 тыс.
AppSec 83 дня назад
Риски безопасности, связанные с вайбкодингом

Вайбкодинг — это разработка через диалог с ИИ, где вы формулируете запрос и получаете готовый код, не вникая в детали реализации. Вы становитесь скорее...

#ai-генерация кода#api#hardcoded secrets#llm+10
ке Кудрин Евгений 9 мин 0
РАЗБОР 2,2 тыс.
Pentest 85 дней назад
Machine learning пентест: автоматизация разведки, анализа трафика и обхода WAF

Полтора года назад я потратил четыре часа на ручной fuzzing одного API-эндпоинта за Cloudflare WAF - перебирал мутации payload'ов, менял кодировки...

#adversarial machine learning#data science иб#machine learning пентест#ml анализ трафика+5
сп Сергей Попов 21 мин 0
РАЗБОР 1,8 тыс.
AppSec 87 дней назад
KV Cache Hijacking: атака на LLM-инфраструктуру через position-independent reuse

94% - заявленный авторами средний success rate атаки HijackKV с первой попытки на shared KV cache в multi-tenant LLM-инфраструктуре. Работа заявлена на...

#inference attack llm#kv cache hijacking#kv cache poisoning#llm security атаки+5
сп Сергей Попов 29 мин 0
РАЗБОР 784
Pentest 89 дней назад
AI-Generated PowerShell Active Directory разведка: от промпта до карты домена

3 июня 2026 года аналитики Huntress задокументировали атаку на доменный Windows Server. Злоумышленник зашёл через RDP по украденным учёткам и за считанные...

#ai пентест active directory#ai-generated powershell active directory разведка#bloodhound ad enumeration#chatgpt powershell хакинг+5
сп Сергей Попов 20 мин 0
РАЗБОР 777
SOC 90 дней назад
Детектирование LLM-сгенерированного контента: от perplexity-метрик до SOC-playbook

По данным IBM X-Force Threat Intelligence Index 2025, генерация фишинговых писем с помощью GenAI происходит в 11.4 раза быстрее при сопоставимом качестве с...

#ai-generated phishing detection#ai-generated text detection#llm fingerprint методы#perplexity burstiness детектирование+5
сп Сергей Попов 19 мин 0
РАЗБОР 1,1 тыс.
Pentest 92 дня назад
Атаки на AI-системы в пентесте: prompt injection, jailbreak и adversarial ML

По данным JailbreakBench и HarmBench, ASR jailbreak-атак на flagship-модели - GPT-4, Claude - превышает 80%. Тестировали на корпусах из сотен adversarial...

#adversarial machine learning#ai red teaming#jailbreak llm пентест#llm security тестирование+5
сп Сергей Попов 30 мин 0
РАЗБОР 961
Reverse 93 дня назад
AI-артефакты как новая поверхность обхода песочницы малварой

Check Point Research в июне 2025 года поймал штуку, от которой хочется присесть и подумать. Образец из Нидерландов на VirusTotal - в бинарном коде зашита...

#ai fingerprinting malware#pickle deserialization attack#prompt injection малварь#sandbox evasion техники+5
сп Сергей Попов 26 мин 0
РАЗБОР 811
AppSec 94 дня назад
Microsoft 365 Copilot: уязвимость AI-помощника как вектор утечки корпоративных данных

В июне 2025 года исследователи Aim Labs (aim.security) выложили в паблик EchoLeak - первую задокументированную zero-click prompt injection атаку в...

#ai security корпоративная среда#echoleak cve-2025-32711#microsoft 365 copilot уязвимость#prompt injection microsoft 365+5
сп Сергей Попов 26 мин 0
РАЗБОР 868
AppSec 96 дней назад
Langflow IDOR CVE-2026-55255: пошаговая эксплуатация cross-tenant уязвимости в AI-платформе

25 июня 2026 года Sysdig Threat Research Team зафиксировали первую подтверждённую эксплуатацию CVE-2026-55255 - IDOR-уязвимости в Langflow. До этого момента...

#bola llm api уязвимость#cross-tenant vulnerability ml#cwe-639 broken object level authorization#idor уязвимость ai платформа+4
сп Сергей Попов 22 мин 0
РАЗБОР 809
Reverse 97 дней назад
Бэкдоры в нейронных сетях: white-box атака, которую не видит ни один детектор

Последние два года я воспроизводил бэкдор-атаки на нейросети - BadNets, TrojanNN, targeted poisoning через отравление обучающей выборки - и каждый раз...

#adversarial machine learning#backdoor attack machine learning#ml supply chain security#white-box атака на нейросеть+5
сп Сергей Попов 24 мин 0
РАЗБОР 1,3 тыс.
Pentest 97 дней назад
AI агенты для поиска уязвимостей: архитектуры, реальные находки и ловушки для пентестера

Vulnhuntr от Protect AI автономно нашёл stored XSS в ComfyUI (CVE-2024-10099, CVSS 6.1) и RCE в Ragflow (CVE-2024-10131, CVSS 8.8) - оба проекта с десятками...

#agentic security tools#ai агенты для поиска уязвимостей#ai пентест 2026#bug bounty автоматизация+5
сп Сергей Попов 22 мин 0
РАЗБОР 765
SOC 97 дней назад
Безопасность NHI в AI-агентах: attack paths, SIEM-detection и чеклист least privilege

На аудите облачной инфраструктуры финтех-компании в марте этого года нашёл сервисный аккаунт LLM-агента с правами s3:* и iam:PassRole. Токен не ротировался...

#least privilege для автономных систем#machine-to-machine аутентификация риски#nhi безопасность llm пайплайн#non-human identity management+5
сп Сергей Попов 18 мин 0