Раздел форума обновлён

Безопасность ИИ и LLM

Prompt injection, jailbreak, adversarial ML, red teaming
133тем 256сообщений 103без ответа 95 чмедиана ответа
133 тем · страница 3 из 7
0 Ответы 2,7k Без ответа Статья начата Защита LLM от prompt injection: guardrails, валидация и архитектурные меры для SOC-команд Сергей Попов detection llm siem guardrails для llm нет ответов 0 Ответы 2,3k Без ответа Статья начата Локальная LLM для кибербезопасности: какой GPU и модель выбрать для анализа CVE и OSINT Сергей Попов glm turbo cve анализ gpu для ии безопасности нет ответов 0 Ответы 2,0k Без ответа Статья начата CVE-2026-42208: SQL-инъекция в LiteLLM - эксплуатация через Authorization header Сергей Попов ai gateway exploit ai gateway уязвимость нет ответов 0 Ответы 3,2k Без ответа Статья начата Уязвимости RAG-систем: атаки на Retrieval-Augmented Generation в корпоративных AI-решениях Сергей Попов embedding inversion owasp llm top 10 нет ответов 0 Ответы 3,0k Без ответа Статья начата ИИ 0-day уязвимость: разбор первого задокументированного случая и что менять в detection Сергей Попов ai vulnerability research detection zero-day нет ответов 0 Ответы 2,5k Без ответа Статья начата Кража inference-time harness в мультиагентных LLM-системах: методология извлечения и PoC Сергей Попов kill-chain canary model extraction attack нет ответов 0 Ответы 2,5k Без ответа Статья начата Аудио-инъекции промптов в LLM: как adversarial audio захватывает мультимодальных агентов Сергей Попов adversarial audio adversarial examples аудио нет ответов 1 Ответы 1,4k Статья начата Заменит ли ИИ пентестера: что происходит с профессией и как адаптироваться в 2026 Сергей Попов ai пентест инструменты comptia secai+ Последний ответ lains 0 Ответы 2,4k Без ответа Статья начата Риски безопасности, связанные с вайбкодингом Кудрин Евгений ai-генерация кода api нет ответов 0 Ответы 2,2k Без ответа Статья начата Machine learning пентест: автоматизация разведки, анализа трафика и обхода WAF Сергей Попов adversarial machine learning data science иб нет ответов 0 Ответы 1,8k Без ответа Статья начата KV Cache Hijacking: атака на LLM-инфраструктуру через position-independent reuse Сергей Попов inference attack llm kv cache hijacking нет ответов 0 Ответы 850 Без ответа Статья начата AI-Generated PowerShell Active Directory разведка: от промпта до карты домена Сергей Попов ai пентест active directory ai-generated powershell active directory разведка нет ответов 0 Ответы 834 Без ответа Статья начата Детектирование LLM-сгенерированного контента: от perplexity-метрик до SOC-playbook Сергей Попов ai-generated phishing detection ai-generated text detection нет ответов 0 Ответы 1,1k Без ответа Статья начата Атаки на AI-системы в пентесте: prompt injection, jailbreak и adversarial ML Сергей Попов adversarial machine learning ai red teaming нет ответов 0 Ответы 1,0k Без ответа Статья начата AI-артефакты как новая поверхность обхода песочницы малварой Сергей Попов ai fingerprinting malware pickle deserialization attack нет ответов 0 Ответы 874 Без ответа Статья начата Microsoft 365 Copilot: уязвимость AI-помощника как вектор утечки корпоративных данных Сергей Попов ai security корпоративная среда echoleak cve-2025-32711 нет ответов 0 Ответы 933 Без ответа Статья начата Langflow IDOR CVE-2026-55255: пошаговая эксплуатация cross-tenant уязвимости в AI-платформе Сергей Попов bola llm api уязвимость cross-tenant vulnerability ml нет ответов 0 Ответы 866 Без ответа Статья начата Бэкдоры в нейронных сетях: white-box атака, которую не видит ни один детектор Сергей Попов adversarial machine learning backdoor attack machine learning нет ответов 0 Ответы 1,4k Без ответа Статья начата AI агенты для поиска уязвимостей: архитектуры, реальные находки и ловушки для пентестера Сергей Попов agentic security tools ai агенты для поиска уязвимостей нет ответов 0 Ответы 838 Без ответа Статья начата Безопасность NHI в AI-агентах: attack paths, SIEM-detection и чеклист least privilege Сергей Попов least privilege для автономных систем machine-to-machine аутентификация риски нет ответов