ai red team
Всё по теме «ai red team» на форуме Codeby.net. Обсуждений: 5. Разборы, инструменты и практика по информационной безопасности.
-
Статья AI-агенты в кибератаках: от лабораторных CTF до реальных операций
Последние полтора года я собираю pipeline'ы на базе LLM-агентов для пентеста - LangChain-обёртка над Nmap, nuclei и gobuster с GPT-4 или Claude в роли "мозга". На CTF-полигонах агент сам раскручивает типовую SQL-инъекцию, переводит LFI в RCE, генерирует payload под конкретный стек - без моего...- Сергей Попов
- Тема
- ai red team ai пентест ai-агенты в кибератаках exploitgym cyberstrike hermes llm агенты для атак mitre att&ck ai автоматизация пентеста ии автономные ии-агенты агентный ии атаки
- Ответы: 0
- Раздел: Этичный хакинг и тестирование на проникновение
-
Статья Claude vs GPT-4o в банковском пентесте: 4 кейса и приоритизация Nuclei
За последний год я перестроил свой рабочий пайплайн так, что LLM-агенты участвуют минимум в трёх этапах каждого проекта. Не потому что хайп - а потому что на внешнем пентесте банковского приложения Claude за 4 минуты корректно выстроил приоритизацию 187 находок Nuclei, на которую раньше уходило...- Сергей Попов
- Тема
- ai red team ai пентест claude hacking gpt-4o пентест llm агенты безопасность автоматизация пентеста автоматический анализ уязвимостей искусственный интеллект поиск уязвимостей
- Ответы: 0
- Раздел: Арсенал специалиста по ИБ
-
Статья Полтора года LLM-агентов в пентесте: где экономят часы и где галлюцинируют
Начну интересно, с неудобной правды. Полтора года я интегрирую LLM-агенты в свой рабочий процесс - от разведки до написания PoC. И картина, которую вижу, кардинально отличается от маркетинговых обещаний. GPT-4 действительно умеет вещи, которые ещё два года назад казались фантастикой. Но он же...- Сергей Попов
- Тема
- ai red team ai пентест gpt эксплойт llm агенты безопасность llm уязвимости автоматизация пентеста автоматический поиск уязвимостей нейросеть пентест
- Ответы: 2
- Раздел: Безопасность ИИ и LLM
-
Статья ИИ в пентесте: реальные техники использования LLM в атакующих операциях
Без маркетинговой мишуры. Я последние полтора года интегрирую LLM в свои пентест-цепочки - от разведки до генерации PoC. Результат неоднозначный: в одних задачах LLM сокращает time-to-exploit в разы, в других - галлюцинирует и жрёт время впустую. Эта статья - конкретика: какие техники работают...- Сергей Попов
- Тема
- ai red team ai хакинг llm пентест offensive ai автоматизация эксплойтов ии в пентесте использование chatgpt в пентесте нейросеть для хакинга
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Red Team против AI-продукта: как тестировать безопасность LLM-сервиса
AI Red Teaming для LLM‑продукта начинается с понимания простой вещи: модель почти никогда не является единственной точкой риска. Риск живёт в системе вокруг неё - в том, какие данные подмешиваются в контекст, какие инструменты доступны, как устроены права, и как ответы превращаются в действия...- Luxkerr
- Тема
- ai red team data exfiltration garak indirect prompt injection jailbreak llm guardrails llm security prompt injection scoping threat modeling
- Ответы: 0
- Раздел: Безопасность веб-приложений