llm
Всё по теме «llm» на форуме Codeby.net. Обсуждений: 6. Разборы, инструменты и практика по информационной безопасности.
-
Харнесс LLM для пентеста
Всем доброго времени суток! Ищу решения по агентским харнессам для LLM в контексте пентеста. Можете поделиться, что сейчас используете: Какие фреймворки/обвязки используете поверх Claude, Codex или локальных/самописных/опенсорсных моделей? Как решаете вопрос с контекстом между шагами при...- TragerSec
- Тема
- ai pentest artifical intelligence claude codex gpt harness llm red team
- Ответы: 0
- Раздел: Общение и нетворкинг
-
Статья Риски безопасности, связанные с вайбкодингом
Вайбкодинг — это разработка через диалог с ИИ, где вы формулируете запрос и получаете готовый код, не вникая в детали реализации. Вы становитесь скорее «оператором», чем инженером, что позволяет собирать прототипы в разы быстрее. В связке с no-code инструментами это магическим образом снижает...- Кудрин Евгений
- Тема
- ai-генерация кода api hardcoded secrets llm secure prompting sql xss безопасная разработка безопасность вайбкодинга вайбкодинг промпты риски llm в разработке уязвимости ии-кода
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Нейросети в руках мошенников_ векторы атак, методы выявления и защита
Генеративные нейросети — штука полезная, пока их не берут в руки те, кто хочет вас развести. Мошенники быстро смекнули: LLM (large language model, большая языковая модель) — отличный инструмент для правдоподобного персонализированного фишинга, аккуратной подделки писем под конкретную компанию и...- Кудрин Евгений
- Тема
- captcha data poisoning fraudgpt llm owasp llm top 10 prompt injection дипфейк дипфейки фишинг
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Промпт как вектор атаки: Тестирование безопасности LLM-интеграций в корпоративных приложениях
Ты привык к классическим уязвимостям. SQL-инъекции, когда злоумышленник вставляет запрос в поле ввода. XSS, когда скрипт прячется в комментарии. Небезопасная десериализация, когда бинарные данные ломают приложение. Но что, если атака происходит не через бинарный эксплойт, не через символы и...- samhainhf
- Тема
- llm machine learning кибербезопасность нейросети
- Ответы: 0
- Раздел: Безопасность веб-приложений
-
SecAI: защита ML и LLM-продуктов от prompt injection и data poisoning
В мире, где каждая компания спешит встроить LLM в продукт, злоумышленники уже нашли слабые места. Две самые опасные атаки, с которых всё начинается, — Prompt Injection и Data Poisoning. Обычные фильтры и сканеры безопасности против них Эти уязвимости особенно опасны для продуктовых команд: они...- Кудрин Евгений
- Тема
- ai product security ai security data poisoning llm model security nemo guardrails owasp llm top 10 prompt injection rag security
- Ответы: 0
- Раздел: Безопасность веб-приложений
-
Pentest AI: запись на бету
Всем привет Я тут сделал ассистента при пентестах, скоро хочу запускать бета тест https://recursivehack.com/PentestAI Если интересно, форма записи в гугл форме внутри. Буду рад ответить на вопросы если есть- ashakiro
- Тема
- llm penetration pentest
- Ответы: 4
- Раздел: Этичный хакинг и тестирование на проникновение