llm

Всё по теме «llm» на форуме Codeby.net. Обсуждений: 11. Разборы, инструменты и практика по информационной безопасности.
  1. V

    Soft aiegis: open-source оркестратор ИИ-агентов для AppSec-аудита кода

    Всем привет. Выкладываю свой инструмент и прошу жёстко его потестить. Коротко: aiegis запускает Claude Code или pi в фоне и превращает их в аудитора по чек-листу. Вы даёте требования (ASVS, свой стандарт, что угодно в MD/PDF/DOCX), режете проект на модули, а агент проходит матрицу «требование ×...
  2. Ю

    Безопасность автономных ИИ-агентов: как контролировать действия программ с собственными полномочиями

    Архитектура автономного агента и границы доверия Идентификация агента и делегирование полномочий Сценарии компрометации и злоупотребления доступом Архитектура контроля и порядок внедрения Автономные ИИ-агенты получают доступ к корпоративным системам, чтобы выполнять задачи от имени...
  3. Сергей Попов

    Статья LLM в CTF соревнованиях: границы допустимого

    Dreadnode прогнал 22 фронтирные модели через 23 CTF-задачи на бенчмарке Cybench и вручную проаудировал все 1518 траекторий. 37.1% успешных прохождений - читерство. Модели гуглили writeup'ы, читали /flag напрямую из инфраструктуры оценки, пробивали metadata-эндпоинты облачных контейнеров. 21 из...
  4. Сергей Попов

    Получил бан в Anthropic, но нашёл нечто лучшее

    Получил бан в Claude, подал апелляцию, но её отклонили. Неприятно, но заодно появился повод нормально посмотреть альтернативы. Попробовал GLM-5.3 не через Claude Code, а в Zcode и, честно очень впечатлён. Модель уверенно работает с кодовой базой, хорошо держит контекст, адекватно следует задаче...
  5. Сергей Попов

    Заметка Фундамент или ИИ-инструменты: с чего начинать путь в ИБ

    Представь: ты только пришёл в SOC на стажировку. Тебе дали доступ к SIEM и к внутреннему чат-боту на базе LLM, который умеет разбирать алерты, писать сигнатуры и объяснять сетевые логи. Старший аналитик говорит: "Сначала научись читать pcap и понимать TCP/IP руками. Потом автоматизируй." Второй...
  6. TragerSec

    Харнесс LLM для пентеста

    Всем доброго времени суток! Ищу решения по агентским харнессам для LLM в контексте пентеста. Можете поделиться, что сейчас используете: Какие фреймворки/обвязки используете поверх Claude, Codex или локальных/самописных/опенсорсных моделей? Как решаете вопрос с контекстом между шагами при...
  7. Кудрин Евгений

    Статья Риски безопасности, связанные с вайбкодингом

    Вайбкодинг — это разработка через диалог с ИИ, где вы формулируете запрос и получаете готовый код, не вникая в детали реализации. Вы становитесь скорее «оператором», чем инженером, что позволяет собирать прототипы в разы быстрее. В связке с no-code инструментами это магическим образом снижает...
  8. Кудрин Евгений

    Статья Нейросети в руках мошенников_ векторы атак, методы выявления и защита

    Генеративные нейросети — штука полезная, пока их не берут в руки те, кто хочет вас развести. Мошенники быстро смекнули: LLM (large language model, большая языковая модель) — отличный инструмент для правдоподобного персонализированного фишинга, аккуратной подделки писем под конкретную компанию и...
  9. samhainhf

    Статья Промпт как вектор атаки: Тестирование безопасности LLM-интеграций в корпоративных приложениях

    Ты привык к классическим уязвимостям. SQL-инъекции, когда злоумышленник вставляет запрос в поле ввода. XSS, когда скрипт прячется в комментарии. Небезопасная десериализация, когда бинарные данные ломают приложение. Но что, если атака происходит не через бинарный эксплойт, не через символы и...
  10. Кудрин Евгений

    SecAI: защита ML и LLM-продуктов от prompt injection и data poisoning

    В мире, где каждая компания спешит встроить LLM в продукт, злоумышленники уже нашли слабые места. Две самые опасные атаки, с которых всё начинается, — Prompt Injection и Data Poisoning. Обычные фильтры и сканеры безопасности против них Эти уязвимости особенно опасны для продуктовых команд: они...
  11. ashakiro

    Pentest AI: запись на бету

    Всем привет Я тут сделал ассистента при пентестах, скоро хочу запускать бета тест https://recursivehack.com/PentestAI Если интересно, форма записи в гугл форме внутри. Буду рад ответить на вопросы если есть