llm red team
Всё по теме «llm red team» на форуме Codeby.net. Обсуждений: 2. Разборы, инструменты и практика по информационной безопасности.
-
На проверке Локальный LLM для пентеста: железо, модели, workflow
На одном из недавних проектов клиент передал 14 000 строк PHP-кода кастомного REST API. Бюджет на код-ревью - два дня. Скормил контроллер авторизации локальной модели на 27B параметров - через 14 минут она ткнула пальцем в SQL-инъекцию в параметре user_id, которую grep по регуляркам пропустил...- Сергей Попов
- Тема
- ai ассистент пентестера ai для анализа кода уязвимостей deep research osint llm red team ollama для пентеста автоматизация пентеста генерация эксплойтов ai локальная нейросеть для хакинга локальный llm для пентеста
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья AI Red Teaming: методология тестирования ML-систем на безопасность
Введение Задача AI red teaming - проверить, выдержит ли система столкновение с реальностью: с действиями обычного пользователя, недоброжелателя, действующего вслепую, или внутреннего сотрудника на грани нервного срыва. Пока теоретики вычерчивают на досках безупречную архитектуру доверия, red...- Кудрин Евгений
- Тема
- adversarial attacks ml ai red teaming ai safety testing jailbreak testing methodology llm red team ml security testing
- Ответы: 0
- Раздел: Безопасность ИИ и LLM