jailbreak testing methodology
Всё по теме «jailbreak testing methodology» на форуме Codeby.net. Обсуждений: 1. Разборы, инструменты и практика по информационной безопасности.
-
Статья AI Red Teaming: методология тестирования ML-систем на безопасность
Введение Задача AI red teaming - проверить, выдержит ли система столкновение с реальностью: с действиями обычного пользователя, недоброжелателя, действующего вслепую, или внутреннего сотрудника на грани нервного срыва. Пока теоретики вычерчивают на досках безупречную архитектуру доверия, red...- Кудрин Евгений
- Тема
- adversarial attacks ml ai red teaming ai safety testing jailbreak testing methodology llm red team ml security testing
- Ответы: 0
- Раздел: Безопасность ИИ и LLM