adversarial examples
-
Статья CTF и машинное обучение: разбор атак на ML-модели в соревнованиях
На PHDays 9 организаторы запустили AI CTF из шести задач - из 130 зарегистрировавшихся хотя бы один флаг сдали только 14 человек. Четырнадцать. Одна из задач, Prediction Challenge, предлагала загрузить модель в формате pickle на сервер-аналог Kaggle и набрать 1.0 точности на случайно...- Сергей Попов
- Тема
- adversarial examples adversarial ml ai security challenges ctf машинное обучение htb ai задачи ml ctf writeup model extraction attack pickle десериализация prompt injection ctf взлом ml модели ctf
- Ответы: 0
- Раздел: Безопасность ИИ и LLM