model extraction attack
-
Статья Кража inference-time harness в мультиагентных LLM-системах: методология извлечения и PoC
Одна и та же frontier-модель. Идентичный payload. 0% Attack Success Rate на одном канале инъекции, 100% - на другом. Этот результат (воспроизводимый в нескольких препринтах 2024-2025 годов по kill-chain анализу prompt injection в мультиагентных системах) ломает привычную картину: реальная...- Сергей Попов
- Тема
- kill-chain canary model extraction attack model stealing атаки на llm owasp llm top 10 prompt injection llm reverse engineering llm атаки на оркестрацию агентов безопасность ai агентов извлечение harness llm агентов кража inference-time harness мультиагентные llm системы утечка данных через llm api уязвимости amas архитектур
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья CTF и машинное обучение: разбор атак на ML-модели в соревнованиях
На PHDays 9 организаторы запустили AI CTF из шести задач - из 130 зарегистрировавшихся хотя бы один флаг сдали только 14 человек. Четырнадцать. Одна из задач, Prediction Challenge, предлагала загрузить модель в формате pickle на сервер-аналог Kaggle и набрать 1.0 точности на случайно...- Сергей Попов
- Тема
- adversarial examples adversarial ml ai security challenges ctf машинное обучение htb ai задачи ml ctf writeup model extraction attack pickle десериализация prompt injection ctf взлом ml модели ctf
- Ответы: 0
- Раздел: Безопасность ИИ и LLM