lora backdoor llm
-
Статья Backdoor атаки на LoRA адаптеры: токен-уровневая генерализация и методы обнаружения
25 отравленных примеров из обучающей выборки в 600 записей - 4.2% данных. На Qwen 2.5 1.5B этого хватает, чтобы вшить бэкдор в rank-16 LoRA-адаптер классификатора prompt injection: 100% attack success rate на триггерных входах, 95% clean accuracy на чистых. Между 15 и 25 отравленными примерами...- Сергей Попов
- Тема
- backdoor атаки на lora адаптеры llm supply chain атаки lora backdoor llm model poisoning атаки trigger token poisoning безопасность дообученных моделей обнаружение бэкдора в llm отравление модели fine-tuning
- Ответы: 0
- Раздел: Threat Intel