обнаружение бэкдоров
Всё по теме «обнаружение бэкдоров» на форуме Codeby.net. Обсуждений: 1. Разборы, инструменты и практика по информационной безопасности.
-
Статья Бэкдоры в нейронных сетях: white-box атака, которую не видит ни один детектор
Последние два года я воспроизводил бэкдор-атаки на нейросети - BadNets, TrojanNN, targeted poisoning через отравление обучающей выборки - и каждый раз Neural Cleanse или STRIP ловили аномалию: выброс в распределении весов, нехарактерный паттерн активаций, отклонение в норме L2 конкретных...- Сергей Попов
- Тема
- adversarial machine learning backdoor attack machine learning ml supply chain security white-box атака на нейросеть безопасность машинного обучения бэкдоры в нейронных сетях обнаружение бэкдоров троянские атаки ml
- Ответы: 0
- Раздел: Безопасность ИИ и LLM