безопасность машинного обучения
Всё по теме «безопасность машинного обучения» на форуме Codeby.net. Обсуждений: 2. Разборы, инструменты и практика по информационной безопасности.
-
Статья MLSecOps: защита ML-пайплайна от данных до прода
Понедельник, 9:15 утра. В Slack SOC-канале - алерт: модель кредитного скоринга за выходные одобрила 340 заявок с аномально высоким risk-скором. Postmortem показал: в четверг data-инженер закоммитил в DVC-репозиторий "обновлённый" датасет - 12 000 записей с подменёнными метками. CI/CD отработал...- Сергей Попов
- Тема
- data poisoning detection devsecops для ml mitre att&ck ml mlops безопасность mlsecops supply chain ml аудит ml-моделей безопасная разработка ml безопасность ии-систем безопасность машинного обучения защита данных ии-систем
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Бэкдоры в нейронных сетях: white-box атака, которую не видит ни один детектор
Последние два года я воспроизводил бэкдор-атаки на нейросети - BadNets, TrojanNN, targeted poisoning через отравление обучающей выборки - и каждый раз Neural Cleanse или STRIP ловили аномалию: выброс в распределении весов, нехарактерный паттерн активаций, отклонение в норме L2 конкретных...- Сергей Попов
- Тема
- adversarial machine learning backdoor attack machine learning ml supply chain security white-box атака на нейросеть безопасность машинного обучения бэкдоры в нейронных сетях обнаружение бэкдоров троянские атаки ml
- Ответы: 0
- Раздел: Безопасность ИИ и LLM