mlsecops
Всё по теме «mlsecops» на форуме Codeby.net. Обсуждений: 2. Разборы, инструменты и практика по информационной безопасности.
-
Статья Оценка ИБ-зрелости ИИ-систем: чек-лист аудита
На прошлогоднем аудите ML-пайплайна одной финтех-компании с вполне зрелым SOC - SIEM настроен, EDR раскатан, IR-playbooks отработаны - я обнаружил, что write-доступ к S3-бакету с обучающими данными имели 14 сервисных аккаунтов. Три из них привязаны к Jenkins-нодам, удалённым полгода назад. Общая...- Сергей Попов
- Тема
- ai security audit mitre att&ck mlsecops аудит ml моделей безопасность данных для обучения моделей защита весов моделей методика оценки иб ии модель угроз для ии-систем оценка иб-зрелости ии-систем чек-лист аудита ии-инфраструктуры
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья MLSecOps: защита ML-пайплайна от данных до прода
Понедельник, 9:15 утра. В Slack SOC-канале - алерт: модель кредитного скоринга за выходные одобрила 340 заявок с аномально высоким risk-скором. Postmortem показал: в четверг data-инженер закоммитил в DVC-репозиторий "обновлённый" датасет - 12 000 записей с подменёнными метками. CI/CD отработал...- Сергей Попов
- Тема
- data poisoning detection devsecops для ml mitre att&ck ml mlops безопасность mlsecops supply chain ml аудит ml-моделей безопасная разработка ml безопасность ии-систем безопасность машинного обучения защита данных ии-систем
- Ответы: 0
- Раздел: Безопасность ИИ и LLM