data poisoning
Всё по теме «data poisoning» на форуме Codeby.net. Обсуждений: 3. Разборы, инструменты и практика по информационной безопасности.
-
Статья Нейросети в руках мошенников_ векторы атак, методы выявления и защита
Генеративные нейросети — штука полезная, пока их не берут в руки те, кто хочет вас развести. Мошенники быстро смекнули: LLM (large language model, большая языковая модель) — отличный инструмент для правдоподобного персонализированного фишинга, аккуратной подделки писем под конкретную компанию и...- Кудрин Евгений
- Тема
- captcha data poisoning fraudgpt llm owasp llm top 10 prompt injection дипфейк дипфейки фишинг
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Secure AI Development Lifecycle: безопасность на всех этапах ML
ИИ перестал быть научной фантастикой и теперь применяется повсюду. Нейросети управляют автомобилями, ставят диагнозы и двигают биткоины.Однако чем глубже ИИ проникает в критическую инфраструктуру и нашу повседневность, тем более уязвимым и привлекательным он становится для злоумышленников...- Кудрин Евгений
- Тема
- ai devsecops ai drift data poisoning microsoft sdl ai ml pipeline security ml security lifecycle saif google secure ai development
- Ответы: 0
- Раздел: Безопасность веб-приложений
-
SecAI: защита ML и LLM-продуктов от prompt injection и data poisoning
В мире, где каждая компания спешит встроить LLM в продукт, злоумышленники уже нашли слабые места. Две самые опасные атаки, с которых всё начинается, — Prompt Injection и Data Poisoning. Обычные фильтры и сканеры безопасности против них Эти уязвимости особенно опасны для продуктовых команд: они...- Кудрин Евгений
- Тема
- ai product security ai security data poisoning llm model security nemo guardrails owasp llm top 10 prompt injection rag security
- Ответы: 0
- Раздел: Безопасность веб-приложений