model poisoning
Всё по теме «model poisoning» на форуме Codeby.net. Обсуждений: 2. Разборы, инструменты и практика по информационной безопасности.
-
Статья Безопасность LLM приложений: полное руководство по атакам, защите и AI red teaming
По данным CrowdStrike Global Threat Report 2025, использование генеративного AI для социальной инженерии и фишинга удвоилось за 2024 год. IBM X-Force Threat Intelligence Index 2025 фиксирует: генерация фишинговых писем через GenAI ускорилась в 11.4 раза при сопоставимом качестве. Но пока...- Сергей Попов
- Тема
- ai red teaming garak indirect prompt injection jailbreak llm mcp уязвимости model poisoning owasp llm top 10 prompt injection pyrit безопасность ai агентов безопасность llm приложений тестирование безопасности ai
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья Threat Modeling для LLM-приложений: Применение STRIDE и DFD к новым угрозам
1. Введение: LLM Threat Landscape Большие языковые модели (LLM) быстро перешли из разряда игрушек в слой реальных бизнес-процессов — от поддержки пользователей до обработки чувствительных данных. Вместе с пользой пришли и практичные риски. Прежде чем рассматривать тему подробнее, надо...- Кудрин Евгений
- Тема
- ai security architecture; dfd ai-систем llm threat landscape 2025 model poisoning owasp llm top 10 prompt injection threat mode stride для llm threat modeling ai безопасность llm
- Ответы: 0
- Раздел: Безопасность ИИ и LLM