llm безопасность
-
Статья Вредоносные расширения браузера и кража AI-чатов: анатомия атак на LLM-контекст
В одном из образцов, попавших мне на разбор в начале этого года, расширение Chrome позиционировалось как улучшенный интерфейс для работы с ChatGPT. В manifest - типовой набор permissions: activeTab, storage, tabs. Ничего криминального на первый взгляд. Content script через MutationObserver...- Сергей Попов
- Тема
- browser extension malware chatgpt безопасность llm безопасность mitre att&ck browser extensions prompt extraction вредоносные расширения браузера кража ai чатов перехват контекста llm
- Ответы: 0
- Раздел: Безопасность ИИ и LLM
-
Статья OWASP LLM Top 10 2025: уязвимости AI-приложений и защита
Представь, что ты запускаешь новое AI-приложение, которое должно анализировать миллион данных, осыпать тебя прогнозами, решать задачи в реальном времени. Только вот кто сказал, что он будет на твоей стороне? Как только ты начинаешь доверять системе и отдавать ей полномочия на принятие решений...- Luxkerr
- Тема
- llm безопасность атаки на модели безопасность больших языковых моделей безопасность ии защита ai защита данных угрозы для ai
- Ответы: 0
- Раздел: Безопасность веб-приложений