защита llm
Всё по теме «защита llm» на форуме Codeby.net. Обсуждений: 2. Разборы, инструменты и практика по информационной безопасности.
-
Статья Безопасность LLM: полная карта атак на языковые модели, prompt injection и регуляторные требования к ИИ в 2026 году
Безопасность LLM: полная карта атак на языковые модели, prompt injection и регуляторные требования к ИИ в 2026 году По данным исследований «Информзащиты», около 70% организаций уже столкнулись с атаками через LLM. При этом большинство команд безопасности продолжают оценивать языковые модели по...- Сергей Попов
- Тема
- adversarial attacks ии ai red teaming eu ai act garak indirect prompt injection jailbreak llm owasp llm top 10 prompt injection pyrit атаки на языковые модели безопасность llm защита llm
- Ответы: 0
- Раздел: Общение и нетворкинг
-
Статья Prompt Jailbreak vs Prompt Injection: В чем разница?
Если вы хотя бы немного следите за миром больших языковых моделей (LLM), вы наверняка сталкивались с терминами "промпт-инъекция" (prompt injection) о которой я говорил в прошлой статье, и "джейлбрейк" (jailbreak). Их используют разработчики, исследователи, хакеры и журналисты. И очень часто...- samhainhf
- Тема
- атаки на llm безопасность ai генеративный ии джейлбрейк защита llm защита от инъекций искусственный интеллект безопасность промпт-инъекция
- Ответы: 0
- Раздел: Безопасность веб-приложений