промпт-инъекция
Всё по теме «промпт-инъекция» на форуме Codeby.net. Обсуждений: 2. Разборы, инструменты и практика по информационной безопасности.
-
I
Настройка ИИ промптом
Ку. Захожу я, значит, на сайт grok и вопросительно киваю в текстовое окно: поступает немедленное требование авторизоваться. Как порядочный пользователь, я скопировал введённый текст в окно ввода конкурирующего сервиса. Как оказалось - вместо исходного сообщения, магическим способом скопировался...- iK4nt
- Тема
- безопасность больших языковых моделей искуственный интеллект промпт-инъекция языковая модель
- Ответы: 1
- Раздел: Вопросы и Ответы по ИБ (Q&A)
-
Статья Prompt Jailbreak vs Prompt Injection: В чем разница?
Если вы хотя бы немного следите за миром больших языковых моделей (LLM), вы наверняка сталкивались с терминами "промпт-инъекция" (prompt injection) о которой я говорил в прошлой статье, и "джейлбрейк" (jailbreak). Их используют разработчики, исследователи, хакеры и журналисты. И очень часто...- samhainhf
- Тема
- атаки на llm безопасность ai генеративный ии джейлбрейк защита llm защита от инъекций искусственный интеллект безопасность промпт-инъекция
- Ответы: 0
- Раздел: Безопасность веб-приложений