промпт-инъекция

  1. I

    Настройка ИИ промптом

    Ку. Захожу я, значит, на сайт grok и вопросительно киваю в текстовое окно: поступает немедленное требование авторизоваться. Как порядочный пользователь, я скопировал введённый текст в окно ввода конкурирующего сервиса. Как оказалось - вместо исходного сообщения, магическим способом скопировался...
    • iK4nt
    • Тема
    • безопасность больших языковых моделей искуственный интеллект промпт-инъекция языковая модель
    • Ответы: 1
    • Раздел: Вопросы и Ответы по ИБ (Q&A)
  2. samhainhf

    Статья Prompt Jailbreak vs Prompt Injection: В чем разница?

    Если вы хотя бы немного следите за миром больших языковых моделей (LLM), вы наверняка сталкивались с терминами "промпт-инъекция" (prompt injection) о которой я говорил в прошлой статье, и "джейлбрейк" (jailbreak). Их используют разработчики, исследователи, хакеры и журналисты. И очень часто...
    • samhainhf
    • Тема
    • атаки на llm безопасность ai генеративный ии джейлбрейк защита llm защита от инъекций искусственный интеллект безопасность промпт-инъекция
    • Ответы: 0
    • Раздел: Безопасность веб-приложений
Верх Низ
Назад