атака через фоновый шум на llm
Всё по теме «атака через фоновый шум на llm» на форуме Codeby.net. Обсуждений: 1. Разборы, инструменты и практика по информационной безопасности.
-
Статья Аудио-инъекции промптов в LLM: как adversarial audio захватывает мультимодальных агентов
Заявленный 79-96% success rate на 13 современных Large Audio-Language Models - Kimi-Audio, Qwen2-Audio, GLM-4-Voice, Gemma-3n, Voxtral-Mini, Phi-4-Multimodal (данные препринта arXiv:2507.05587, без peer review; независимо не воспроизведено). Коммерческие голосовые агенты, которые, по утверждению...- Сергей Попов
- Тема
- adversarial audio adversarial examples аудио audiohijack lalm безопасность prompt injection мультимодальные модели атака через фоновый шум на llm атаки на голосовых ai-агентов аудио-атаки на ai-агентов аудио-инъекции промптов в llm инъекция промптов через звук скрытые команды в аудио скрытые команды в аудио для ии
- Ответы: 0
- Раздел: Безопасность ИИ и LLM