ai agents риски
Всё по теме «ai agents риски» на форуме Codeby.net. Обсуждений: 1. Разборы, инструменты и практика по информационной безопасности.
-
Статья Уязвимости ИИ-агентов: пентест от recon до RCE
Последний год я тестирую LLM-агентов - не промптами из подборок "100 jailbreaks для ChatGPT", а полноценным пентестом: recon доступных tools, fingerprinting RAG-пайплайна, эксплуатация tool-calling как SSRF. Исследование 130 атакующих сценариев на пяти моделях в агентных фреймворках AutoGen и...- Сергей Попов
- Тема
- ai agents риски llm pentest mitre att&ck ai owasp llm prompt injection агенты tool-calling exploitation агентные ии уязвимости безопасность ии-агентов ии-агенты безопасность тестирование ии-агентов уязвимости ии-агентов
- Ответы: 0
- Раздел: Безопасность ИИ и LLM