tool poisoning
Всё по теме «tool poisoning» на форуме Codeby.net. Обсуждений: 1. Разборы, инструменты и практика по информационной безопасности.
-
На проверке Безопасность MCP AI-агентов: векторы атак
На пентесте агентной системы я подменил описание одного MCP-инструмента - добавил скрытую инструкцию в поле description, невидимую в UI клиента, но читаемую моделью. Через три минуты агент собрал содержимое ~/.ssh/ и вставил приватный ключ прямо в чат-сессию. Ни одного классического exploit, ни...- Сергей Попов
- Тема
- chain attacks ai mcp server уязвимости mcpwned эксплуатация prompt injection mcp prompt injection в mcp tool poisoning атаки на ai-агентов безопасность llm-инструментов безопасность mcp ai-агентов инъекции команд llm tools уязвимости model context protocol
- Ответы: 0
- Раздел: Безопасность ИИ и LLM