Специалист по кибербезопасности AI/LLM-решений — СберЗдоровье

Специалист по кибербезопасности на стыке Application Security, DevSecOps, Cloud/Kubernetes Security и безопасности GenAI/LLM/AI-агентов, отвечающий за security review и защиту AI-решений.

Чем предстоит заниматься

• Проводить security review AI/LLM-решений: LLM-приложений, AI-агентов, RAG, векторных БД, интеграций с API и облачными LLM
• Участвовать в threat modeling AI-решений: prompt injection, jailbreak, утечки данных, небезопасные tool calls
• Проверять корректность защитных механизмов: guardrails, фильтры персональных данных, rate limiting, валидация ответов
• Оценивать безопасность работы с данными: персональные данные, источники для RAG, embeddings, индексы векторных БД
• Проверять работу AI-агентов по принципу минимально необходимых привилегий
• Проверять изоляцию пользовательских сессий, контекстов и памяти AI-решений
• Участвовать в проверке безопасности локального запуска LLM в Kubernetes: контейнеры, RBAC, secrets, network policies
• Формировать требования к логированию, аудиту и трассировке AI-решений
• Разрабатывать тестовые сценарии для проверки AI-решений на prompt injection и небезопасное поведение агента
• Помогать командам разработки и эксплуатации безопасно использовать локальные и облачные LLM

Требования

• Опыт в кибербезопасности от 2–3 лет в Application Security, DevSecOps, Cloud Security, Kubernetes Security, API Security или Product Security
• Понимание принципов security review, threat modeling и безопасной разработки
• Понимание web/API-безопасности: аутентификация, авторизация, OAuth2/OIDC, SAML, JWT, RBAC
• Базовое понимание AI/LLM-стека: LLM, prompt, context window, embeddings, RAG, vector database, AI-agent, tools/function calling
• Понимание основных рисков LLM-приложений: prompt injection, jailbreak, утечка данных, excessive agency
• Понимание особенностей безопасности RAG и векторных БД (Milvus, Qdrant, Weaviate, pgvector, Chroma, Elasticsearch/OpenSearch)
• Понимание рисков работы с персональными и конфиденциальными данными при использовании LLM
• Базовое понимание Kubernetes и контейнерной безопасности: secrets, service account, RBAC, network policy
• Умение формулировать понятные и проверяемые требования безопасности для продуктовых команд

Будет плюсом

• Опыт security review AI/LLM, RAG, чат-ботов, AI-ассистентов или агентских решений
• Знакомство с OWASP Top 10 for LLM Applications, OWASP Agentic AI Threats, MITRE ATLAS, NIST AI RMF
• Понимание безопасности agent tools/function calling: allowlist tools, схемы входных параметров, human-in-the-loop
• Опыт работы с SIEM/security logging: проектирование событий безопасности, аудит действий
• Понимание подходов к безопасному исполнению кода, сгенерированного моделью: sandbox, изоляция контейнеров
• Базовые навыки Python, работы с JSON/YAML, API-тестирования или автоматизации security checks
• Опыт с OpenAI/Azure OpenAI, AWS Bedrock, Google Vertex AI, Anthropic или другими LLM-провайдерами
• Опыт с локальными open-source LLM и inference-сервисами
• Опыт настройки или проверки guardrails, фильтров персональных данных, DLP-подходов, content moderation
• Опыт участия в AI red teaming или разработке тестов на prompt injection и data leakage

Условия

• Гибридный формат (от 2-х дней в неделю, м. Технопарк)
• Бесплатный доступ к телемедицине и очным приемам в частных клиниках
• Условия ипотечного кредитования от Сбербанка
• Индивидуальный план развития
• Английский язык с корпоративным преподавателем и скидки на курсы в Skyeng
• Компенсация обучения от ведущих платформ
• Официальное оформление, стабильные выплаты, оплата больничного и отпуска
• Современная техника
• Частичная компенсация спортивного абонемента, бесплатные занятия сквошем и футболом