AI/LLM Security Researcher / Senior MLSecOps (AISec StartUp)

Описание

SpaceAI — платформа для защиты, контроля и безопасного внедрения LLM-моделей и AI-агентов в корпоративную инфраструктуру. Мы создаём инфраструктурный security-layer между AI-системами и корпоративным контуром. Через SpaceAI проходят запросы к моделям, tool calls и действия AI-агентов: платформа контролирует доступ, применяет security-политики, анализирует риски, защищает данные, отслеживает поведение AI-систем и формирует полный аудиторский след. Ищем AI/LLM Security Researcher / MLSecOps, который будет исследовать атаки и уязвимости AI-систем, воспроизводить их, разрабатывать механизмы защиты и встраивать их в production-контур SpaceAI. Позиция находится на пересечении AI Security, LLM Security, Adversarial ML, AI Red Teaming и MLSecOps. Чем предстоит заниматься Исследовать угрозы и уязвимости LLM, AI-агентов, RAG-систем, MCP-серверов и multi-agent systems. Проводить threat modeling, AI Red Teaming и adversarial testing. Исследовать и воспроизводить prompt injection, indirect prompt injection, jailbreak, data exfiltration, tool abuse, excessive agency, agent hijacking, poisoned context и supply-chain attacks. Создавать PoC атак, attack suites и автоматизированные security-тесты. Разрабатывать методы обнаружения и mitigation выявленных угроз. Создавать guardrails, security classifiers, DLP/PII-фильтры и механизмы обнаружения секретов. Разрабатывать risk-scoring для prompts, tool calls и действий AI-агентов. Исследовать аномальное и потенциально опасное поведение агентов в runtime. Создавать AI Security evals, adversarial datasets и benchmarks. Оценивать защиту по ASR, precision/recall, FPR/FNR, robustness и другим security-метрикам. Встраивать security-проверки в lifecycle AI-систем:development → evaluation → deployment → runtime → monitoring. Разрабатывать security gates для CI/CD и ML/LLM pipelines. Анализировать безопасность моделей, datasets, prompts, checkpoints, dependencies и AI supply chain. Исследовать безопасность MCP, A2A, tool calling и взаимодействия агентов с корпоративными системами. Анализировать production logs и traces, находить новые attack patterns и превращать их в regression tests. Участвовать в развитии AI Security, Risk Analyzer, AI Registry, Explainability Engine и других компонентов SpaceAI. Следить за исследованиями в AI/ML Security и превращать research в работающие механизмы продукта. Что мы ожидаем 5+ лет коммерческого инженерного опыта в ML/AI, ML Engineering, MLOps/MLSecOps, Applied Research или Cybersecurity. 2+ года практической работы с LLM / Generative AI / AI-агентами либо сопоставимый подтверждаемый research-опыт. Практический опыт в AI/ML Security, AI Red Teaming, Adversarial ML, ML Security или security evaluation AI-систем. Опыт вывода хотя бы одной ML/LLM-системы или security-компонента в production. ​​При этом сильный профиль с меньшим количеством лет, но глубоким опытом именно в AI Security / Adversarial ML, также рассматриваем. Технические компетенции Уверенное владение Python для AI/ML, security и research-задач. Глубокое понимание работы современных LLM и ML-систем: Transformers, tokenization, embeddings, inference, fine-tuning, context management, RAG. Понимание архитектуры AI-агентов: tool calling, memory, planning, agent loops, orchestration, multi-agent interaction. Знание attack surface LLM и AI-агентов и основных подходов к mitigation. Практический опыт хотя бы в одном из направлений: LLM / AI Security; AI Red Teaming; Adversarial ML; ML Security; MLSecOps; security evaluation LLM/AI systems. Практический опыт с PyTorch, Transformers, Hugging Face или сопоставимым ML-стеком. Понимание ML/LLM lifecycle: datasets, training/fine-tuning, evaluation, registry, deployment и monitoring. Умение работать с ASR, precision, recall, FPR/FNR, robustness и корректно проектировать security-evaluation. Понимание threat modeling, secure-by-design и defense-in-depth. Опыт работы с Linux, Docker, Git, API и CI/CD. Умение читать scientific papers, воспроизводить эксперименты и критически оценивать заявленные результаты. Английский B2+ для работы с исследованиями, документацией и международным technical community. Ключевая компетенция — способность самостоятельно пройти цикл: attack hypothesis → PoC → dataset/evaluation → mitigation → повторное тестирование → production integration → monitoring. Будет преимуществом Практический опыт LLM/AI Red Teaming. Опыт в роли ML Engineer, MLOps, MLSecOps или AI Security Engineer. Исследования adversarial examples, poisoning, backdoors, model extraction или model evasion. Собственные AI Security evals, benchmarks, datasets или attack frameworks. Опыт fine-tuning, LoRA, PEFT, SFT. Работа с open-source LLM: Llama, Qwen, Mistral и др. Опыт с vLLM, TGI или другой inference-инфраструктурой. Работа с MLflow, Weights & Biases, Kubeflow или аналогичным ML lifecycle-стеком. Практический опыт с MCP, A2A и agent frameworks. Понимание IAM, RBAC/ABAC, Zero Trust, DLP и application security. Опыт SIEM/SOC, security monitoring или anomaly detection. Участие в CTF, bug bounty или offensive security. Знание OWASP GenAI/LLM Security, MITRE ATLAS, NIST AI RMF. Публичные research-проекты, GitHub, статьи, доклады или публикации по AI/ML Security. Что важно для этой роли Мы ищем специалиста, который умеет работать одновременно как researcher и engineer: сформулировать угрозу; построить threat/attack model; воспроизвести атаку; определить корректную methodology и метрики; разработать mitigation; экспериментально доказать его эффективность; встроить механизм защиты в production; поставить monitoring; превратить найденный класс атаки в regression test. Нам нужен человек, способный не просто сказать: «модель можно jailbreak'нуть», а ответить: каким образом, насколько стабильно, при каких условиях, как это измерить и какой контроль реально снижает риск. Что предлагаем Работу над полноценной AI Security-платформой, а не отдельной обвязкой вокруг LLM. Реальные enterprise-сценарии эксплуатации LLM и AI-агентов. Возможность совмещать research и product engineering. Возможность влиять на архитектуру и technical roadmap. Техническое лидерство и ownership над отдельными AI Security / MLSecOps-направлениями. Возможность создавать собственные datasets, benchmarks, security-evals и методологии. Возможность публиковать исследования и выступать на профильных мероприятиях. Прямую коммуникацию с основателями и короткий цикл принятия решений. Удалённый или гибридный формат. Возможность получить долю в проекте и дополнительный опцион, привязанный к результатам. Формат работы Частичная / полная занятость. Удалённо или гибридно. Уровень: Strong Middle / Senior / Lead. SpaceAI — создаём инфраструктуру, в которой AI может действовать автономно, оставаясь контролируемым, наблюдаемым и безопасным.