JobPathDatadog
Senior AI Research Engineer - LLM Training & Inference Infrastructure
- Paris, France
- 5 дн. назад
Старший инженер по исследованиям в области инфраструктуры обучения и инференса LLM в Datadog — создавайте распределённые системы для масштабного обучения языковых моделей и управления GPU-кластерами в парижском офисе.
О позиции
Команда Frontier Foundations отвечает за высокопроизводительную инфраструктуру, позволяющую обучать и обслуживать большие языковые модели на уровне предприятия. Вы будете работать вместе с научными сотрудниками над построением систем, которые обеспечивают быструю итерацию исследований и надёжное выполнение длительных тренировочных прогонов. Проект имеет прямое влияние на развитие решений AI-powered от Datadog, включая агентные системы для observability и security.
Будет плюсом
- Опыт с распределёнными training frameworks: Megatron-LM, TorchTitan, DeepSpeed
- Знание LLM inference engines: vLLM, SGLang, включая batching и KV-cache management
- Опыт с RL training системами и rollout инфраструктурой
- Опыт collective communication (NCCL), RDMA или low-latency networking
- Опыт GPU benchmarking, profiling и cluster performance monitoring
- Опыт построения sandboxed code execution или large-scale evaluation инфраструктуры
- Вклад в open-source ML или distributed systems проекты
Условия
- Конкурентный глобальный пакет benefits
- Новые акции компании RSU и план покупки акций сотрудника ESPP
- Возможность сотрудничества с коллегами в офисах Нью-Йорка и Парижа
- Участие и презентации на конференциях и meetups
- Внутренняя менторская программа и buddy program для нетворкинга
- Инклюзивная корпоративная культура, участие в Community Guilds (employee resource groups)
- Возможность профессионального роста и развития навыков
Навыки
- Distributed Systems
- Machine Learning Infrastructure
- LLM Training
- Inference Infrastructure
- Python
- Kubernetes
- Ray
- Slurm
- GPU Clustering
- CUDA
- Parallel Computing
- TensorFlow
- PyTorch
- Docker
- Monitoring
- Performance Optimization
- System Design
Сложность отбора
Высокая сложность из-за требований к глубоким знаниям распределённых систем, ML-инфраструктуры на scale и многолетней экспертизы в GPU computing
Оценка JobPathЗарплата по рынку
300 000 – 700 000 ₽ в месяц
Оценка рынка для Senior ML Infrastructure Engineer в Париже: базовый оклад + бонусы + RSU; диапазон зависит от опыта и пакета equity
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Опишите архитектуру распределённой системы для parallel training больших моделей. Какие trade-offs вы рассматриваете?
- Как вы оптимизируете utilization GPU в multi-node训练中? Какие метрики для этого используете?
- Расскажите о проблеме строгалайзеров в distributed training и подходах к их mitigation.
- Какой опыт работы с Ray/Kubernetes/Scheduler есть у вас и какие кейсы были наиболее сложными?
- Опишите подход к fault tolerance в длительных training runs. Как обеспечивается recover checkpoint?
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр