JobPathGcore
Python Inference Engineer
- Удалённо
- Cyprus
- Полная занятость
- вчера
Python Inference Engineer в команду Edge Cloud & AI международной компании Gcore. Стройте и совершенствуйте inference-слой платформы для запуска языковых и мультимодальных моделей в продакшене. Участие в разработке инфраструктуры для ИИ, работа с передовыми технологиями GPU-вычислений и оптимизации моделей.
О позиции
Вы присоединитесь к глобальной команде из 550+ специалистов, которые строят инфраструктуру и программное обеспечение для цифрового мира. Gcore — провайдер решений для облачных вычислений, сетей безопасности и ИИ с более чем 210 edge-локациями по всему миру. Вы будете разрабатывать критически важные компоненты системы инференса, которые используются клиентами по всему миру, и работать с технологическими партнёрами Intel, NVIDIA, Dell и Equinix.
Будет плюсом
- Опыт работы с vLLM, SGLang, NVIDIA Dynamo, TensorRT-LLM или аналогичными фреймворками
- Опыт запуска GPU-нагрузок в продакшене
- Знание техник инференса: quantization, continuous batching, speculative decoding, prefix caching, chunked prefill, LoRA serving
- Опыт работы с CUDA, Triton, TensorRT или другими GPU-инструментами
- Профилирование и улучшение latency, throughput, использования памяти GPU
- Опыт distributed inference, multi-GPU систем, scheduling или autoscaling
- Контрибьюции в open-source ML/infrastructure проекты
Условия
- Конкурентная компенсация
- Гибкий график работы и гибридные/удалённые опции
- Работа удалённо до 45 дней в году где угодно
- Частное медицинское страхование для вас и семьи
- Дополнительные оплачиваемые дни отпуска и больничных
- Поддержка важных жизненных событий и праздников
- Языковые курсы для развития
- Современные офисы со снеками, напитками и развлечениями
- Командный спорт и социальные активности
Навыки
- Python
- PyTorch
- Docker
- Kubernetes
- Linux
- GPU Computing
- Distributed Systems
- Machine Learning
- vLLM
- SGLang
- NVIDIA Dynamo
- TensorRT-LLM
- CUDA
- Triton
- TensorRT
- Model Optimization
- Quantization
- Continuous Batching
- Speculative Decoding
- LoRA
Сложность отбора
Высокая сложность: требуется глубокая экспертиза в Python, ML-пайплайнах, GPU-вычислениях и распределённых системах. Роль предполагает работу с критически важной производственной инфраструктурой, отладку на низком уровне и оптимизацию производительности.
Оценка JobPathЗарплата по рынку
350 000 – 650 000 ₽ в месяц
Оценка для позиции Python Inference Engineer в Кипре (senior уровень, 5+ лет опыта). Диапазон соответствует рынку для специализированных ML-инженеров с опытом GPU-вычислений. Фактическая компенсация может варьироваться в зависимости от навыков кандидата и условий найма.
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Как вы подходите к оптимизации latency и throughput при развертывании LLM-моделей в production?
- Опишите ситуацию, когда вам пришлось отладить сложную проблему на стыке GPU, Kubernetes и ML-фреймворка. Как вы определяли корневую причину?
- Какие техники вы знаете для оптимизации использования памяти при запуске больших моделей, и какой подход выбрали бы для конкретного кейса?
- Как вы балансируете между скоростью разработки новых фич и качеством/reliability production-кода в команде?
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр