Baseten
Engineering Manager, Inference Performance
- Удалённо
- San Francisco
- Полная занятость
- 46 дн. назад
Инженерный менеджер по производительности инференса в ведущей компании по развёртыванию ИИ-моделей в продакшене. Управляйте командой оптимизации GPU и влияйте на скорость работы моделей у клиентов в области машинного обучения.
О позиции
Baseten — платформа для критически важного инференса, которая помогает самым динамичным ИИ-компаниям выводить продвинутые модели в продакшен. Компания недавно привлекла $1.5 млрд в раунде Series F и активно растёт. Вы возглавите часть команды Inference Performance, которая делает самые требовательные ИИ-нагрузки быстрее и эффективнее на GPU. Ваша команда работает над ядрами, планированием, батчингом, управлением KV-cache и другими ключевыми аспектами рантайма инференса. Это роль технического лидера с глубоким погружением в производительность GPU.
Будет плюсом
- Опыт с inference engines: vLLM, SGLang, TensorRT-LLM
- Оптимизация LLM в production: quantization, speculative decoding, continuous batching
- Опыт GPU kernels: CUDA, Triton, CUTLASS или аналогичные
- Опыт масштабирования команды в быстрорастущем startup
- Фон performance или systems engineering перед переходом в management
Условия
- Конкурентный компенсационный пакет, включая значительный equity
- Медицинское, стоматологическое и vision страхование на 100% для сотрудника и dependents (только США)
- Гибкий PTO policy, включая корпоративные Winter Break (офисы закрыты с Рождества до Нового года)
- Paid parental leave
- Stipend на fertility и family-building через Carrot
- Участие 401(k) со стороны компании (только США)
- Доступ к разнообразным ML стартапам, unparalleled learning и networking opportunities
Навыки
- GPU Optimization
- CUDA
- PyTorch
- TensorRT
- Performance Engineering
- Machine Learning Infrastructure
- Team Leadership
- System Design
- Inference Engines
- Distributed Systems
- Quantization
- Speculative Decoding
- KV-Cache Management
Сложность отбора
Высококвалифицированная роль требует глубоких технических знаний в GPU архитектуре и машинном обучении наравне с опытными управленческими навыками
Оценка JobPathЗарплата по рынку
1 200 000 – 2 000 000 ₽ в месяц
Оценка для Engineering Manager уровня в SF по специализированному ИИ/ML направлению, годовая компенсация ~$250K пересчитана в месячную зарплату по курсу ~91 RUB/USD
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Опишите ваш подход к управлению инженерной командой, специализирующейся на low-level оптимизации GPU.
- Как вы балансируйте технические debt и бизнес-приоритеты при разработке roadmap производительности?
- Приведите пример сложной проблемы производительности, которую вы помогли решить своей команде.
- Как вы нанимаете и развиваете таланты в быстро растущей startup среде?
- Как вы обеспечиваете alignment между техническими командами и business stakeholders?
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр