НовоеAI-конструктор резюме: правишь прямо на листе A4, а нейросеть подсказывает, что усилитьКонструктор резюме на листе A4Попробовать
JobPath
Начать бесплатно

Baseten

Engineering Manager, Inference Performance

  • Удалённо
  • San Francisco
  • Полная занятость
  • 46 дн. назад

Инженерный менеджер по производительности инференса в ведущей компании по развёртыванию ИИ-моделей в продакшене. Управляйте командой оптимизации GPU и влияйте на скорость работы моделей у клиентов в области машинного обучения.

О позиции

Baseten — платформа для критически важного инференса, которая помогает самым динамичным ИИ-компаниям выводить продвинутые модели в продакшен. Компания недавно привлекла $1.5 млрд в раунде Series F и активно растёт. Вы возглавите часть команды Inference Performance, которая делает самые требовательные ИИ-нагрузки быстрее и эффективнее на GPU. Ваша команда работает над ядрами, планированием, батчингом, управлением KV-cache и другими ключевыми аспектами рантайма инференса. Это роль технического лидера с глубоким погружением в производительность GPU.

Будет плюсом

  • Опыт с inference engines: vLLM, SGLang, TensorRT-LLM
  • Оптимизация LLM в production: quantization, speculative decoding, continuous batching
  • Опыт GPU kernels: CUDA, Triton, CUTLASS или аналогичные
  • Опыт масштабирования команды в быстрорастущем startup
  • Фон performance или systems engineering перед переходом в management

Условия

  • Конкурентный компенсационный пакет, включая значительный equity
  • Медицинское, стоматологическое и vision страхование на 100% для сотрудника и dependents (только США)
  • Гибкий PTO policy, включая корпоративные Winter Break (офисы закрыты с Рождества до Нового года)
  • Paid parental leave
  • Stipend на fertility и family-building через Carrot
  • Участие 401(k) со стороны компании (только США)
  • Доступ к разнообразным ML стартапам, unparalleled learning и networking opportunities

Навыки

  • GPU Optimization
  • CUDA
  • PyTorch
  • TensorRT
  • Performance Engineering
  • Machine Learning Infrastructure
  • Team Leadership
  • System Design
  • Inference Engines
  • Distributed Systems
  • Quantization
  • Speculative Decoding
  • KV-Cache Management

Сложность отбора

Высококвалифицированная роль требует глубоких технических знаний в GPU архитектуре и машинном обучении наравне с опытными управленческими навыками

Оценка JobPath

Зарплата по рынку

1 200 000 – 2 000 000 ₽ в месяц

Оценка для Engineering Manager уровня в SF по специализированному ИИ/ML направлению, годовая компенсация ~$250K пересчитана в месячную зарплату по курсу ~91 RUB/USD

Оценка JobPath по рынку, не предложение работодателя

Могут спросить на собеседовании

  1. Опишите ваш подход к управлению инженерной командой, специализирующейся на low-level оптимизации GPU.
  2. Как вы балансируйте технические debt и бизнес-приоритеты при разработке roadmap производительности?
  3. Приведите пример сложной проблемы производительности, которую вы помогли решить своей команде.
  4. Как вы нанимаете и развиваете таланты в быстро растущей startup среде?
  5. Как вы обеспечиваете alignment между техническими командами и business stakeholders?

Прорепетировать это собеседование

Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.

Начать бесплатно

Сохрани похожие вакансии

Новые вакансии с такой должностью будут собираться в кабинете.

Сохранить фильтр

Перед откликом

Попробовать бесплатно

Связаться с поддержкой

Выбери, где удобнее написать