Product Manager, Inference Platform

О позиции

Baseten строит облачную платформу для запуска ИИ-моделей в продакшене. Вы станете ключевым звеном между инженерами, исследователями и клиентами, помогая превращать сложные технические оптимизации в доступные продукты. Это роль для тех, кто умеет сочетать глубокое понимание ML с сильным продуктовым видением.

Будет плюсом

• Практический опыт с PyTorch, vLLM, TensorRT-LLM, SGLang, NVIDIA Dynamo или similar технологиями
• Опыт с open-source inference projects, модельными оптимизациями или ML systems research

Условия

• Конкурентная компенсация с значительным equity
• Покрытие медицинских, стоматологических и vision страховок на 100% для сотрудника и dependents (только США)
• Гибкая политика PTO включая Winter Break — офисы закрыты с 24 декабря до 1 января
• Оплачиваемый parental leave
• Stipend на fertility и family-building через Carrot
• Company-facilitated 401(k) (только США)
• Возможности networking и exposure к ML стартапам

Навыки

• Machine Learning
• Python
• PyTorch
• TensorFlow
• Model Serving
• GPU Computing
• Distributed Systems
• Performance Optimization
• Benchmarking
• API Design
• Cloud Infrastructure
• CUDA

Могут спросить на собеседовании

1. Как вы определяете приоритеты оптимизаций для производительности модели?
2. Расскажите о ситуации, когда вам пришлось объяснить сложную техническую концепцию нетехническому стейкхолдеру.
3. Какие метрики вы бы использовали для измерения успеха новой функции инференса?
4. Как вы оцениваете tradeoff между скоростью развертывания модели и ее производительностью в продакшене?