Sierra
Software Engineer, Inference
- San Francisco, CA
- Полная занятость
- 46 дн. назад
Sierra ищет инженера в команду Inference для построения архитектуры обслуживания ИИ-моделей на масштабе. Роль сочетает распределённые системы и AI-инфраструктуру — вы будете оптимизировать latency, надёжность и стоимость инференса для клиентов мирового уровня.
О позиции
Вы joinsе к команде Inference компании Sierra, которая создаёт платформы для customer-facing AI-агентов. Вы будете определять архитектуру инференса, работать с self-hosted моделями и third-party провайдерами, управлять capacity, quota, а также оптимизировать производительность систем обслуживания. Это позиция на стыке distributed infrastructure и AI — вам не нужно быть ML-исследователем, но нужны сильные fundamentals по большим системам.
Будет плюсом
- Опыт ML infrastructure, MLOps или production inference systems
- Опыт serving LLMs или других больших моделей на масштабе
- Опыт работы с self-hosted inference и GPU инфраструктурой
- Знание inference frameworks типа vLLM или SGLang
- Опыт пост-training инфраструктуры или оптимизации performance инференса
Условия
- Flexible unlimited PTO
- Medical, dental и vision benefits для сотрудника и семьи
- Life insurance и disability benefits
- Retirement plan в зависимости от страны
- Parental leave
- Fertility и family building benefits через Carrot
- Lunch, snacks и coffee за счёт компании
- Discretionary benefit stipend
- Участие в equity plans
- Free alphorn lessons
Навыки
- Distributed Systems
- Python
- GPU Infrastructure
- Kubernetes
- Docker
- System Design
- Cloud Infrastructure
- Performance Optimization
- MLOps
- LLM Serving
Сложность отбора
Роль требует сильного бэкграунда в distributed systems + опыт работы с AI inference stack, что редкое сочетание
Оценка JobPathЗарплата по рынку
1 000 000 – 1 900 000 ₽ в месяц
Оценка основана на уровне позиции Software Engineer Inference в SF для AI стартапа; диапазон учитывает разный опыт кандидатов
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Как вы проектируете систему с учётом tradeoffs между latency и reliability?
- Опишите опыт настройки GPU-инфраструктуры для обработки ML-моделей
- Как бы вы оптимизировали cost использования провайдеров инференса?
- Какие у вас есть идеи по improving throughput inference pipeline?
- Расскажите о случае, когда вы принимали архитектурное решение без идеальной информации
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр