Modal
Member of Technical Staff - Research, Inference
- New York
- Полная занятость
- 139 дн. назад
Присоединяйтесь к Modal как исследователь in-ференции — создавайте инновационную инфраструктуру для ИИ. Участвуйте в исследованиях по оптимизации обслуживания LLM-моделей, работайте с реальным трафиком клиентов и формируйте будущее ML-инфраструктуры.
О позиции
На Modal мы строим новый слой инфраструктуры для ИИ. Мы поддерживаем ключевые компании, предоставляя им мгновенный доступ к GPU, подзапросные запуски контейнеров и нативное хранилище. Наша команда объединяет создателей популярных open-source проектов, академических исследователей и опытных инженеров. Мы недавно закрыли раунд Series C на $355M при оценке $4.65B и превысили $300M annual recurring revenue.
Условия
- Работа с реальными производственными load-а и клиентами уровня Fortune 500
- Возможность влиять на архитектурные решения и научную повестку
- Команда из создателей популярных open-source проектов и олимпиадных медалистов
- Участие в публикациях и коллаборациях с ведущими исследовательскими группами
- Конкурентная компенсация с equity для Series C стартапа с $4.65B valuation
Навыки
- LLM
- Large Language Models
- Inference
- Model Serving
- Quantization
- FP8
- INT4
- KV-cache
- Speculative Decoding
- Autoscaling
- PyTorch
- CUDA
- GPU Computing
- Tensor Management
- Kubernetes
- Observability
- Research Engineering
- Machine Learning Infrastructure
Сложность отбора
Требуется глубокая экспертиза в LLM-инференции, опыт в исследованиях и работа с production-нагрузками. Подходит для кандидатов с PhD или значительным опытом в ML-инфраструктуре.
Оценка JobPathЗарплата по рынку
1 500 000 – 3 000 000 ₽ в месяц
Оценка для NYC MTS в AI-стартапе с Series C финансированием. Медиана основана на рыночных данных по $180k-230k/год + equity конвертации в ₽/мес.
Оценка JobPath по рынку, не предложение работодателяМогут спросить на собеседовании
- Какой ваш опыт в оптимизации LLM-инференции в production-среде?
- Как вы подходите к выбору исследовательских гипотез, которые принесут наибольшую ценность для бизнеса?
- Расскажите о случае, где вы работали совместно с инженерами над трансформацией research-исследований в продукт.
- Как вы оцениваете компромисс между качеством модели и latency при оптимизации инференции?
- Какие вы видите ключевые направления развития in-ференции LLM в ближайший год?
Прорепетировать это собеседование
Голосовой ИИ-интервьюер задаст вопросы под эту вакансию и разберёт каждый ответ.
Начать бесплатноСохрани похожие вакансии
Новые вакансии с такой должностью будут собираться в кабинете.
Сохранить фильтр