Backend Engineer

О позиции

PolarGrid работает с ранними-stage проектами в области AI-инференса. Вы будете разрабатывать распределённые сервисы для обработки запросов к моделям машинного обучения на выделенных GPU. Работа включает взаимодействие с облачными и онпремис инфраструктурами, обеспечение надёжности систем и применение лучших практик безопасности.

Чем заниматься

• Разработка и поддержка распределённых вычислительных сервисов, контрольной панели и телеметрии на кластере GPU-серверов
• Оптимизация DNS и сетевого слоя для маршрутизации клиентских запросов между сайтами
• Автоматизация развертывания образов моделей клиентов на собственных GPU-серверах
• Написание инфраструктуры как кода, создание версионных релизов через CI и настройка мониторинга
• Применение лучших практик безопасности для аутентификации, управления секретами и изоляции тенантов

Что ждут

• Опыт работы с продакшн бэкенд-сервисами на Python, Go или Rust
• Опыт запуска open-source моделей на инференс-бэкендах (vLLM, SGLang, TensorRT-LLM, llama.cpp, Triton Inference Server)
• Эксплуатация bare-metal Linux серверов и контейнеризированных workload'ов
• Написание инфраструктуры как кода и CI-пайплайнов
• Опыт настройки DNS или балансировки нагрузки
• Применение лучших практик безопасности и тест-драйвен разработки

Будет плюсом

• Опыт работы с GPU-кластерами в продакшене
• Опыт миграции трафика между сайтами при сбоях
• Знание архитектур высокодоступных распределённых систем

Условия

• Работа над актуальными задачами AI-инференса в растущей компании
• Команда небольших размеров с возможностью влиять на технические решения
• Возможность работать с распределёнными системами высокого уровня
• Ответственность за реализацию и операционную надежность систем
• Взаимодействие с инженерами разных уровней

Навыки

• Python
• Go
• Rust
• Docker
• Kubernetes
• Linux
• Infrastructure as Code
• CI/CD
• DNS
• Load Balancing
• Security
• vLLM
• Triton Inference Server
• TensorRT-LLM
• llama.cpp
• SGLang

Могут спросить на собеседовании

1. Как бы вы спроектировали систему балансировки нагрузки между географически распределёнными сайтами?
2. Опишите ваш опыт работы с GPU-инференс-серверами и оптимизацией загрузки моделей.
3. Какие подходы вы используете для обеспечения безопасности тенантов в multi-tenant инфраструктуре?
4. Расскажите о случае, когда вам пришлось дебажить проблему в продакшене распределённой системы.
5. Как вы организуете процесс CI/CD для deployment изменений в распределённой системе?