GPU Infrastructure Engineer

О позиции

PolarGrid — канадская компания на ранней стадии развития, предоставляющая управляемый AI-инференс. Клиенты загружают свои модели или образы для обслуживания, а мы запускаем их на выделенных GPU через единый эндпоинт. Трафик обслуживается с ближайшей локации и перенаправляется на следующую при отказе узла. Наша цель — сделать AI-инференс быстрым, надёжным и безопасным для production-задач клиентов.

Чем заниматься

• Масштабировать сеть инференса PolarGrid от нескольких локаций до географически распределённого парка GPU-кластеров<br>
• Обеспечивать полный цикл вывода новых сайтов и нод в эксплуатацию: provisioning, burn-in, валидация, staged rollout в production<br>
• Настраивать глобальный слой маршрутизации, отправляющий каждый запрос в оптимальное место обслуживания<br>
• На основе live-сигналов (сетевая задержка, capacity, health) настраивать routing для низкой и предсказуемой задержки<br>
• Устанавливать и отслеживать цели availability, строить health checks и автоматизацию для обнаружения и обхода отказов железа и моделей<br>
• Строить observability, release и network системы для работы распределённого GPU-флота без роста операционной нагрузки<br>
• Реализовывать end-to-end tracing и alerting по задержкам, safe staged rollouts, network config as code, защиту от DDoS на edge

Что ждут

• Опыт эксплуатации distributed систем в нескольких регионах с высокими target-ами availability<br>
• Сильные основы Networking: BGP, DNS, TCP/TLS, load balancing<br>
• Hands-on опыт работы с bare-metal GPU флотами: provisioning, burn-in, firmware, node lifecycle<br>
• Опыт работы с InfiniBand или RDMA networking<br>
• Опыт запуска LLM inference engines (vLLM, SGLang, TensorRT-LLM), включая multi-node serving, cold starts, TTFT<br>
• Глубокие навыки observability с фокусом на p95/p99 задержки и gray failures, не только uptime<br>
• Опыт проектирования failover, graceful degradation и automated recovery<br>
• Strong automation mindset и Infrastructure-as-Code, CI/CD для инфраструктуры<br>
• Способность планировать capacity на ограниченном и неоднородном железе<br>
• Опыт создания internal tooling или control planes, желательно на Go или Rust

Будет плюсом

• Опыт mitigation DDoS атак<br>
• Эксплуатация DNS-инфраструктуры в масштабе<br>
• Hardware security: TPM, measured boot, confidential computing<br>
• Real-time streaming inference (voice/audio)<br>
• Оперирование удалёнными датацентрами с онсайт техниками<br>
• Автоматизация сертификатов across many domains<br>
• Deterministic simulation тестирование

Условия

• Работа в early-stage компании с технологическим focus на AI-инференс<br>
• Возможность строить и масштабировать глобальную распределённую инфраструктуру GPU с нуля<br>
• Работа с актуальными стеком: bare-metal GPU, InfiniBand/RDMA, LLM serving stacks<br>
• Технически сложная роль с прямым влиянием на product reliability и latency<br>
• Локация: Канада<br>
• Конкурентоспособный пакет компенсации

Навыки

• Distributed Systems
• BGP
• DNS
• TCP/IP
• TLS
• Load Balancing
• GPU Infrastructure
• Bare Metal Provisioning
• InfiniBand
• RDMA
• vLLM
• SGLang
• TensorRT-LLM
• Observability
• Monitoring
• CI/CD
• Infrastructure as Code
• Go
• Rust
• Capacity Planning
• Failover
• DDoS Mitigation

Могут спросить на собеседовании

1. Как вы бы строили стратегию вывода нового сайта в распределённой GPU-сети с учётом risk of latency spikes?
2. Опишите ваш подход к проектированию health checks для GPU-нод, которые обнаруживают деградацию производительности, а не только full failure
3. Какие метрики и алерты вы бы настроили для контроля quality-of-service при multi-node LLM serving?
4. Как вы организуете capacity planning, когда supply железа неоднородный и ограниченный?
5. Приведите пример реализации failover и graceful degradation в distributed системе с high availability requirements