Principal Software Engineer, E2E Performance and Goodput — CSP Engagements

О позиции

Команда CSP Engagements занимает лидирующие позиции в области обеспечения максимальной производительности решений NVIDIA на платформах ключевых облачных провайдеров и гиперскейлеров. Вы будете служить техническим фокусом по вопросам end-to-end производительности, работая напрямую с инженерными командами крупных клиентов для достижения целевых показателей производительности. Роль объединяет глубокое понимание инфраструктуры GPU/HPC/ML с необходимостью эффективного взаимодействия как с техническими специалистами, так и с руководящим составом заказчиков.

Чем заниматься

• Управление потоками работ по характеризации производительности совместно с инженерными командами ключевых CSP и гиперскейлеров
• Сбор и синтез фидбека о производительности от CSP, выявление разрывов между ожидаемыми и фактическими показателями пропускной способности
• Обеспечение актуальности и валидации инструментов open-source производительности и стресс-тестирования для новейших систем NVIDIA rack-scale
• Сотрудничество с CSP для приведения их инструмента валидации в соответствие с последними возможностями GPU
• Кросс-CSP сравнение производительности и анализ паттернов выявления различий в конфигурациях и рабочих нагрузках
• Разработка стратегий тестирования и требований к инструментам для валидации производительности

Что ждут

• 15+ лет опыта в системном performance engineering, желательно в GPU/HPC/ML инфраструктуре
• BS или MS в Computer Science, Computer Engineering или связанной области (или эквивалентный опыт)
• Владение профилированием GPU workload: nsight systems, nsight compute, метрики DCGM или аналогичные инструменты
• Понимание динамики производительности распределённого обучения: перекрытие вычислений/коммуникаций, pipeline bubbles, использование памяти bandwidth
• Статистические методы анализа производительности: регрессионный детектинг, доверительные интервалы, A/B сравнения в масштабе
• Знание влияния полного стека ПО на производительность: оверхедриверов драйверов, выбор алгоритмов collective, memory allocation, scheduling
• Навыки анализа данных и визуализации (Python, pandas, дашборды)
• Высокие коммуникационные навыки для презентации результатов обеим техническим аудиториям и executive leadership

Будет плюсом

• Опыт профилирования и оптимизации distributed training на масштабе 1000+ GPU (Megatron-LM, DeepSpeed, FSDP)
• Фон в области ML инфраструктуры производительности в CSP/гиперскейлере
• Знакомство с платформами NVIDIA (DGX, HGX, NVLink topology) и профилирующими инструментами
• Опыт построения автоматизированных систем детектирования регрессии производительности для production окружений
• Понимание динамики производительности inference workload (vLLM, TensorRT-LLM, SGLang, continuous batching)

Условия

• Конкурентная базовая зарплата в диапазоне $272,000–431,250 в год + опционы/equity
• Социальный пакет и льготы
• Работа над прорывными продуктами в области Искусственного Интеллекта, Высокопроизводительных Вычислений и Визуализации
• Возможность работать с передовым оборудованием NVIDIA DGX/HGX и взаимодействовать с крупнейшими облачными провайдерами
• Международная карьерная перспектива в технологически продвинутой среде

Навыки

• Python
• GPU Profiling
• CUDA
• NCCL
• HPC
• Distributed Systems
• Performance Engineering
• Machine Learning Infrastructure
• Data Analysis
• Benchmarking
• Linux
• System Architecture

Могут спросить на собеседовании

1. Расскажите о примере, где вы выявили серьёзный performance bottleneck в GPU-инфраструктуре. Какой метод анализа вы использовали и какой был итоговый результат?
2. Как вы строите процесс сбора и синтеза фидбека от нескольких клиентов с разными рабочими нагрузками? Пример успешной инициативы.
3. Опишите вашу работу со статистическими методами в контексте performance engineering. Как вы отличаете noise от реальных проблем?
4. Какие компромиссы вам приходилось принимать при проектировании benchmark harness для распределённой системы?
5. Как вы объясняете сложные performance findings executive-уровню без излишнего технического жаргона?