Principal Product Manager, Augmented Memory Grid (AMG)

О позиции

WekaIO — компания этапа гиперроста, собравшая $375M инвестиций перед IPO. NeuralMesh устанавливает стандарты для agentic AI data infrastructure, трансформируя устаревшие данные в эффективные пайплайны для GPU. В роли Principal PM вы возглавите разработку AMG (Augmented Memory Grid) — технологии для offload KV-cache, memory tiering и интеграции с inference engines (vLLM, NVIDIA Triton/TensorRT-LLM/NIM). Позиция предполагает работу напрямую с NVIDIA, GPU cloud-партнёрами (CoreWeave, TogetherAI, Nebius) и крупными enterprise-клиентами Fortune 50.

Чем заниматься

• Разработка и управление продуктовой стратегией AMG: KV-cache/prefix-cache offload, memory tiering, интеграция с inference engines
• Партнёрство с инженерными командами для определения архитектурных компромиссов GPU памяти, networking (RDMA, GPUDirect Storage, NVMe-oF) и distributed storage
• Взаимодействие с enterprise-клиентами и GPU cloud-партнёрами для сбора требований, валидации бенчмарков и приоритизации фич
• Координация совместной дорожной карты и работы по сертификации с NVIDIA и другими поставщиками silicon/inference-stack
• Определение и отслеживание бенчмарков производительности (TTFT, throughput, cache hit rate) и демонстрация ценности AMG
• Поддержка sales и field команд техническим позиционированием, конкурентной дифференциацией и энтерпрайз-сделками

Что ждут

• 10+ лет опыта в Product Management, предпочтительно в инфраструктуре, ML platforms или developer-facing technical products
• Глубокое понимание LLM inference serving: hands-on опыт с vLLM, NVIDIA Triton/TensorRT-LLM/NIM, Ray Serve
• Знание концепций KV-cache, prefix/context caching, quantization, batching strategies
• Понимание production deployment современных LLM: context windows, multi-tenant serving, GPU scheduling
• Флюенция в high-performance networking и distributed systems: RDMA, GPUDirect Storage, NVMe-oF
• Опыт работы с enterprise-клиентами: gathering requirements, production deployments, SLAs (не только self-serve/PLG)
• Лидерские навыки: ability to influence without authority, cross-functional leadership, communication agility
• Стратегическое мышление: перевод strategic goals into actionable plans, translation complex concepts to stakeholders

Будет плюсом

• Опыт в GPU cloud, inference platform или AI infrastructure startup
• Знакомство с storage systems: parallel/distributed file systems, object storage в AI/ML пайплайнах
• Прямой опыт партнёрства с NVIDIA или другими accelerator/silicon vendors
• Бэкграунд в корпоративных проектах с Fortunes 50

Условия

• Работа с технологически сложным продуктом на стыке ИИ инфраструктуры и enterprise storage
• Возможность direct work с NVIDIA, major hyperscalers и ведущими enterprise-клиентами
• Культура accountability, bravery, collaboration и customer centricity
• ПредIPO growth-stage компания с сильной инвестиционной поддержкой ($375M raised)
• Возможность повлиять на формирование рынка AI data infrastructure

Навыки

• Product Management
• LLM Inference
• vLLM
• NVIDIA Triton
• TensorRT-LLM
• NVIDIA NIM
• KV Cache
• Memory Tiering
• RDMA
• GPUDirect Storage
• NVMe-oF
• Distributed Systems
• High Performance Computing
• Enterprise Sales Support
• Technical Roadmap
• Benchmarks & Metrics