Software Engineer, AI Systems (Canada)

О позиции

Вы будете работать над инженерным слоем ИИ и LLM, который связывает базу фактов и граф знаний Haven с продуктами, которыми пользуются специалисты по безопасности. Это роль build-and-operate под руководством CTO — вы сможете проектировать системы рассуждений, внедрять их в продакшн,Instrumentировать и постоянно улучшать на основе производственных данных. Haven обслуживает корпоративных клиентов в регулируемых, safety-critical индустриях через многопользовательские и выделенные деплои. Точность, отслеживаемость, оценка и человеческий оверсайт — ключевые требования продукта. Как член founding team VC-backed pre-seed стартапа, вы будете носить несколько ролей одновременно и принимать значимые технические решения.

Чем заниматься

• Строить и эксплуатировать multi-step LLM pipelines, координирующие вызовы моделей, инструменты, запросы к графам, retrieval, quality gates и handoff между специализированными агентами
• Расширять команду coordinated agent и оркестрационный слой, прокладывающий путь от evidence через анализ, review до enterprise learning
• Проектировать контекстный слой на базе Neo4j traversal, vector search и hybrid retrieval, чтобы каждый call к модели получал релевантные данные и знания организации
• Создавать датасеты, scoring метрики, regression suites, сравнения моделей, human-label loops и per-stage quality attribution для extraction и reasoning задач
• Внедрять tracing, audit tool-calls, мониторинг cost и latency, failure handling и quality dashboards; выявлять loops, hallucinations и silent drift до того, как это замечат клиенты
• Выбирать модели под задачи (OpenAI, Anthropic, Google), partnering with product и knowledge engineering, помогая формировать AI roadmap

Что ждут

• Опыт разработки production LLM систем, которые зависят реальные пользователи
• Практический опыт построения и дебаггинга multi-step, tool-calling workflows с LangGraph, LangChain или эквивалентной фреймворкой
• Повторяемый подход к LLM evaluation: representative datasets, regression testing, LLM-as-judge techniques, human review loops
• Опыт ассемблинга контекста для LLM и четкое видение что ретrieve, сколько и зачем
• Трек-рекорд ownership систем от deployment through monitoring и incident response, включая сильную историю о найденной и исправленной failure/regression
• Умение работать с несколькими модельными провайдерами, объясняя tradeoffs в quality, latency, cost, context и operational risk
• Удобство с Neo4j и Cypher, или comparable graph store, способность быстро освоить графовое data modeling
• Сильный Python: production habits вокруг FastAPI, асинхронных сервисов, тестирования, observability и maintainable interfaces

Будет плюсом

• Глубокий опыт работы с графами: fluency Cypher, schema evolution, MERGE patterns, embeddings, operation live knowledge graph
• Enterprise AI security: awareness prompt-injection, context-leak prevention, tenant isolation, role-based access, policy-layer separation
• Опыт запуска production AI сервисов в Azure и использования Azure AI Search, Pinecone, MongoDB Atlas, pgvector, Elasticsearch или аналогичных платформ
• Предыдущий опыт работы в enterprise-среде (B2B Enterprise SaaS)

Условия

• Работа над осмысленными reasoning проблемами в domain где correctness имеет значение — evidence, causal pathways, controls, organizational history и corrective actions
• Культура evaluation-first — сделать качество measurable, observable и improvable вместо reliance на demos или intuition
• Прямой customer impact для safety команд в energy, utilities, infrastructure, construction и manufacturing
• Маленькая команда с высокой ownership — близкое сотрудничество с CTO, product и knowledge engineering
• Возможность видеть свою работу у клиентов быстро
• Pre-seed VC-backed стартап с шансом построить фундаментальные продукты в critical industries

Навыки

• Python
• FastAPI
• Async Programming
• LangChain
• LangGraph
• Neo4j
• Cypher
• LLMs
• Vector Databases
• Retrieval Augmented Generation
• Agentic Workflows
• Model Evaluation
• Regression Testing
• Observability
• Azure
• Prompt Engineering

Могут спросить на собеседовании

1. Расскажите о вашей самой сложной LLM системе в production и какой инцидент вам пришлось исправить?
2. Как вы оцениваете качество ответов LLM? Какие метрики и подходы используете?
3. Приведите пример оркестрации multi-agent workflow с tool calls. Как вы обрабатывали edge cases?
4. Какие trade-offs вы учитываете при выборе между разными модельными провайдерами (OpenAI vs Anthropic vs Google)?
5. Как вы строили контекст для LLM? Что определяет amount и type информации для retrieval?