Senior AI Engineer, AI Safety

О позиции

Команда AI Safety Engineering отвечает за разработку фундаментальных элементов инфраструктуры безопасности ИИ с акцентом на автономную автоматизацию. Вы будете работать над созданием моделей для обнаружения вредоносного контента, динамических защитных механизмов и автоматизированных исследовательских пайплайнов. Позиция предназначена для инженера, который успешно решает сложные технические задачи и может трансформировать инновационные концепции безопасности в масштабируемые решения.

Чем заниматься

• Архитектура агентной автоматизации: проектирование, разработка и развертывание базовых циклов автоматической работы агентов для оптимизации процессов оценки безопасности, red-teaming, тестирования моделей и пост-обучения
• Разработка моделей безопасности: создание специализированных систем для выявления вредоносного контента, координации качества контента и runtime guard-railing
• Автоматические исследования: построение фреймворков для автоматического поиска уязвимостей с использованием LLM и автономных агентов, генерация и аугментация safety datasets
• Масштабирование инноваций: превращение proof-of-concept решений в надежные высокопроизводительные системы для продакшена
• Кросс-функциональное взаимодействие: тесная работа с исследователями, платформенными инженерами и дата-сайентистами для связи теоретических исследований с практическими системами

Что ждут

• Бакалавр или магистр компьютерных наук, машинного обучения, программного обеспечения или смежной области
• 8+ лет опыта в ML engineering или software engineering
• Опыт разработки сложных автоматизированных workflows с использованием LLM, включая multi-turn tool-calling, оркестрацию и автономные agent loops
• Глубокое владение Python или Rust, опыт работы с PyTorch
• Способность решать открытые проблемы в условиях неопределенности, готовность экспериментировать итерировать
• Умение вести проект от идеи до деплоя продакшн-системы

Будет плюсом

• Опыт в Trust & Safety, кибербезопасности, threat intelligence, adversarial machine learning или контент-модерации
• Практический опыт разработки моделей для harm detection, content safety filtering или runtime AI guardrails
• Вклад в проекты с LLM для автоматизации кодинга, синтеза данных или научных исследований
• Участие в open-source агентных фреймворках (LangChain, AutoGPT, Semantic Kernel)

Условия

• Конкурентная зарплата: $184,000–$356,500 годовой базы плюс equity и comprehensive benefits
• Инклюзивная и поддерживающая рабочая среда
• Возможность оказать значимое влияние на развитие технологий ИИ будущего
• Работа с передовыми GPU и инфраструктурой
• Комплексный пакет льгот для сотрудника и его семьи

Навыки

• Python
• Rust
• PyTorch
• Large Language Models (LLMs)
• Agent Systems
• Machine Learning Engineering
• Model Training
• Safety Systems
• Content Moderation
• Red Teaming
• Adversarial Machine Learning
• Automation
• Orchestration

Могут спросить на собеседовании

1. Как вы подходите к проектированию автономных агентных систем для задач безопасности ИИ?
2. Опишите случай, когда вы столкнулись с неоднозначной задачей в ML-проекте и как её решили.
3. Какой у вас опыт работы с моделями для обнаружения вредоносного контента или контент-модерации?
4. Расскажите о вашем опыте взаимодействия с research командами при внедрении алгоритмов в продакшен.