AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Место в команде Mercor — ведущей платформы для подключения талантов к ведущим лабораториям AI-исследований. Вы будете работать на контрактной основе, проектируя adversarial-промпты и оценивая устойчивость моделей в чувствительных доменах. Поддержка от инвесторов уровня Benchmark, General Catalyst, Питера Тилля и других.

Будет плюсом

• Опыт с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с jailbreak testing, prompt engineering или adversarial evaluation methodologies
• Экспертиза в grey-area доменах: cyber, biosecurity, политический контент, misinformation, scientific safety

Условия

• Конкурсная ставка $70–84/час (~1,1 млн ₽/месяц)
• Полностью удалённая работа
• Работа с ведущими AI research lab
• Поддержка от признанных инвесторов и экспертов отрасли
• Участие в формировании стандартов AI safety

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• RLHF
• SFT
• AI Alignment
• Trust & Safety
• Cybersecurity
• Adversarial Testing
• Jailbreak Detection

Могут спросить на собеседовании

1. Расскажите о конкретном случае выявления jailbreak или unsafe behavior во время red-teaming AI системы. Какую методологию вы применили?
2. Какие подходы вы используете для оценки модели на предмет hallucinations и misinformation? Приведите примеры метрик.
3. Как бы вы спроектировали test suite для проверки political content policies в multi-language setting?
4. Что важнее в приоритетах red-teaming: coverage угроз или depth по каждому типу? Почему?