AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor объединяет элитных технических специалистов с ведущими исследовательскими лабораториями в области искусственного интеллекта. В данный момент мы ищем специалиста по безопасности AI для участия в красных тестированиях и оценке устойчивости передовых языковых моделей. Роль предполагает работу с международными командами исследователей и требует глубокого понимания рисков ИИ в различных критических областях.

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с методами тестирования jailbreak, инженерии промптов или adversarial evaluation
• Экспертиза в одной из «серых» областей: кибербезопасность, биоэтика, политический контент, дезинформация или научная безопасность

Условия

• Удалённый формат работы из любой точки мира
• Конкурентная ставка за час работы ($70–$84/час)
• Возможность работать с передовыми технологиями и известными исследователями
• Гибкий график контракта

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Adversarial Testing
• LLM Evaluation
• Model Alignment
• RLHF
• SFT
• Trust & Safety
• Cybersecurity
• Technical Writing

Могут спросить на собеседовании

1. Какие подходы вы применяете для выявления уязвимостей в передовых языковых моделях?
2. Как вы оцениваете баланс между безопасностью модели и её полезностью при тестировании?
3. Приведите пример наиболее сложного кейса безопасности AI, с которым вы сталкивались, и как его решили
4. Как бы вы построили программу тестирования безопасности для новой многоцелевой AI-системы?
5. Какие метрики безопасности вы считаете наиболее важными при оценке качества модели?