AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor связывает элитных креативных и технических специалистов с ведущими лабораториями исследований ИИ. Мы приглашаем вас присоединиться к команде в качестве AI Safety Red Teamer — это контрактная позиция с возможностью работать полностью удалённо. Вы будете отвечать за тестирование передовых моделей искусственного интеллекта на уязвимости и безопасность, разрабатывая специальные контрмеры и анализируя поведение систем в критических сценариях.

Чем заниматься

• Разрабатывать продуманные adversarial-prompts для стресс-тестирования передовых ИИ-моделей
• Выявлять методы обхода ограничений (jailbreaks), небезопасное поведение, галлюцинации и нарушения политик
• Оценивать устойчивость моделей в таких областях, как дезинформация, кибербезопасность, биоэтика, мошенничество, политический контент и другие чувствительные домены
• Документировать выявленные уязвимости и участвовать в составлении отчётов по бенчмаркингу и red-teaming
• Сотрудничать с исследователями ИИ для улучшения alignment, робастности и безопасности моделей

Что ждут

• Бакалавр или выше в области Computer Science, Cybersecurity, Journalism, Communications, Psychology, Biology, Chemistry, Public Policy или смежной дисциплине
• От 5 лет профессионального опыта в AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности или журналистике
• Сильные аналитические навыки, умение проектировать prompt и писать чёткие тексты
• Опыт создания adversarial-prompts или оценки frontier AI систем
• Предпочтителен опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с методами jailbreak testing, prompt engineering, adversarial evaluation
• Экспертиза в одной из grey-area областей: кибербезопасность, биоэтика, политический контент, дезинформация, научная безопасность

Будет плюсом

• Опыт исследования и анализа методов обхода ограничений ИИ-моделей
• Понимание принципов Reinforcement Learning from Human Feedback (RLHF)
• Практический опыт Supervised Fine-Tuning (SFT) моделей
• Вклад в open-source проекты по безопасности ИИ
• Опыт публикации в научных журналах или конференциях по теме AI Safety

Условия

• Удалённая работа с гибким графиком
• Конкурентная почасовая оплата: $70–84/час
• Работа над передовыми проектами в области безопасности ИИ
• Возможность сотрудничества с ведущими исследовательскими лабораториями
• Профессиональное развитие и доступ к экспертному сообществу

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Adversarial Testing
• Model Evaluation
• Trust and Safety
• RLHF
• SFT
• AI Alignment
• Cybersecurity
• Analytical Reasoning

Могут спросить на собеседовании

1. Опишите ваш самый сложный случай обнаружения уязвимости в ИИ-модели и как вы её документировали
2. Как вы определяете границы между допустимым и недопустимым использованием при red-текинге?
3. Приведите пример, когда стандартный prompt не сработал, и как вы адаптировали подход
4. Как вы оцениваете риски моделирования потенциально опасных сценариев (например, биоинженерия)?
5. Опишите методологию, которую вы используете для приоритизации найденных уязвимостей