AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor объединяет элитных технических специалистов с ведущими лабораториями по исследованию ИИ. Инвесторы компании включают Benchmark, General Catalyst, Питера Тиля, Эда Д'Анджело, Ларри Саммерса и Джека Дорси. Мы ищем эксперта с опытом 5+ лет для стресс-тестирования фронтальных ИИ-моделей, выявления уязвимостей и содействия улучшению их безопасности и alignment.

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с jailbreak testing, prompt engineering или adversarial evaluation methodologies
• Экспертиза в одной или нескольких grey-area domain: кибербезопасность, биоугрозы, политический контент, дезинформация, научная безопасность

Условия

• Удалённая работа из любой локации
• Гонорар $70–$84/час (около 1–1,2 млн ₽/мес)
• Работа с передовыми исследованиями ИИ в одной из лучших стартап-компаний
• Непосредственное взаимодействие с ведущими исследователями ИИ
• Краткий процесс отбора (20–30 минут: резюме + AI-интервью + форма)

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• RLHF
• SFT
• AI Alignment
• Trust & Safety
• Cybersecurity
• Adversarial Testing
• Jailbreak Detection

Могут спросить на собеседовании

1. Опишите ваш опыт проведения red-teaming тестов для AI систем.
2. Как вы подходите к выявлению jailbreak vulnerabilities в больших языковых моделях?
3. Какие области (кибербезопасность, биоугрозы, дезинформация) вызывают наибольшее беспокойство с точки зрения безопасности ИИ? Почему?
4. Приведите пример, как ваши рекомендации повлияли на улучшение alignment или safety модели.