AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor связывает элитных специалистов в области креатива и технологий с ведущими лабораториями искусственного интеллекта. Компания базируется в Сан-Франциско и поддерживается такими инвесторами, как Benchmark, General Catalyst, Питер Тиль, Адам Д'Анджело, Ларри Саммерс и Джек Дорси. Вы будете участвовать в тестировании и улучшении безопасности передовых моделей ИИ.

Чем заниматься

• Разрабатывать вредоносные промпты для стресс-тестирования передовых ИИ-моделей
• Выявлять возможности обхода ограничений (jailbreaks), нежелательное поведение, галлюцинации и нарушения политик
• Оценивать устойчивость моделей в различных доменах: дезинформация, кибербезопасность, биобезопасность, мошенничество, политический контент
• Документировать уязвимости и участвовать в создании отчётов по бенчмаркингу и красному командованию
• Сотрудничать с исследователями ИИ для улучшения alignment, робастности и безопасности моделей

Что ждут

• Бакалавр или выше в Computer Science, Cybersecurity, Journalisme, Communications, Psychology, Biology, Chemistry, Public Policy или связанной дисциплине
• 5+ лет профессионального опыта в AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, журналистских расследованиях или смежных областях
• Сильные аналитические способности, навыки проектирования промптов и письменной коммуникации
• Опыт создания adversarial prompts или оценки frontier AI-систем

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с методами тестирования jailbreak, prompt engineering или adversarial evaluation
• Экспертиза в grey-area доменах: кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность

Условия

• Конкурентная ставка оплаты $70–$84/час (~₽1,2M медиана в месяц)
• Удалённая работа с гибким графиком
• Возможность работы с ведущими лабораториями ИИ и фундаментальными исследованиями
• Прямое взаимодействие с исследователями модели

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Adversarial Prompts
• Jailbreak Testing
• AI Alignment
• RLHF
• SFT
• Trust & Safety
• Model Evaluation

Могут спросить на собеседовании

1. Какие методы вы используете для выявления уязвимостей в языковых моделях?
2. Расскажите о случае, когда вам удалось обнаружить критическую уязвимость в ИИ-системе.
3. Как вы балансируете между необходимостью находить слабые места и риском навредить при тестировании?
4. Какие домены безопасности для вас наиболее критичны и почему?
5. Как вы поддерживаете актуальность своих знаний в быстро меняющейся области AI safety?