AI Safety Specialist - Remote | Upto $84/hr

О позиции

Мы — команда Mercor, связывающая элитных технических специалистов с ведущими AI-лабораториями исследований. Компания базируется в Сан-Франциско, инвесторы включают Benchmark, General Catalyst, Питера Тила, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. Ищем специалиста по безопасности ИИ для контрактной работы.

Будет плюсом

• Опыт работы RLHF/SFT, AI Alignment
• Понимание методологий оценки рисков ИИ
• Знание международных регуляторных требований к AI

Условия

• Конкурентоспособная оплата $70–84/час
• Удалённый формат работы
• Работа с передовыми AI-моделями от ведущих лабораторий
• Возможность повлиять на развитие безопасного ИИ

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Adversarial Testing
• Jailbreak Detection
• RLHF
• SFT
• AI Alignment
• Trust & Safety
• Cybersecurity
• Data Analysis
• Technical Writing

Могут спросить на собеседовании

1. Приведите пример случая, когда вы выявили критическую уязвимость в модели ИИ. Как вы её документировали?
2. Как вы оцениваете риски дезинформации или полнтического контента в AI-системах? Каковы ваши подходы к тестированию?
3. Что такое jailbreak в контексте AI? Опишите методы, которые вы используете для их обнаружения.
4. Как бы вы сотрудничали с исследователями ИИ для улучшения alignment модели после обнаружения проблемы безопасности?
5. Расскажите о вашем опыте работы с RLHF или SFT. В каком контексте вы это использовали?