AI Safety Specialist - Remote | Upto $84/hr

О позиции

Компания Mercor соединяет высококвалифицированных специалистов с ведущими лабораториями исследований искусственного интеллекта. Мы работаем над созданием безопасных и надежных ИИ-систем, которые будут использоваться во всех сферах жизни. В качестве AI Safety Red Teamer вы будете играть ключевую роль в оценке безопасности моделей ИИ и выявлении уязвимостей до их широкого внедрения.

Будет плюсом

• Опыт работы с RLHF, SFT, выравниванием ИИ
• Знакомство с методами тестирования джейлбрейков и оценкой на устойчивость
• Экспертиза в одной из серых областей: кибербезопасность, биобезопасность, политический контент, дезинформация

Условия

• Работа с передовыми исследовательскими лабораториями ИИ
• Гибкий удаленный формат работы
• Конкурентная почасовая оплата
• Возможность влиять на безопасность развития ИИ
• Международное сотрудничество и нетворкинг в сфере ИИ

Навыки

• AI Safety
• Red Teaming
• Adversarial Prompting
• Cybersecurity
• Trust & Safety
• RLHF
• SFT
• Prompt Engineering
• AI Alignment
• Machine Learning Security

Могут спросить на собеседовании

1. Как вы подходите к разработке адверсариальных промптов для тестирования ИИ-моделей?
2. Расскажите о случае, когда вы выявили серьезную уязвимость в системе безопасности
3. Как вы балансируете между поиском уязвимостей и потенциальной пользой от их раскрытия?