AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Компания Mercor связывает выдающихся технических и творческих специалистов с передовыми лабораториями исследований искусственного интеллекта. Вакансия предполагает работу по контракту на полную удалёнку из Хорватии. Вы будете оценивать безопасность и качество ответов, генерируемых ИИ-моделями, а также работать над улучшением их alignment и соответствия политикам.

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, доверием и безопасностью, оценкой ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой критериев оценки
• Опыт рецензирования сложного, рискованного или неоднозначного контента

Условия

• Удалённая работа из любой точки Хорватии
• Ставка $60–70/час
• Возможность работать с передовыми исследовательскими лабораториями ИИ
• Сотрудничество с опытной командой экспертов

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Policy Compliance
• Natural Language Processing
• Machine Learning
• Model Evaluation
• Risk Assessment
• Critical Thinking
• Analytical Reasoning
• English Writing

Могут спросить на собеседовании

1. Can you describe your experience evaluating AI-generated content for safety and policy compliance?
2. How would you approach evaluating a response that contains misinformation but provides potentially harmful advice?
3. What criteria do you use to assess factual accuracy versus harmful content in AI outputs?
4. Describe a situation where you identified a policy violation that others had missed.
5. How do you stay current with evolving AI safety challenges and emerging threats?