AI Safety Specialist - Fully Remote | Upto $70/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями по исследованию ИИ. Мы ищем опытного практикующего специалиста по безопасности ИИ для участия в контрактной работе над проектами оценки моделей машинного обучения и обеспечения их соответствия стандартам безопасности.

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, Trust & Safety или оценкой ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой оценочных рубрик
• Опыт анализа сложного, высокорискованного или неоднозначного контента

Условия

• Полностью удалённая работа из любой локации
• Конкурентная оплата труда за час от 60 до 70 долларов США
• Работа с передовыми исследованиями в области ИИ
• Гибкий график для контрактных проектов

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Critical Thinking
• Policy Analysis
• Model Evaluation

Могут спросить на собеседовании

1. Как вы подходите к оценке безопасности ответов генеративной модели ИИ?
2. Опишите случай выявления опасного контента и как вы его обработали
3. Что вы знаете о методах RLHF и SFT в контексте выравнивания моделей?
4. Как вы балансируете между цензурой и свободой выражения при модерации контента?
5. Приведите пример работы с неоднозначным контентом, где не было очевидного ответа