AI Safety Specialist - Fully Remote | Upto $70/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями исследований искусственного интеллекта. Мы ищем практиков по безопасности ИИ для работы в рамках долгосрочного контракта. В роли вы будете оценивать выходные данные генеративных моделей и помогать делать технологии безопаснее для общества. Это возможность внести вклад в развитие ответственного ИИ из любой точки мира.

Чем заниматься

• Оценивать ответы AI на безопасность, фактологическую точность, соответствие политикам и общее качество
• Анализировать контент, затрагивающий дезинформацию, политическое влияние, причинение вреда себе, насилие, кибербезопасность и другие чувствительные темы
• Применять и уточнять оценочные рубрики для RLHF, SFT и бэнчмаркинга безопасности ИИ
• Выявлять небезопасные выводы, галлюцинации модели, ошибки рассуждений и нарушения политик
• Предоставлять структурированную обратную связь для улучшения alignment и безопасности моделей
• Сотрудничать с исследовательскими командами в рамках оценки моделей

Что ждут

• Диплом бакалавра или выше в журналистике, коммуникациях, психологии, социологии, публичной политике, праве, биологии, химии, информатике или смежной области
• 5+ лет профессионального опыта в AI Safety, Trust & Safety, журналистике, публичной политике, научных исследованиях или смежных областях
• Отличные письменный английский язык, критическое мышление и аналитические способности
• Способность последовательно оценивать тонкие и чувствительные к политике сценарии
• Знание политик безопасности, модерации контента или разработки оценочных рубрик — будет плюсом

Будет плюсом

• Опыт работы с AI Safety, RLHF, SFT, Trust & Safety или оценкой ИИ
• Знакомство с безопасностными политиками, модерацией контента или разработкой оценочных рубрик
• Опыт анализа сложного, высоко рискового или неоднозначного контента

Условия

• Конкурентоспособная почасовая оплата $60–$70/час
• Полностью удалённая работа из любой локации
• Возможность работать с передовыми проектами в области исследований ИИ
• Гибкий график
• Поддержка команды рекрутинга и технической экспертизы

Навыки

• AI Safety
• RLHF
• SFT
• Trust & Safety
• Content Moderation
• Policy Evaluation
• Critical Thinking
• Written Communication

Могут спросить на собеседовании

1. Расскажите о конкретном примере, когда вы выявили проблему безопасности в выводах ИИ-модели. Как вы действовали дальше?
2. Как вы оцениваете ситуацию, когда вывод модели содержит информацию, которая теоретически опасна, но в данном контексте не несёт прямого риска?
3. Какие frameworks или методологии оценки вы применяли для RLHF или SFT проектов? Что было наиболее эффективным?
4. Как вы отслеживаете изменения в политиках безопасности ИИ и адаптируете свои подходы к оценке?