AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями искусственного интеллекта. Компания базируется в Сан-Франциско, её инвесторы включают Benchmark, General Catalyst, Питера Тиля, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. Мы ищем практикующего специалиста по безопасности ИИ для оценки ответов моделей, разработки критериев оценки и улучшения соответствия моделей политикам безопасности.

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, доверием и безопасностью, или оценкой ИИ
• Знакомство с политикой безопасности, модерацией контента или разработкой оценочных рубрик
• Опыт рассмотрения сложного, высокорискованного или неоднозначного контента

Условия

• Контактная удалённая работа
• Ставка $60–70 в час
• Возможность работать с ведущими исследовательскими лабораториями ИИ
• Ежедневный процесс обзора заявок

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Policy Compliance
• AI Evaluation
• Critical Thinking
• Analytical Reasoning
• Risk Assessment
• Trust and Safety

Могут спросить на собеседовании

1. Как вы подходите к оценке безопасности ответов, сгенерированных ИИ?
2. Опишите случай, когда вам пришлось оценить сложный этичный дилемму при работе с контентом.
3. Какие риски вы видите в современных системах ИИ и как их можно смягчить?
4. Как вы работаете с противоречивыми сигналами безопасности в одном контенте?