AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor — платформа, объединяющая элитных технических специалистов с ведущими лабораториями исследований искусственного интеллекта. Мы ищем практика по безопасности ИИ для контрактной работы на полную удалённость из Италии. В нашей роли вы будете напрямую работать над вопросами безопасности, точности фактов и соответствия политикам в ответах генеративных моделей, оценивая контент в чувствительных доменах и предоставляя обратную связь для улучшения alignment модели. Компания имеет поддержку от известных инвесторов включая Benchmark, General Catalyst и других лидеров индустрии.

Чем заниматься

• Оценивать ответы генерированных ИИ на безопасность, фактическую точность, соответствие политикам и общее качество
• Анализировать контент, связанный с дезинформацией, политическим влиянием, самоповреждением, насилием, кибербезопасностью, биоинженерией и другими чувствительными областями
• Применять и совершенствовать рубрики оценки для RLHF, SFT и бенчмаркинга безопасности ИИ
• Выявлять небезопасные выводы, галлюцинации, ошибки рассуждения и нарушения политик
• Предоставлять структурированную обратную связь для улучшения alignment и производительности безопасности моделей
• Сотрудничать с исследователями ИИ и командами безопасности над постоянными инициативами по оценке

Что ждут

• Высшее образование или выше в области журналистики, коммуникаций, психологии, социологии, государственной политики, права, биологии, химии, компьютерных наук или связанной дисциплине
• 5+ лет профессионального опыта в безопасности ИИ, доверии и безопасности (Trust & Safety), журналистике, государственной политике, научных исследованиях, безопасности или смежной области
• Отличные письменные навыки английского языка, критическое мышление и аналитические способности
• Способность последовательно оценивать тонкие и чувствительные к политикам сценарии

Будет плюсом

• Опыт работы в безопасности ИИ, RLHF, SFT, Trust & Safety или оценке ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой рубрик оценки
• Опыт работы со сложным, высоко Рисковым или неоднозначным контентом

Условия

• Удалённая работа с возможностью работы из Италии
• Конкурентоспособная оплата $60–70/час (~800,000 – 1,400,000 ₽/мес)
• Работа с ведущими исследовательскими лабораториями ИИ
• Возможность влияния на развитие безопасности генеративных моделей
• Поддержка от инвесторов уровня Benchmark, General Catalyst
• Гибкий контрактный формат

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Policy Evaluation
• Critical Thinking
• Risk Assessment
• Data Annotation
• Machine Learning
• Natural Language Processing

Могут спросить на собеседовании

1. Как вы оцениваете и классифицируете риски в содержимом, созданном генеративными моделями?
2. Опишите случай, когда вы выявили проблему в выводах ИИ и как обеспечили её исправление.
3. Какие этические дилеммы могут возникать при оценке политически чувствительного контента ИИ?
4. Как вы обеспечиваете согласованность оценок при работе с тонкими и неоднозначными сценариями?
5. Что вы знаете о методах RLHF и как они применяются для улучшения безопасности моделей?