AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями по исследованию ИИ. Мы ищем практика по безопасности ИИ для оценки генерируемых ответов на предмет безопасности, фактической точности и соблюдения политик. Это полностью удалённая контрактная роль с возможностью работать из любой точки мира.

Чем заниматься

• Оценивать ответы, сгенерированные ИИ, на безопасность, фактическую точность, соответствие политикам и общее качество
• Анализировать контент, связанный с дезинформацией, политической пропагандой, самовредением, насилием, кибербезопасностью, биобезопасностью и другими чувствительными областями
• Применять и улучшать критерии оценки для RLHF, SFT и бенчмаркинга безопасности ИИ
• Выявлять опасные выходные данные, галлюцинации, ошибки рассуждения и нарушения политик
• Предоставлять структурированную обратную связь для улучшения выравнивания моделей и показателей безопасности
• Сотрудничать с исследователями ИИ и командами безопасности в рамках ongoing evaluation initiatives

Что ждут

• Высшее образование (Бакалавр или выше) в области журналистики, коммуникаций, психологии, социологии, государственной политики, права, биологии, химии, компьютерных наук или смежной дисциплине
• 5+ лет профессионального опыта в области AI Safety, Trust & Safety, журналистики, государственной политики, научных исследований, безопасности или смежной области
• Отличное письменное английское языковое, критическое мышление и аналитические навыки рассуждения
• Способность последовательно оценивать нюансированные и чувствительные к политикам сценарии
• Готовность к удалённому формату работы

Будет плюсом

• Опыт работы с AI Safety, RLHF, SFT, Trust & Safety или оценкой ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой критериев оценки
• Опыт просмотра сложного, высокорискового или неоднозначного контента

Условия

• Полностью удалённая работа из любой локации
• Конкурентная почасовая оплата $60–$70/час
• Работа с ведущими лабораториями по исследованию ИИ
• Возможность внести вклад в развитие безопасного ИИ
• Контрактный формат с гибкостью графика
• Доступ к современным инструментам и ресурсам

Навыки

• AI Safety
• RLHF
• SFT
• Trust & Safety
• Content Moderation
• Critical Thinking
• Analytical Reasoning
• English
• Policy Compliance

Могут спросить на собеседовании

1. Какие ключевые принципы вы считаете наиболее важными для обеспечения безопасности ИИ?
2. Опишите ваш подход к оценке двусмысленного или потенциально вредного контента от ИИ.
3. Как вы применяете RLHF/SFT методы в своей работе по безопасности ИИ?
4. Приведите пример выявления проблемы безопасности в ИИ-ответе и ваших действий по её решению.
5. Как вы балансируете между свободой выражения и необходимостью фильтрации вредного контента?