AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor — компания, связывающая элитных специалистов технического и творческого профиля с ведущими лабораториями исследований ИИ. Офисы находятся в Сан-Франциско и Сан-Марино. Мы приглашаем кандидата для работы над проектами оценки безопасности генеративных моделей, где вы сможете применять свои знания в области доверия и безопасности ИИ, помогая компаниям создавать более ответственные и безопасные системы искусственного интеллекта.

Чем заниматься

• Оценивать ответы, сгенерированные ИИ, на безопасность, фактическую точность, соответствие политикам и общее качество
• Анализировать контент, связанный с дезинформацией, политическим влиянием, самоповреждениями, насилием, кибербезопасностью, биобезопасностью и другими чувствительными темами
• Применять и совершенствовать критерии оценки для RLHF, SFT и бенчмаркинга безопасности ИИ
• Выявлять некорректные выходные данные модели, галлюцинации, логические ошибки и нарушения политик
• Формулировать структурированную обратную связь для улучшения alignment и производительности безопасности моделей
• Сотрудничать с исследователями ИИ и командами безопасности в рамках оценочных инициатив

Что ждут

• Степень бакалавра или выше в области журналистики, коммуникаций, психологии, социологии, общественного права, юриспруденции, биологии, химии, компьютерных наук или смежной дисциплины
• 5+ лет профессионального опыта в области безопасности ИИ, trust & safety, журналистики, общественной политики, научных исследований, безопасности или смежных областях
• Отличные письменный английский язык, критическое мышление и аналитические навыки рассуждения
• Способность последовательно оценивать сложные сценарии, требующие внимания к политическим аспектам и конфиденциальности

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, доверием и безопасностью, или оценкой ИИ
• Знание политик безопасности, модерации контента или разработки критериев оценки
• Опыт работы со сложным, высоко рисковым или неоднозначным контентом

Условия

• Контактная работа на полную ставку с гибким удалённым графиком
• Оплата $60–$70 в час
• Работа с ведущими исследовательскими лабораториями ИИ
• Возможность влиять на развитие безопасных систем ИИ
• Международный опыт взаимодействия с командой в нескольких странах

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Machine Learning Operations
• Policy Compliance
• Natural Language Processing
• Risk Assessment
• Data Annotation
• Python

Могут спросить на собеседовании

1. Как вы определяете и классифицируете различные типы рисков при оценке ответов генеративных ИИ?
2. Опишите ваш подход к разработке и адаптации критериев оценки для задач RLHF/SFT.
3. Приведите пример ситуации, когда вы столкнулись с неоднозначным контентом и как вы приняли решение о его безопасности.
4. Как вы обеспечиваете согласованность своих оценок при работе с разными моделями или командами?
5. Какие этические дилеммы вы видели в работе по безопасности ИИ и как вы их решали?