AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Компания Mercor соединяет элитных технических специалистов с ведущими лабораториями по исследованию ИИ. Мы работаем над обеспечением безопасности и качества ответов генеративных моделей в различных чувствительных областях — от политики до кибербезопасности. Эта роль позволяет применить аналитические навыки для улучшения систем искусственного интеллекта.

Будет плюсом

• Опыт работы с AI Safety, RLHF, SFT, Trust & Safety или AI evaluation
• Знание политик безопасности, модерации контента или разработка критериев оценки
• Опыт проверки высокоуровневого содержания в сложных областях

Условия

• Удалённая работа из любой локации
• Гибкий график при полной занятости
• Возможность работать с передовыми исследовательскими группами в области ИИ
• Конкурентная почасовая оплата

Навыки

• AI Safety
• RLHF
• SFT
• Trust & Safety
• Content Moderation
• Critical Thinking
• Research
• Risk Assessment
• English
• Python

Могут спросить на собеседовании

1. Как вы подойдёте к оценке ответов ИИ в чувствительной тематике (например, политика или здоровье)?
2. Опишите кейс, где вы выявили проблему с безопасностью контента. Как вы её классифицировали и что сделали?
3. Какие факторы вы учитываете при оценке качества ответа сгенерированного ИИ?
4. Как вы относитесь к галлюцинациям в ответах ИИ? На что они влияют и как их обнаруживать?