AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor объединяет элитный творческий и технический талант с ведущими лабораториями по исследованию ИИ. Мы ищем практикa по обеспечению безопасности искусственного интеллекта для участия в критически важных проектах оценки контента, разработке бенчмарков и улучшения моделей машинного обучения.

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, Trust & Safety или оценкой ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой оценочных рубрик
• Опыт работы со сложным, высокорисковым или неоднозначным контентом

Условия

• Контактная работа в полностью удалённом формате
• Гибкий график
• Возможность работать над передовыми задачами безопасности ИИ
• Работа с опытными исследователями и экспертами отрасли

Навыки

• AI Safety
• RLHF
• SFT
• Trust & Safety
• Content Moderation
• Python
• Critical Thinking
• Analytical Reasoning
• Machine Learning
• Natural Language Processing

Могут спросить на собеседовании

1. Как вы оцениваете баланс между свободой выражения мнения и безопасностью при модерации контента?
2. Опишите процесс разработки и применения оценочных рубрик для оценки качества и безопасности ответов модели.
3. Какие подходы вы используете для выявления галлюцинаций и ошибок в логических выводах ИИ?
4. Приведите пример сложной ситуации с политически чувствительным контентом, которую вам приходилось оценивать, и объясните ваше решение.
5. Как вы обеспечиваете консистентность в оценках при работе с неоднозначным или двусмысленным контентом?