AI Safety Specialist - Evaluation Expert

О позиции

Mercor объединяет элитных творческих и технических специалистов с ведущими лабораториями исследований в области искусственного интеллекта. Компания работает в сфере оценки и модерации контента генеративных моделей, обеспечивая их безопасность и соответствие политикам. Эта роль требует глубокого понимания принципов работы ИИ и способности выявлять риски в различных доменах — от дезинформации до кибербезопасности. Позиция подходит для профессионалов с опытом в AI Safety, журналистике, политике или научных исследованиях.

Чем заниматься

• Оценивать ответы, сгенерированные ИИ, на безопасность, фактологическую точность и соответствие политикам
• Анализировать контент, связанный с дезинформацией, политической пропагандой, причинением вреда, насилием и другими чувствительными темами
• Применять и улучшать рубрики оценки для RLHF, SFT и бенчмаркинга безопасности ИИ
• Выявлять небезопасные выходы, галлюцинации модели, ошибки рассуждения и нарушения политик
• Предоставлять структурированную обратную связь для улучшения alignment и безопасности моделей
• Сотрудничать с исследователями ИИ и командами безопасности над оценочными инициативами

Что ждут

• Высшее образование в области журналистики, коммуникаций, психологии, социологии, государственной политики, права, биологии, химии, компьютерных наук или смежной дисциплины
• Не менее 5 лет профессионального опыта в AI Safety, Trust & Safety, журналистике, науке, безопасности или связанной области
• Отличные письменные навыки английского языка, критическое мышление и аналитические способности
• Способность последовательно оценивать сложные и чувствительные с точки зрения политики сценарии

Будет плюсом

• Опыт работы с AI Safety, RLHF, SFT, Trust & Safety или оценкой ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой рубрик оценки
• Опыт анализа сложного высокоуровневого или неоднозначного контента

Условия

• Удалённый формат работы из Германии
• Контрактная оплата $60–70 в час
• Возможность работать с ведущими лабораториями исследований ИИ
• Команда инвесторов из индустриальных лидеров (Benchmark, General Catalyst, Peter Thiel, Adam D'Angelo)

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Critical Thinking
• Analytical Reasoning
• Policy Compliance
• Risk Assessment
• English Writing

Могут спросить на собеседовании

1. Как вы определяете и классифицируете типы рисков в ответах генеративных ИИ-моделей?
2. Опишите опыт разработки или применения рубрик оценки для ML-моделей
3. Какие подходы вы используете для балансировки между свободой контента и требованиями безопасности?