AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor объединяет элитный технический и творческий талант с ведущими лабораториями по исследованию ИИ. Позиция AI Safety Practitioner требует глубокого понимания политики безопасности и способности оценивать сложные сценарии, связанные с потенциально опасным контентом. Работа полностью удалённая, формат контрактный. Команда регулярно пересматривает заявки и проводит AI-интервью для быстрой оценки кандидатов.

Чем заниматься

• Оценивать ответы, сгенерированные ИИ, на предмет безопасности, фактологической точности, соответствия политике и общего качества
• Обзор контента, связанного с дезинформацией, политическим влиянием, самоповреждением, насилием, кибербезопасностью, биоинформатикой и другими чувствительными областями
• Применять и уточнять критерии оценки для RLHF, SFT и бенчмарков безопасности ИИ
• Выявлять небезопасные выводы, галлюцинации, ошибки рассуждения и нарушения политики
• Предоставлять структурированную обратную связь для улучшения выравнивания модели и показателей безопасности
• Сотрудничать с исследователями ИИ и командами безопасности в рамках инициатив по оценке

Что ждут

• Бакалавр или высшее образование в области журналистики, коммуникаций, психологии, социологии, государственной политики, права, биологии, химии, компьютерных наук или смежных дисциплин
• 5+ лет профессионального опыта в сфере безопасности ИИ, Trust & Safety, журналистике, государственной политике, научных исследованиях, безопасности или смежных областях
• Отличные письменные навыки английского языка, критическое мышление и аналитические способности рассуждения
• Способность последовательно оценивать нюансированные и чувствительные политически сценарии

Будет плюсом

• Опыт работы в области безопасности ИИ, RLHF, SFT, Trust & Safety или оценки ИИ
• Знакомство с политиками безопасности, модерацией контента или разработкой критериев оценки
• Опыт проверки сложного, высокоуровневого риска или двусмысленного контента

Условия

• Возможность работать над передовыми задачами безопасности ИИ в сотрудничестве с ведущими исследовательскими лабораториями
• Полностью удалённый формат работы с гибкостью
• Конкурентная ставка оплаты труда — $60–70 в час
• Команда с инвесторами уровня Benchmark, General Catalyst, Peter Thiel

Навыки

• RLHF
• SFT
• AI Safety
• Trust & Safety
• Content Moderation
• Policy Analysis
• Critical Thinking
• Analytical Reasoning

Могут спросить на собеседовании

1. Опишите ваш предыдущий опыт работы с оценкой безопасности ответов генеративных моделей. Какие методики или framework вы использовали?
2. Как вы подходите к оценке сложных случаев, когда нет явного правила или когда политика допускает интерпретацию?
3. Приведите пример случая, где вы обнаружили ошибку рассуждения или галлюцинацию в выходе модели. Как вы это задокументировали?
4. Как вы обеспечивали согласованность оценок между разными специалистами и какие меры принимали для калибровки критериев?
5. Какие аспекты безопасности ИИ вы считаете наиболее сложными и почему? Какой ваш взгляд на баланс между безопасностью и полезностью?