AI Safety Practitioner - Fully Remote | Upto $70/hr

О позиции

Mercor соединяет лучших технических специалистов с ведущими лабораториями исследований ИИ. Компания поддерживает инвестиции таких фондов как Benchmark и General Catalyst, а также известных предпринимателей включая Питера Тиля, Адама Д'Анджело и Джека Дорси. В этой контрактной роли вы будете непосредственно участвовать в обеспечении безопасности и качества современных языковых моделей.

Будет плюсом

• Опыт работы с безопасностью ИИ, RLHF, SFT, доверием и безопасностью
• Знание политик безопасности, модерации контента или разработки рубрик оценки
• Опыт анализа сложного, высокорискованного или неоднозначного контента

Условия

• Полностью удалённая работа (Lithuania location)
• Контактная компенсация $60–70/час
• Работа с передовыми технологиями ИИ
• Возможность сотрудничества с ведущими исследовательскими лабораториями
• Гибкий график работы
• Доступ к профессиональным ресурсам и поддержке команды

Навыки

• AI Safety
• RLHF
• SFT
• Content Moderation
• Policy Evaluation
• Critical Thinking
• Risk Assessment
• Language Models
• Machine Learning
• Research Methodology

Могут спросить на собеседовании

1. Опишите свой подход к оценке безопасности ответа, сгенерированного языковой моделью, который содержит потенциально вредную информацию.
2. Как вы отличаете между случайными галлюцинациями модели и систематическими ошибками в её выводах?
3. Приведите пример ситуации, где требовалось сделать сложный вывод о безопасности контента без явных правил.
4. Как бы вы разработали рубрику оценки для нового типа рисков в содержании, который ранее не встречался в вашей практике?
5. Какой баланс вы находите между строгостью оценки и практичностью рекомендаций для разработчиков моделей?