AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor объединяет элитных технических и творческих специалистов с ведущими лабораториями исследований ИИ. Мы ищем опытного специалиста по безопасности ИИ для контрактной работы над стресс-тестированием передовых языковых моделей. Вам предстоит выявлять потенциальные риски, оценивать надёжность систем и помогать в улучшении их соответствия ценностям безопасности.

Чем заниматься

• Разрабатывать продвинутые запросы для стресс-тестирования передовых моделей ИИ
• Выявлять методы обхода безопасных ограничений, небезопасное поведение и галлюцинации
• Оценивать устойчивость моделей в области дезинформации, кибербезопасности, биофармацевтики, мошенничества и политического контента
• Документировать найденные уязвимости и участвовать в создании отчётов о красном командовании
• Сотрудничать с исследователями ИИ для улучшения выравнивания моделей и их безопасности

Что ждут

• Бакалавр или выше по информатике, кибербезопасности, журналистике, коммуникациям, психологии, биологии, химии или общественным наукам
• 5+ лет профессионального опыта в безопасности ИИ, красном командовании, доверии и безопасности, кибербезопасности или смежных областях
• Сильные аналитические способности, навыки проектирования запросов и письменной коммуникации
• Опыт разработки adversarial-запросов или оценки передовых систем ИИ

Будет плюсом

• Опыт работы с красным командованием ИИ, RLHF, SFT, выравниванием ИИ или доверием и безопасностью
• Знание тестирования на взлом, инженерии промптов или методов адаптивной оценки
• Экспертиза в одной из критичных областей: кибербезопасность, биофармацевтика, политический контент, дезинформация или научная безопасность

Условия

• Возможность работать с ведущими исследовательскими лабораториями ИИ
• Гибкий удалённый формат работы
• Конкурентоспособная почасовая оплата ($70-84/час)
• Проектная работа с чёткими целями и задачами
• Доступ к современным инструментам и платформам

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• RLHF
• SFT
• Model Alignment
• Trust & Safety
• Adversarial Evaluation
• Cybersecurity
• Jailbreak Testing

Могут спросить на собеседовании

1. Как вы подходите к разработке adversarial-запросов для выявления уязвимостей в передовых моделях ИИ?
2. Расскажите о случае, когда вы обнаружили серьёзную проблему в системе ИИ или подобной технологии.
3. Какие методы вы используете для документирования и передачи информации о выявленных уязвимостях команде разработчиков?
4. Как вы оцениваете баланс между функциональностью модели и требованиями безопасности?
5. Что для вас означает «выравнивание» (alignment) системы ИИ с человеческими ценностями?