AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor объединяет таланты из креативной и технической сфер с ведущими исследовательскими лабораториями в области искусственного интеллекта. Компания базируется в Сан-Франциско и работает с инвесторами уровня Benchmark, General Catalyst, Питера Тиля и других. Мы ищем эксперта по безопасности ИИ для контрактной работы над проектами по обеспечению надежности и безопасности нейросетевых систем.

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с методами тестирования jailbreak, prompt engineering, adversarial evaluation
• Экспертиза в одной из сложных областей: кибербезопасность, биоэтика, политический контент, дезинформация или научная безопасность
• Понимание этических аспектов разработки и применения ИИ

Условия

• Удалённая работа с возможностью работы из Мальты
• Конкурентная оплата труда $70–$84 в час
• Возможность работы с передовыми исследовательскими лабораториями
• Формат контракта с гибким графиком
• Доступ к современным инструментам и ресурсам

Навыки

• AI Safety
• Adversarial Prompting
• Jailbreak Testing
• LLM Evaluation
• Trust & Safety
• RLHF
• SFT
• Prompt Engineering
• AI Alignment
• Risk Assessment
• Python
• Security Testing

Могут спросить на собеседовании

1. Какие основные категории рисков вы выделяете при тестировании передовых языковых моделей?
2. Опишите методологию разработки эффективных adversarial prompts для выявления уязвимостей в моделях.
3. Как вы определяете границы между допустимым и недопустимым использованием ИИ в разных доменах?
4. Приведите пример обнаруженной вами critical security issue и как вы её документировали.
5. Как вы оцениваете эффективность мер по устранению выявленных уязвимостей?