AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor связывает элитных технических специалистов с ведущими лабораториями по исследованию искусственного интеллекта. Компания базируется в Сан-Франциско и поддерживается инвесторами уровня Benchmark, General Catalyst, Питера Тила и Джека Дорси. Позиция требует глубоко понимать как технические аспекты работы с моделями машинного обучения, так и методологии оценки их безопасности.

Чем заниматься

• Разрабатывать адверсарные промпты для стресс-тестирования фронтирных AI-моделей
• Выявлять jailbreak-уязвимости, небезопасное поведение, галлюцинации и провалы политик безопасности
• Оценивать устойчивость моделей в областях дезинформации, кибербезопасности, биобезопасности, мошенничества, политического контента и других чувствительных доменах
• Документировать уязвимости и участвовать в создании бенчмарков безопасности и отчётов по ред-тестингу
• Сотрудничать с AI-исследователями для улучшения alignment, устойчивости и безопасности моделей

Что ждут

• Высшее образование в области Computer Science, Cybersecurity, Journalism, Communications, Psychology, Biology, Chemistry, Public Policy или смежной дисциплине
• 5+ лет профессионального опыта в AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, расследовательской журналистике или life sciences
• Сильные аналитические способности, навыки разработки промптов и письменной коммуникации
• Опыт создания адверсарных промптов или оценки фронтирных AI-систем

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с jailbreak testing, prompt engineering или methodologies adversarial evaluation
• Экспертиза в grey-area доменах: кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность

Условия

• Удалённая работа с глобальной командой
• Конкурентная оплата контракта $70–$84/час
• Возможность работать с передовыми AI-моделями
• Прямое взаимодействие с ведущими исследователями отрасли

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• RLHF
• Adversarial Testing
• Jailbreak Detection
• Model Evaluation
• Cybersecurity
• Trust & Safety
• NLP
• Machine Learning Security
• Risk Assessment
• Policy Analysis

Могут спросить на собеседовании

1. Опишите ваш опыт в разработке адверсарных промптов для выявления уязвимостей в языковых моделях?
2. Какие примеры jailbreak-атак вы сталкивались в работе и какие стратегии их обнаружения использовали?
3. Как бы вы подходили к оценке безопасности модели в домене кибербезопасности против мошенничества?
4. Опишите ситуацию, когда вы выявили критическую проблему безопасности в AI-модели. Как её документировали и коммуницировали?
5. Что вы понимаете под RLHF и как это влияет на безопасность моделей?