AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor соединяет элитных технических и креативных специалистов с ведущими лабораториями исследований искусственного интеллекта. В качестве AI Safety Specialist вы будете разрабатывать адверсарные промпты для стресс-тестирования передовых AI-моделей, оценивать их устойчивость в различных чувствительных доменах и документировать уязвимости. Это контрактная полностью удалённая работа с возможностью взаимодействия с исследователями AI для улучшения alignment моделей.

Чем заниматься

• Разработка адверсарных промптов для тестирования передовых AI-моделей
• Выявление джейлбрейков, небезопасного поведения, галлюцинаций и нарушений политик
• Оценка устойчивости моделей в областях дезинформации, кибербезопасности, биобезопасности, мошенничества, политического контента и других чувствительных доменов
• Документирование уязвимостей и участие в создании отчётов по red-teaming
• Сотрудничество с исследователями AI для улучшения alignment, robustness и безопасности моделей

Что ждут

• Высшее образование (бакалавр или выше) в области Computer Science, Cybersecurity, Journalism, Communications, Psychology, Biology, Chemistry, Public Policy или смежных дисциплин
• 5+ лет профессионального опыта в AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, расследовательской журналистике или life sciences
• Сильные навыки аналитического мышления, проектирования промптов и письменной коммуникации
• Опыт разработки адверсарных промптов или оценки передовых AI-систем
• Базовое понимание методологий red-teaming и prompt engineering

Будет плюсом

• Опыт работы с RLHF (Reinforcement Learning from Human Feedback)
• Знание методов SFT (Supervised Fine-Tuning)
• Опыт в AI Alignment
• Знакомство с тестированием jailbreak, prompt engineering или адверсарной evaluation
• Экспертиза в серой зоне: кибербезопасность, биобезопасность, политический контент, дезинформация, научная безопасность

Условия

• Полностью удалённая работа (Remote)
• Конкурентная почасовая оплата $70–$84/час
• Работа с передовыми моделями AI от ведущих исследовательских лабораторий
• Гибкий график для удалённых специалистов из Нидерландов
• Возможность влиять на безопасность и alignement критических AI-систем
• Короткий процесс найма с AI-интервью (20–30 минут)

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• RLHF
• SFT
• AI Alignment
• Trust & Safety
• Cybersecurity
• Jailbreak Testing
• Adversarial Evaluation
• Model Robustness
• Risk Assessment

Могут спросить на собеседовании

1. Опишите конкретный пример, когда вы разработали адверсарный промпт для выявления уязвимости в AI-модели.
2. Как бы вы оценили баланс между полезностью модели и её безопасностью при появлении новых типов атак?
3. Какие методологии вы используете для обеспечения полноты тестирования и минимизации ложноотрицательных результатов?
4. Расскажите о ситуации, где вам пришлось работать с этически сложным кейсом при тестировании безопасности AI.
5. Как вы следите за последними угрозами и атаками на AI-системы, и какие источники информации считаете наиболее надёжными?