AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor объединяет элитных технических специалистов с ведущими лабораториями по исследованию ИИ. Компания базируется в Сан-Франциско, её инвесторы включают Benchmark, General Catalyst, Питера Тила, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. Мы ищем опытного специалиста для красной команды (red-teaming) систем искусственного интеллекта.

Чем заниматься

• Разрабатывать адверсарные промпты для стресс-тестирования передовых ИИ-моделей
• Выявлять взломы политик безопасности (jailbreaks), некорректное поведение модели, галлюцинации и сбои политики
• Оценивать устойчивость модели в области дезинформации, кибербезопасности, биокибербезопасности, мошенничества, политического контента и других чувствительных доменов
• Документировать уязвимости и участвовать в создании safety benchmarking и red-teaming отчетов
• Сотрудничать с исследователями ИИ для улучшения alignment, robustness и безопасности моделей

Что ждут

• Бакалавр или высшее образование по Computer Science, Cybersecurity, Journalism, Communications, Psychology, Biology, Chemistry, Public Policy или смежной дисциплине
• 5+ лет профессионального опыта в AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, расследовательской журналистике или life sciences
• Сильные аналитические навыки, опыт разработки промптов и письменной коммуникации
• Опыт проектирования адверсарных промптов или оценки frontiers AI систем

Будет плюсом

• Опыт с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с jailbreak testing, prompt engineering или adversarial evaluation methodologies
• Экспертиза в one or more grey-area domains: cyber, biosecurity, political content, misinformation или scientific safety

Условия

• Конкурентная почасовая оплата $70–$84/час
• Полностью удалённая работа из любой локации
• Возможность работать с ведущими AI research lab
• Команда с сильными инвесторами и репутацией

Навыки

• AI Safety
• Red Teaming
• Trust & Safety
• Prompt Engineering
• Adversarial Testing
• AI Alignment
• RLHF
• SFT
• Jailbreak Testing
• Model Evaluation

Могут спросить на собеседовании

1. Расскажите о случае, когда вы выявили серьёзную уязвимость в ИИ-модели. Как вы это обнаружили и каковы были последствия?
2. Как вы подходите к разработке adversarial prompts для тестирования frontier AI моделей?
3. Опишите ваш опыт работы с RLHF или SFT. Как эти методы влияют на безопасность модели?
4. Какие этические дилеммы вы сталкивались при test-бесплатного контента в sensitive domains? Как вы их решали?
5. Как вы документируете свои находки для передачи команде разработчиков?