AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor соединяет элитных технических специалистов с ведущими лабораториями ИИ-исследований. Компания базируется в Сан-Франциско и имеет инвесторов из Benchmark, General Catalyst, Питера Тиля, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. Позиция связана с безопасностью и тестированием передовых языковых моделей в формате контрактной работы на удалённой основе.

Чем заниматься

• Разрабатывать состязательные промпты для стресс-тестирования передовых AI-моделей
• Выявлять взломы систем безопасности (jailbreaks), нежелательное поведение, галлюцинации и провалы политик безопасности
• Оценивать устойчивость моделей в областях дезинформации, кибербезопасности, биоугрозы, мошенничества, политического контента и других чувствительных доменов
• Документировать уязвимости и участвовать в создании отчётов по бенчмаркингу безопасности и красному тестированию
• Сотрудничать с ИИ-исследователями для улучшения alignment, устойчивости и безопасности моделей

Что ждут

• Бакалаврская степень или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, публичной политики или смежных дисциплинах
• 5+ лет профессионального опыта в безопасности ИИ, красном тестировании ИИ, доверии и безопасности, кибербезопасности, investigative journalism, науках о жизни или связанных областях
• Сильные аналитические способности, навыки проектирования промптов и письменной коммуникации
• Опыт разработки состязательных промптов или оценки передовых AI-систем

Будет плюсом

• Опыт в AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с тестированием jailbreak, инженерией промптов или методологиями adversarial evaluation
• Экспертиза в grey-area доменах: кибербезопасность, биоугроза, политический контент, дезинформация или научная безопасность

Условия

• Конкурсная оплата $70–84 в час (около 1,2 млн рублей в месяц)
• Удалённый формат работы из Северной Македонии
• Возможность работы с ведущими лабораториями ИИ-исследований
• Прозрачный процесс найма с обзором заявлений ежедневно

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Adversarial Testing
• Trust and Safety
• RLHF
• SFT
• AI Alignment
• Jailbreak Testing
• Cybersecurity
• Computer Science
• Analytical Reasoning

Могут спросить на собеседовании

1. Расскажите о вашем опыте проведения red teaming тестов для AI-моделей.
2. Как вы подходите к разработке adversarial prompts для выявления уязвимостей?
3. Приведите пример найденной вами критической уязвимости или нежелательного поведения модели.