AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor соединяет лучших технических и креативных специалистов с ведущими лабораториями ИИ-исследований. В инвесторы входят Benchmark, General Catalyst, Питер Тиль, Адам Д'Анджело, Ларри Саммерс и Джек Дорси. Мы ищем опытного специалиста по безопасности ИИ, который сможет стресс-тестировать передовые модели и выявлять уязвимости в их работе.

Чем заниматься

• Разрабатывать противоречивые промпты для стресс-тестах передовых ИИ-моделей
• Выявлять джейлбрейки, небезопасные поведения, галлюцинации и сбои политик
• Оценивать устойчивость моделей в области дезинформации, кибербезопасности, био-безопасности, мошенничества, политического контента и других чувствительных доменов
• Документировать уязвимости и участвовать в бенчмаркинге безопасности и отчётах по красному командованию
• Сотрудничать с ИИ-исследователями для улучшения выравнивания, устойчивости и безопасности моделей

Что ждут

• Высшее образование (бакалавр или выше) в компьютерных науках, кибербезопасности, журналистике, коммуникациях, психологии, биологии, химии, государственном управлении или смежной области
• 5+ лет профессионального опыта в безопасности ИИ, красном командовании ИИ, trust & safety, кибербезопасности, расследовательской журналистике, естественных науках или смежной сфере
• Сильные аналитические навыки, умение проектировать промпты и письменная коммуникация
• Опыт разработки противоречивых промптов или оценки передовых ИИ-систем

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с тестированием джейлбрейков, инжинирингом промптов или методами adversarial evaluation
• Экспертиза в одной из областей серой зоны: кибербезопасность, био-безопасность, политический контент, дезинформация или научная безопасность

Условия

• Полностью удалённая работа из Греции
• Контактный формат сотрудничества
• Высокая ставка оплаты ($70–84/час)
• Работа с передовыми ИИ-моделями
• Возможность внести реальный вклад в развитие безопасного ИИ

Навыки

• AI Safety
• Red Teaming
• Trust & Safety
• Prompt Engineering
• Adversarial Testing
• RLHF
• SFT
• AI Alignment
• Cybersecurity
• Policy Evaluation

Могут спросить на собеседовании

1. Какие типы adversarial prompts вы разрабатывали ранее и как оценивали их эффективность?
2. Опишите случай, когда вы обнаружили критическую уязвимость в ИИ-модели во время red teaming.
3. Как вы подходите к оценке безопасности модели в чувствительных доменах, таких как био-безопасность или политический контент?
4. Какой ваш опыт работы с RLHF и SFT в контексте улучшения безопасности моделей?