AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor связывает элитных технических и креативных специалистов с ведущими лабораториями исследований ИИ. Компания базируется в Сан-Франциско и инвестируется такими именами, как Benchmark, General Catalyst, Питер Тиель и другие. Позиция предполагает глубокую работу с передовыми моделями ИИ в области безопасности.

Будет плюсом

• Знание методов RLHF, SFT, AI Alignment, опыт тестирования на взлом (jailbreak testing), знакомство с methodologies adversarial evaluation, экспертность в нишевых доменах (политический контент, научная безопасность)

Условия

• Конкурентная почасовая оплата, полная удалённая работа, доступ к передовым исследовательским проектам, возможность работать с известными инвесторами и командами

Навыки

• AI Safety
• Red Teaming
• Adversarial Prompting
• Model Robustness Evaluation
• Cybersecurity
• Prompt Engineering
• AI Alignment
• Trust & Safety

Могут спросить на собеседовании

1. Расскажите о вашем опыте в выявлении уязвимостей в моделях ИИ при тестировании на безопасность
2. Какие методы вы применяете для разработки контрпримеров при стресс-тестировании моделей?
3. Как вы определяете приоритеты при анализе рисков в разных чувствительных доменах?