AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Компания Mercor соединяет элитных технических и креативных специалистов с ведущими ИИ-лабораториями исследований. В инвесторы входят Benchmark, General Catalyst, Питер Тиль, Адам Д'Анджело, Ларри Саммерс и Джек Дорси. Мы ищем опытного специалиста по безопасности ИИ, который поможет оценить риски и уязвимости передовых моделей.

Будет плюсом

• Опыт с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с методами тестирования взломов, разработки промптов или адаптивной оценки
• Экспертиза в одной или нескольких сложных областях: кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность

Условия

• Конкурентоспособный контрактный доход $70–$84 в час (пересчитано в рубли)
• Полностью удалённая работа с гибким графиком
• Возможность работать с ведущими ИИ-лабораториями мира
• Команда экспертов и ресурсы для профессионального роста
• Постоянное взаимодействие с передним краем исследований ИИ

Навыки

• Python
• Adversarial Prompt Engineering
• AI Safety Testing
• Jailbreak Detection
• RLHF
• SFT
• Model Evaluation
• Trust & Safety
• Cybersecurity Assessment
• Biosecurity Analysis

Могут спросить на собеседовании

1. Как вы проводите стресс-тестирование ИИ-моделей на предмет небезопасного поведения? Опишите ваш метод.
2. Приведите пример успешного выявления взлома политики (jailbreak) в ИИ-модели и объясните, как вы его документировали.
3. Какие домены (кибербезопасность, био-, дезинформация и др.) вызывают у вас наибольшие опасения при тестировании ИИ и почему?
4. Как вы оцениваете успех модели после применения методов AI Alignment — какие метрики используете?
5. Опишите ситуацию, где ваши рекомендации привели к улучшению безопасности ИИ-системы.