AI Safety Specialist - Remote | Upto $84/hr

О позиции

Мы — Mercor, платформа, соединяющая элитных креативных и технических специалистов с ведущими исследовательскими лабораториями по искусственному интеллекту. Наша миссия — помогать развивать безопасный и надёжный ИИ через сотрудничество с лучшими экспертами отрасли. В нашу команду присоединяется AI Safety Specialist для работы над критически важными задачами по обеспечению безопасности языковых моделей и систем машинного обучения.

Чем заниматься

• Разрабатывать противоречивые промпты для стресс-тестирования передовых языковых моделей. Выявлять способы обхода защитных механизмов, небезопасное поведение, галлюцинации и ошибки в соблюдении политик компании. Оценивать устойчивость моделей в различных областях: дезинформация, кибербезопасность, биобезопасность, мошенничество, политический контент. Документировать выявленные уязвимости и участвовать в создании отчётов по бенчмаркингу безопасности. Сотрудничать с исследователями ИИ для улучшения alignment, робастности и безопасности моделей.

Что ждут

• Бакалавр или выше в области компьютерных наук, кибербезопасности, журналистики, коммуникаций, психологии, биологии, химии, публичной политики или смежных дисциплинах. 5+ лет профессионального опыта в области AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, расследовательской журналистики или life sciences. Навыки аналитического мышления, дизайн промптов, письменные коммуникации. Опыт разработки adversarial prompt и оценки frontiers AI систем.

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety. Знание методов jailbreak testing, prompt engineering, adversarial evaluation. Экспертиза в grey-area domains: кибербезопасность, биобезопасность, политический контент, дезинформация, научная безопасность.

Условия

• Удалённая работа из любой точки мира. Гибкий график для контрактной работы. Работа с ведущими исследовательскими лабораториями по ИИ. Возможность внести вклад в развитие безопасного ИИ глобального масштаба. Конкурентная почасовая оплата за результат. Прямое взаимодействие с командой исследователей.

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• RLHF
• SFT
• AI Alignment
• Trust & Safety
• Cybersecurity
• Python
• Natural Language Processing

Могут спросить на собеседовании

1. Опишите ваш опыт проведения red teaming для языковых моделей и ключевые методы, которые вы использовали.
2. Как вы определяете и документируете уязвимости в передовых AI системах?
3. Приведите пример случая, когда вы обнаружили jailbreak или unsafe behavior в модели. Что вы сделали дальше?
4. Как ваши знания в области одной из специализированных областей (кибербезопасность, биобезопасность, политика) помогают вам в оценке моделей ИИ?
5. Какие метрики или framework вы используете для оценки robustness моделей?