AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor — это платформа, связывающая элитных технических и креативных специалистов с ведущими исследовательскими лабораториями в области искусственного интеллекта. Штаб-квартира находится в Сан-Франциско, инвесторы включают Benchmark, General Catalyst, Питера Тила, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. В рамках проекта требуется специалист по обеспечению безопасности ИИ для тестирования передовых языковых моделей.

Будет плюсом

• Опыт в AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с методами тестирования jailbreak, промпт-инжинирингом или адверсарными оценками
• Экспертиза в одной из областей серой зоны: кибербезопасность, биоэтика, политический контент, дезинформация или научная безопасность

Условия

• Удалённая работа из любой точки Италии
• Конкурентная почасовая оплата $70–84
• Работа с передовыми технологиями и ведущими AI исследовательскими группами
• Гибкий график работы
• Прямое сотрудничество с топ-специалистами индустрии

Навыки

• AI Safety
• Adversarial Prompt Engineering
• Red Teaming
• Jailbreak Testing
• LLM Evaluation
• Prompt Engineering
• RLHF
• Model Alignment
• Trust & Safety
• Cybersecurity
• Policy Analysis

Могут спросить на собеседовании

1. Расскажите о вашем опыте в области AI Red Teaming или тестирования безопасности языковых моделей. Какие уязвимости вы находили?
2. Какие методики вы используете для разработки адверсарных промптов и выявления jailbreak-уязвимостей?
3. Как вы оцениваете риски модели в таких доменах как misinformation или cyber security? Приведите пример подхода.
4. Как вы документируете найденные уязвимости и представляете их команде разработчиков или исследователей?
5. Что, по вашему мнению, является самым сложным в обеспечении безопасности современных языковых моделей?