AI Safety Specialist - Remote | Upto $84/hr

О позиции

Mercor — это платформа, связывающая ведущих специалистов в области креативных и технических компетенций с исследовательскими лабораториями искусственного интеллекта. Мы работаем с топовыми инвесторами, включая Benchmark, General Catalyst, Питера Тиля, Адама Д'Анджело, Ларри Саммерса и Джека Дорси. Вакансия предназначена для опытного специалиста по безопасности ИИ, готового оценивать робастность моделей в чувствительных областях и способствовать улучшению выравнивания и безопасности систем.

Чем заниматься

• Разрабатывать противоречивые промпты для стресс-тестирования передовых AI-моделей
• Выявлять взломы системы, небезопасное поведение, галлюцинации и провалы политик
• Оценивать устойчивость моделей в областях дезинформации, кибербезопасности, биокибербезопасности, мошенничества, политического контента и других чувствительных доменов
• Документировать уязвимости и участвовать в создании отчётов по безопасному бенчмаркингу и красном тестировании
• Сотрудничать с исследователями AI для улучшения выравнивания, робастности и безопасности моделей

Что ждут

• Высшее образование (бакалавр или выше) в области Computer Science, Cybersecurity, Journalism, Communications, Psychology, Biology, Chemistry, Public Policy или смежной дисциплине
• Опыт работы более 5 лет в области AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, расследовательской журналистики, наук о жизни или связанной области
• Сильные аналитические способности, навыки проектирования промптов и письменной коммуникации
• Опыт создания противоречивых промптов или оценки передовых AI-систем

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знакомство с тестированием jailbreak, оптимизацией промптов или методами adversarial evaluation
• Экспертиза в одной из серых областей: кибербезопасность, биокибербезопасность, политический контент, дезинформация или научная безопасность

Условия

• Конкурентная ставка оплаты до $84/час
• Удалённый формат работы
• Проектная позиция с потенциалом долгосрочного сотрудничества
• Работа с ведущими исследовательскими лабораториями AI
• Возможность повлиять на развитие безопасных AI-систем

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Adversarial Testing
• RLHF
• SFT
• AI Alignment
• Trust and Safety
• Cybersecurity
• Model Evaluation
• Security Research

Могут спросить на собеседовании

1. Расскажите о вашем опыте проведения red-teaming с AI-моделями. Какие методы вы использовали?
2. Как вы подходите к выявлению и документированию уязвимостей в системах искусственного интеллекта?
3. Какие категории рисков вы считаете наиболее значимыми при тестировании передовых AI-моделей? Почему?
4. Как вы оцениваете баланс между функциональностью модели и её безопасностью?
5. Опишите случай, когда вы обнаружили критическую уязвимость в AI-системе. Каковы были ваши действия и результаты?