AI Safety Specialist - Remote | Upto $84/hr

О позиции

Компания Mercor объединяет элитных специалистов из технической и творческой сфер с ведущими исследовательскими лабораториями в области искусственного интеллекта. Вы будете участвовать в оценке и улучшении безопасности моделей ИИ, сотрудничая с экспертами по всему миру в рамках удалённого формата работы. Проект требует глубоких технических знаний и понимания этических аспектов развития ИИ.

Чем заниматься

• Разработка контрпримеров для тестирования устойчивости передовых языковых моделей<br>
• Выявление уязвимостей системы через методы взлома и проверки политики использования<br>
• Оценка рисков в чувствительных областях (кибербезопасность, биоэтика, дезинформация)<br>
• Документирование обнаруженных проблем для отчётности о безопасности моделей<br>
• Сотрудничество с исследователями по вопросам выравнивания и улучшения систем ИИ

Что ждут

• Высшее образование в области компьютерных наук, кибербезопасности или смежных дисциплин<br>
• Опыт работы не менее 5 лет в области безопасности ИИ, тестирования на уязвимости или доверенной безопасности<br>
• Навыки аналитического мышления и проектирования запросов к языковым моделям<br>
• Знание методов adversarial testing и оценки производительности ИИ-систем

Будет плюсом

• Опыт применения RLHF (reinforcement learning from human feedback)<br>
• Понимание процессов SFT (supervised fine-tuning)<br>
• Экспертиза в специфических доменах (политический контент, биобезопасность)<br>
• Практический опыт тестирования на джейлбрейки

Условия

• Конкурентная оплата за проекты<br>
• Полная удалённая занятость с гибким графиком<br>
• Работа с передовыми исследованиями в области ИИ<br>
• Возможность участия в развитии стандартов безопасности ИИ

Навыки

• AI Safety
• Adversarial Testing
• Prompt Engineering
• LLM Evaluation
• RLHF
• SFT
• Cybersecurity
• Policy Compliance
• Ethical AI

Могут спросить на собеседовании

1. Как бы вы разработали стратегический план тестирования новой языковой модели на устойчивость к вредоносным запросам?
2. Опишите случай выявления критической уязвимости в предыдущей работе и ваши действия по её устранению.
3. Какие метрики вы используете для количественной оценки качества тестов безопасности моделей?
4. Как учитываете этические аспекты при тестировании в чувствительных доменах?
5. Приведите пример ситуации конфликта между исследовательскими задачами и ограничениями безопасности.