AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Компания Mercor связывает элитных технических специалистов с ведущими исследовательскими лабораториями в области ИИ. Мы ищем опытного специалиста по безопасности ИИ для работы над улучшением надёжности, соответствия и безопасности передовых языковых моделей. Это контрактная позиция на полную ставку с возможностью удалённой работы из Швеции.

Будет плюсом

• Опыт работы с RLHF, SFT, AI Alignment, Trust & Safety
• Знание методологий тестирования на взлом, prompt engineering, adversarial evaluation
• Экспертиза в «серых» доменах: кибербезопасность, биобезопасность, политический контент, дезинформация, научная безопасность

Условия

• Конкурентная ставка $70–84/час
• Полностью удалённая работа из любой локации
• Возможность работать с ведущими исследовательскими лабораториями ИИ
• Гибкий график
• Поддержка от команды разработчиков и организационная помощь

Навыки

• AI Safety
• Red Teaming
• Prompt Engineering
• Trust & Safety
• RLHF
• SFT
• Adversarial Testing
• AI Alignment
• Jailbreak Detection
• Model Evaluation
• Cybersecurity
• Communications
• Analytical Reasoning

Могут спросить на собеседовании

1. Опишите ваш опыт проведения тестирования на безопасность ИИ-систем
2. Как вы подойдёте к выявлению уязвимостей в новой модели language model?
3. Приведите пример обнаруженной вами проблемы в ИИ-системе и как вы её документировали
4. Что для вас важнее — точность ответов модели или отсутствие вредных содержаний?
5. Как бы вы построили процесс регулярного бенчмаркинга безопасности для фреймаворка моделей?