AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Mercor соединяет талантливых специалистов по искусственному интеллекту с передовыми исследовательскими лабораториями. Компания работает с такими инвесторами, как Benchmark, General Catalyst, Питер Тиль и другие видные фигуры технологической индустрии. Мы ищем специалиста по безопасности ИИ для проведения красных тестов — имитации атак и поиска уязвимостей в современных моделях машинного обучения.

Чем заниматься

• Разрабатывать противоречивые промпты для стресс-тестирования продвинутых AI-моделей
• Выявлять методы обхода ограничений, небезопасное поведение, галлюцинации и нарушения политик безопасности
• Оценивать устойчивость моделей в таких областях как дезинформация, кибербезопасность, биоугрозы, мошенничество, политический контент
• Документировать уязвимости и участвовать в создании отчётов по ред-тимингу и бенчмаркингу безопасности
• Сотрудничать с исследователями ИИ для улучшения alignment, устойчивости и безопасности моделей

Что ждут

• Бакалавр или выше в области Computer Science, Cybersecurity, Journalisme, Communications, Psychology, Biology, Chemistry, Public Policy или смежной дисциплине
• 5+ лет профессионального опыта в AI Safety, AI Red Teaming, Trust & Safety, кибербезопасности, журналистике расследований или life sciences
• Сильные аналитические навыки, способность проектировать промпты и писать ясные тексты
• Опыт создания противоречивых промптов или оценки frontier AI-систем

Будет плюсом

• Опыт работы с AI Red Teaming, RLHF, SFT, AI Alignment или Trust & Safety
• Знание методов тестирования jailbreak, prompt engineering или adversarial evaluation
• Экспертиза в одной из grey-area областей: кибербезопасность, биоугроза, политический контент, дезинформация или научная безопасность

Условия

• Полностью удалённая работа из любой локации
• Конкурентоспособная оплата контракта за работу ($70–84/час)
• Работа с передовыми AI-технологиями и ведущими исследовательскими лабораториями
• Гибкий график и проектный формат работы
• Возможность повлиять на развитие безопасного ИИ

Навыки

• AI Safety
• Red Teaming
• Cybersecurity
• Prompt Engineering
• Adversarial Testing
• Trust & Safety
• RLHF
• SFT
• AI Alignment
• Model Evaluation

Могут спросить на собеседовании

1. Расскажите о случае, когда вы выявили уязвимость в AI-системе во время red teaming теста?
2. Какие методики вы используете для тестирования jailbreak попыток в больших языковых моделях?
3. Как бы вы оценили баланс между функциональностью модели и её безопасностью?
4. Приведите пример этической дилеммы, с которой вы сталкивались при оценке ИИ-системы.
5. Как вы следите за новыми исследованиями в области AI Safety и какие последние тенденции вас беспокоят?