AI Safety Specialist - Remote | Upto $84/hr

О позиции

Мы объединяем выдающихся технических специалистов с ведущими лабораториями по исследованию искусственного интеллекта. В качестве специалиста по безопасности ИИ вы будете играть ключевую роль в обеспечении безопасности и надёжности передовых языковых моделей, проводя продвинутое тестирование на прочность систем.

Будет плюсом

• Опыт работы с красным тестированием ИИ, RLHF, SFT, согласованием ИИ или доверием и безопасностью
• Знакомство с тестированием взломов, инженерией промптов или методологиями адаптивной оценки
• Экспертиза в одной или нескольких серых зонах: кибербезопасность, биобезопасность, политический контент, дезинформация или научная безопасность

Условия

• Конкурентоспособное почасовое вознаграждение за работу контрактом
• Гибкая удалённая работа из Германии
• Возможность работать с передовыми ИИ-системами ведущих лабораторий
• Профессиональное сообщество экспертов в области безопасности ИИ

Навыки

• AI Safety
• Adversarial Prompt Engineering
• Model Robustness Evaluation
• Jailbreak Testing
• Prompt Engineering
• RLHF
• Supervised Fine-Tuning
• AI Alignment
• Trust & Safety
• Information Security
• Policy Analysis
• Technical Writing

Могут спросить на собеседовании

1. Опишите ваш опыт проведения тестирования на уязвимости и поиска jailbreak-сценариев в больших языковых моделях.
2. Как вы подходите к оценке рисков ИИ-систем в различных доменах, таких как кибербезопасность или дезинформация?
3. Приведите пример, когда вы обнаружили критическую уязвимость в ИИ-системе. Как вы её документировали и представляли разработчикам?
4. Какие методологии использования промптов вы применяете для выявления нежелательного поведения моделей?
5. Как вы следите за развитием угроз в области безопасности ИИ и какие источники информации используете?