AI Safety Specialist - Fully Remote | Upto $84/hr

О позиции

Мы работаем над обеспечением безопасности передовых AI-моделей, помогая лабораториям создавать более надёжные и безопасные системы. В этой роли вы будете играть ключевую роль в тестировании и улучшении соответствия моделей ценностям человека. Команда состоит из исследователей с ведущими AI-лабораториями, а инвесторами являются Benchmark, General Catalyst, Питер Тиль, Адам Д'Анджело, Ларри Саммерс и Джек Дорси.

Условия

• Полностью удалённая работа с гибким графиком. Возможность работать с передовыми AI-технологиями и исследовательскими лабораториями. Конкурентная оплата за часовой проект. Доступ к экспертам из ведущих венчурных фондов и технологического сектора.

Навыки

• AI Security
• Red Teaming
• Adversarial Testing
• Prompt Engineering
• Model Evaluation
• Cybersecurity
• Trust & Safety
• RLHF
• AI Alignment
• Jailbreak Detection

Могут спросить на собеседовании

1. Какие методики вы используете для разработки адверсарных промптов и какие домены считаете наиболее рискованными для тестирования?
2. Как бы вы оценивали баланс между агрессией тестирования и потенциальным вредом при обнаружении уязвимостей?
3. Опишите кейс, где вы нашли критическую уязвимость в модели или системе, и как она была устранена.
4. Как вы учитываете контекстные аспекты разных культур и регионов при оценке контента политической направленности?
5. Что бы вы предложили улучшить в текущих методологиях red teaming для передовых языковых моделей?