Researcher, Recursive Self-Improvement Safety

О позиции

Команда Preparedness занимается критически важными рисками, которые могут возникнуть по мере роста возможностей ИИ-систем. Ваша работа будет включать мониторинг и прогнозирование эволюции передовых систем ИИ, разработку мер по сохранению соответствия целям безопасности, а также координацию усилий по поддержанию готовности компании к потенциальным угрозам. Это быстрая, масштабная работа с далеко идущими последствиями для компании и общества в целом.

Условия

• Работа с фокусом на предотвращении экстремальных рисков будущего развития ИИ
• Возможность влиять на направление технологического прогресса
• Коллегиальный научно-исследовательский коллектив с сильной технической экспертизой
• Широкие возможности для кооперации с другими командами и проектами

Навыки

• machine_learning
• artificial_intelligence
• ai_alignment
• ai_safety
• research_methods
• risk_assessment
• model_evaluation
• system_design
• stakeholder_communication
• strategic_planning

Могут спросить на собеседовании

1. Как вы приоритезируете задачи в условиях нечёткой обратной связи от исследований?
2. Приведите пример, когда ваша гипотеза о рисках была подтверждена или опровергнута экспериментально
3. Какие слепые зоны вы видите в существующих подходах к безопасности ИИ?
4. Как бы вы объяснили ценность работы по предотвращению будущих рисков текущим стейкхолдерам?
5. Опишите подход к проектированию системы оценки поведения моделей в условиях суперчеловеческих способностей