Компания OpenAI открыла вакансию исследователя по безопасности с зарплатой до 445 тысяч долларов в год для подготовки к появлению систем искусственного интеллекта, способных самостоятельно создавать и обучать более совершенные версии самих себя.
Речь идет о так называемом рекурсивном самосовершенствовании — сценарии, при котором искусственный интеллект улучшает собственные алгоритмы без участия человека. Специалист войдет в команду Preparedness («Готовность»), она занимается оценкой и предотвращением наиболее серьезных рисков, связанных с развитием ИИ.
Согласно описанию вакансии, сотруднику предстоит изучать угрозы, существующие лишь теоретически, разрабатывать методы защиты моделей от манипуляций с обучающими данными, анализировать принципы работы ИИ-систем и отслеживать уровень автоматизации технических задач.
Интерес к подобным сценариям усилился после резкого прогресса инструментов для программирования, созданных OpenAI и Anthropic. Глава DeepMind Демис Хассабис заявил, что человечество уже находится у «подножия сингулярности» — гипотетического момента, когда искусственный интеллект начнет совершенствовать себя самостоятельно и превзойдет человека по интеллектуальным возможностям.
OpenAI сама работает над такими технологиями. Ранее глава компании Сэм Альтман сообщал, что к сентябрю 2026 года компания рассчитывает создать «автоматизированного ИИ-стажера-исследователя», а к марту 2028 года — полноценную систему, самостоятельно проводящую исследования в области искусственного интеллекта.
По данным организации METR, возможности передовых ИИ-моделей растут настолько быстро, что сложность выполняемых ими задач удваивается примерно каждые семь месяцев. По оценке экспертов, в ближайшие годы такие системы смогут взять на себя значительную часть работы программистов и исследователей.
