Американская компания Anthropic заявила, что миру может потребоваться механизм временной остановки развития искусственного интеллекта, если передовые ИИ-системы начнут выходить из-под контроля.
В Anthropic считают, что возможности ее нейросети Claude продолжают расти и в будущем ИИ сможет самостоятельно создавать более совершенные версии себя. Такой сценарий повышает риск потери контроля над искусственным интеллектом. Для оценки возможных угроз компания намерена провести консультации с политиками, исследователями, представителями общественных организаций и другими участниками рынка.
Anthropic также сообщила, что активно использует Claude в собственной разработке. Более 80% кода, который добавили в ее программную базу в мае 2026 года, написал искусственный интеллект.
Два месяца назад Anthropic объявила о создании модели Mythos, но отказалась публиковать ее из-за опасений в сфере кибербезопасности. Теперь компания подала документы для проведения IPO, в рамках которого ее стоимость может достичь 1 трлн долларов.
