Даже масштабная катастрофа, вызванная искусственным интеллектом, может оказаться недостаточной, чтобы государства и технологические компании договорились об ограничении развития этой технологии. Такое мнение высказал британский историк и публицист Тимоти Гартон Эш в колонке для Guardian.
По его словам, специалисты в Кремниевой долине ожидают в ближайшие годы резкого ускорения развития ИИ. Одним из возможных этапов станет так называемое рекурсивное самоулучшение, при котором системы искусственного интеллекта смогут участвовать в создании и совершенствовании следующих поколений моделей.
Гартон Эш оценил вероятность той или иной серьезной катастрофы, связанной с ИИ, более чем в 90%. Среди потенциальных угроз он упомянул кибератаки и воздействие на критическую инфраструктуру, а также риск утраты контроля над автономными ИИ-системами.
При этом автор считает, что даже событие масштаба «Хиросимы для ИИ» может не привести к международному единству. Этому мешают конкуренция между технологическими корпорациями и соперничество США и Китая.В качестве параллели Гартон Эш напомнил, что после Хиросимы и Нагасаки международному сообществу потребовалось около четверти века, чтобы прийти к Договору о нераспространении ядерного оружия. В случае с ИИ добиться подобных договоренностей может быть еще сложнее.
Фото: Yuichiro Chino/Getty Images
