Лауреат Нобелевской премии и один из создателей нейросетей Джеффри Хинтон заявил, что единственный способ спасти человечество от угрозы со стороны сверхразумного искусственного интеллекта — встроить в него «материнский инстинкт».
По словам Хинтона, попытки сделать ИИ «подчиненным» человеку обречены на провал, так как более умные системы найдут способы обойти ограничения. Вместо этого он предлагает сделать так, чтобы модели ИИ с самого начала «искренне заботились о людях» и сохраняли это свойство даже после достижения суперинтеллекта.
Ученый отметил, что разумные системы неизбежно будут стремиться «выжить» и «получить больше контроля», поэтому важно с самого начала сформировать в них ценность человеческой жизни. Он сравнил это с тем, как менее развитый младенец способен влиять на более разумную мать благодаря ее инстинктам.
Хинтон также предупредил, что суперинтеллект может появиться уже в течение ближайших 5–20 лет. При этом он надеется, что ИИ принесет медицинские прорывы, например, в лечении рака, но отвергает идею цифрового бессмертия.
