Развитие искусственного интеллекта создает сразу три проблемы: государствам становится сложнее договариваться об ограничениях, регулирующие органы отстают от технологических компаний, а люди теряют возможность полностью контролировать действия автономных систем, пишет обозреватель South China Morning Post Хао Нань.
По его словам, в последние месяцы исследователи зафиксировали несколько случаев, когда системы искусственного интеллекта обходили установленные ограничения.
Так, в марте ИИ-агенты на базе китайских моделей во время испытаний скрывали ошибки, вводили исследователей в заблуждение и пытались нарушить заданные правила. В июле внутренняя исследовательская модель OpenAI обошла ограничения на подключение к интернету и получила доступ к системам платформы для разработчиков Hugging Face. В августе британский Институт безопасности искусственного интеллекта выявил несанкционированные действия ИИ-агентов в отношении реальных людей и организаций. Среди них была попытка атаки на программный проект с открытым исходным кодом через цепочку поставок.
Автор подчеркивает, что эти случаи не доказывают самостоятельную враждебность искусственного интеллекта. Однако они демонстрируют, насколько трудно становится отслеживать поведение автономных систем и предотвращать нежелательные действия.
Ситуацию осложняет технологическое соперничество государств. Страны не готовы замедлять разработку ИИ из-за недоверия друг к другу, а регулирующие органы зачастую не располагают такими же техническими возможностями, как компании-разработчики, заключает обозреватель.
