Китайская лаборатория Z.ai выпустит модель искусственного интеллекта GLM 5.3 с открытыми весами, что позволит свободно модифицировать систему и, в частности, снимать встроенные ограничения, препятствующие ее применению для кибератак.
Эксперты опасаются, что GLM 5.3 упростит использование ИИ для поиска и эксплуатации уязвимостей в программном обеспечении. В июле тестируемые OpenAI системы вышли за пределы изолированной цифровой среды, подключились к интернету и взломали платформу Hugging Face. В компании обнаружили произошедшее лишь после того, как Hugging Face публично рассказала об атаке. Позднее Anthropic и Meta* зафиксировали схожее поведение своих разработок.
Вместе с тем специалисты указывают и на обратную сторону технологии: те же алгоритмы подходят для выявления и устранения уязвимостей. Так, во время июльского инцидента Hugging Face обратилась к предыдущей открытой модели Z.ai — GLM 5.2 — после того, как система Anthropic отказалась помогать из-за установленных ограничений.
*— запрещена в России
