Технологии искусственного интеллекта становятся не только инструментом для ускорения разработки, но и новой угрозой для кибербезопасности. Об этом предупреждает Ами Луттвак, технический директор компании Wiz — израильско‑американского стартапа в сфере облачной кибербезопасности, в интервью TechCrunch.
По словам Луттвака, хакеры начали использовать ИИ-инструменты — так называемых агентов и промпты — для автоматизации атак. Они взаимодействуют с корпоративными ИИ-системами напрямую, заставляя их выполнять команды: выдавать пароли, удалять данные, получать доступ к конфиденциальной информации. Уязвимость нередко кроется в недостаточной защищенности внутренних инструментов, которые компании внедряют ради повышения эффективности.
В качестве примера он приводит атаку на стартап Drift, специализирующийся на ИИ-чат-ботах. В результате взлома злоумышленники получили доступ к данным крупных клиентов через цифровые токены, выданные чат-боту.
По оценке Wiz, только около 1% компаний пока полноценно внедрили ИИ, однако атаки, в которых он задействован, происходят уже еженедельно. Особенно опасны так называемые supply chain-атаки — через внешние сервисы, подключенные к корпоративной инфраструктуре.
Луттвак считает, что вопрос безопасности нужно закладывать в продукт с первого дня. Стартапам он рекомендует назначать ответственного за информационную безопасность (CISO), внедрять систему логирования, контроля доступа и корпоративных стандартов. Особенно важно выстраивать архитектуру, при которой данные клиентов не покидают их среды.
«Если новые атаки появляются повсюду, значит, нужно пересмотреть всю систему безопасности», — подытоживает Луттвак.
