Президент компании Signal Мередит Уиттакер предупредила о потенциальных угрозах для конфиденциальности и безопасности пользователей, связанных с развитием агентного искусственного интеллекта.
Выступая на конференции SXSW в Остине, она сравнила использование ИИ-агентов с «погружением мозга в банку». По ее словам, эта новая форма вычислений, где ИИ выполняет задачи от имени пользователя, создает «глубокие проблемы» с безопасностью.
Уиттакер отметила, что ИИ-агентов активно позиционируют как удобный инструмент для упрощения повседневных задач. Они могут, например, искать концерты, покупать билеты, добавлять события в календарь и отправлять сообщения друзьям. Однако для выполнения таких действий ИИ потребует доступа к персональным данным, включая браузер, кредитные карты, календарь и мессенджеры.
«Для выполнения таких задач агенту потребуется доступ почти на уровне системного разрешения, чтобы управлять всеми этими данными, и, скорее всего, в открытом виде, так как нет модели, способной обрабатывать такие запросы в зашифрованном формате», — пояснила Уиттакер.
Она также подчеркнула, что подобная обработка, скорее всего, будет происходить на облачных серверах, поскольку на устройствах пользователей такие объемы данных обрабатывать затруднительно.
«Это создает серьезные риски для приватности, — заявила Уиттакер. — ИИ-агенты могут стереть границы между приложениями и операционной системой, объединяя различные сервисы и смешивая их данные».
