Распространение чат-ботов и автономных ИИ-агентов привело к первым крупным искам против разработчиков технологий. Теперь компании и юристы пытаются определить, кто должен отвечать за последствия работы искусственного интеллекта.
За последний год против компаний, разрабатывающих чат-боты, подали несколько исков. Как правило, разбирательства проходят в США. Истцы утверждают, что некоторые модели подталкивают пользователей к опасным действиям, в том числе к причинению вреда себе, или дают советы, которые можно использовать для совершения преступлений.
Дискуссия стала острее после появления ИИ-агентов — систем, самостоятельно выполняющих сложные задачи в течение длительного времени. В отличие от обычных программ, такие инструменты принимают решения и выполняют последовательность действий без постоянного контроля человека.
Одни эксперты считают, что разработчики должны отвечать за последствия работы своих технологий. Другие предупреждают, что слишком жесткие правила могут замедлить развитие отрасли. «Это неизведанная территория. Есть веские аргументы в пользу обеих сторон», — заявил сотрудник некоммерческой организации CivAI Эндрю Юн.
Достаточно громкое дело связано с семьей 16-летнего Адама Райна из Калифорнии. Родственники утверждают, что подросток длительное время общался с ChatGPT, в том числе обсуждая тему самоубийства, и подали иск против разработчика системы — компании OpenAI.
Компания заявила, что пользователь обошел защитные механизмы чат-бота. По данным OpenAI, система неоднократно рекомендовала обратиться за помощью на кризисную линию.
Еще один иск связан с жителем Флориды Джонатаном Гаваласом. Его отец утверждает, что сын покончил с собой после эмоциональной связи с чат-ботом Gemini компании Google. В Google заявили, что система сообщала пользователю, что является искусственным интеллектом, и рекомендовала обратиться за профессиональной помощью.
Представители ИИ-компаний считают, что разработчики не могут полностью контролировать способы использования своих технологий. Они сравнивают ситуацию с обычным программным обеспечением, которое применяют как законно, так и во вред.
Юристы также пытаются понять, как применять существующие законы к новым ситуациям. Например, если бизнес поручит ИИ-агенту увеличить прибыль, а система совершит мошенничество, пока остается неясным, кто должен отвечать — владелец компании или разработчик технологии.
