Пока исследователи бьют тревогу и предупреждают об опасности отношений с чат-ботами, на рынок выходит все больше приложений, предлагающих дружбу с ИИ. Миллионы людей проводят с искусственным интеллектом часы, разговаривая о глубоко личном.
По данным аналитической фирмы Sensor Tower, владельцы устройств с iOS и Android уже в сентябре проводили в среднем до 93 минут в приложении Character.ai. Для сравнения, это на 18 минут дольше, чем в TikTok, и почти в восемь раз дольше, чем в ChatGPT.
Причем крупные участники рынки пока не развивают подобные приложения или хотя бы создают для них ограничения. Например, ИИ блокирует агрессивные и откровенно сексуальные комментарии, предлагает пойти спать после 2 часов ночи, меняет интерфейс для тех, кто не достиг 18 лет, и тд. А вот мелкие фирмы вообще ни в чем не отказывают пользователю.
Сторонники приложений утверждают, что это безобидные развлечения, которые могут стать спасательным кругом для людей, справляющихся с тревогой и изоляцией. Однако противников такой технологии становится все больше — всему виной участившиеся трагические случаи после подобного общения с ИИ.
Так, 14-летний подросток из Флориды после общения с ботом Character.ai, названным честь персонажа «Игры престолов» Дейенерис Таргариен, покончил жизнь самоубийством. Его мать уже подала в суд на компанию Google, которая лицензировала технологию.
А в Великобритании 19-летний парень грозился убить королеву после разговора с чат-ботом в приложении ИИ Replika. Его приговорили к девяти годам тюремного заключения.
Кроме того, в июле власти Бельгии начали расследование в отношении Chai Research после самоубийства голландского отца двоих детей, который долго общался с ботом «Элизой».
Защитники прав потребителей называют приложения-компаньоны с ИИ «еще более хищной версией социальных сетей», вторгающейся в самые интимные аспекты жизни человека с минимальными защитными механизмами.
Адвокат Пьер Дьюитт, инициатор бельгийского расследования Chai Research, утверждает, что бизнес-модель таких приложений заставляет компании создавать вызывающие привыкание продукты, искусственно повышая эмоциональную вовлеченность пользователей.
По словам экспертов, ИИ-отрасли давно не хватает госрегулирования. Особенно это касается именно человекоподобных чат-ботов, общение с которыми может привести к негативным последствиям.
Причем крупные участники рынки пока не развивают подобные приложения или хотя бы создают для них ограничения. Например, ИИ блокирует агрессивные и откровенно сексуальные комментарии, предлагает пойти спать после 2 часов ночи, меняет интерфейс для тех, кто не достиг 18 лет, и тд. А вот мелкие фирмы вообще ни в чем не отказывают пользователю.
Сторонники приложений утверждают, что это безобидные развлечения, которые могут стать спасательным кругом для людей, справляющихся с тревогой и изоляцией. Однако противников такой технологии становится все больше — всему виной участившиеся трагические случаи после подобного общения с ИИ.
Так, 14-летний подросток из Флориды после общения с ботом Character.ai, названным честь персонажа «Игры престолов» Дейенерис Таргариен, покончил жизнь самоубийством. Его мать уже подала в суд на компанию Google, которая лицензировала технологию.
А в Великобритании 19-летний парень грозился убить королеву после разговора с чат-ботом в приложении ИИ Replika. Его приговорили к девяти годам тюремного заключения.
Кроме того, в июле власти Бельгии начали расследование в отношении Chai Research после самоубийства голландского отца двоих детей, который долго общался с ботом «Элизой».
Защитники прав потребителей называют приложения-компаньоны с ИИ «еще более хищной версией социальных сетей», вторгающейся в самые интимные аспекты жизни человека с минимальными защитными механизмами.
Адвокат Пьер Дьюитт, инициатор бельгийского расследования Chai Research, утверждает, что бизнес-модель таких приложений заставляет компании создавать вызывающие привыкание продукты, искусственно повышая эмоциональную вовлеченность пользователей.
По словам экспертов, ИИ-отрасли давно не хватает госрегулирования. Особенно это касается именно человекоподобных чат-ботов, общение с которыми может привести к негативным последствиям.
