Число сообщений о травмах и сбоях при использовании медицинских устройств с элементами искусственного интеллекта растет, сообщает агентство Reuters со ссылкой на данные Управления по контролю за продуктами и лекарствами США (FDA) и материалы судебных разбирательств.
Особое внимание привлекла система TruDi Navigation System, применяемая при операциях на носовых пазухах. После внедрения ИИ в 2021 году регулятор получил более 100 сообщений о сбоях, включая случаи утечки спинномозговой жидкости, прободения черепа и инсультов. До модификации таких инцидентов зафиксировано лишь восемь.
Пациенты утверждают, что система вводила хирургов в заблуждение относительно расположения инструментов во время операций. В двух случаях пострадавшие обратились в суд, утверждая, что ИИ стал причиной их инсульта. В ответ компания-производитель заявила, что не существует доказательств связи между ИИ и полученными травмами.
По данным Reuters, на сегодня FDA одобрило более 1 350 медицинских устройств с ИИ, однако многие из них не проходили клинических испытаний, их выводили на рынок по упрощенной схеме. Исследование университетов Джонса Хопкинса, Йеля и Джорджтауна показало, что почти половину отозванных устройств с ИИ сняли с рынка в течение первого года после выхода.
Эксперты и бывшие сотрудники FDA указывают на нехватку ресурсов и специалистов, способных оценивать безопасность таких систем. При этом, как подчеркивает агентство, в отчетах регуляторов часто отсутствует детализация, что затрудняет определение причинно-следственной связи.
