Врачи сомневаются в надежности ИИ в медицине

Известны случаи, когда чат-боты повторяли предвзятости врачей, а именно ошибочные предположения о большей выносливости боли у темнокожих пациентов. Кроме того, программное обеспечение, расшифровывающее общение врача и пациента, иногда «добавляет» фразы, которых никто не говорил. Джеффри А. Фаулер сам отправился на прием к врачу, использующего ИИ, чтобы оценить технологию.

Доктор Кристофер Шарп из Стэнфорда активировал приложение, которое записывало разговор в кабинете и использовало ИИ для создания заметок. «Этот инструмент помогает составлять черновики ответов пациентам и фиксировать информацию во время приема», — объяснил врач.

Однако ИИ допустил ошибку, утверждая, что кашель журналиста вызван контактом с ребенком. Шарп исправил формулировку, уточнив, что это лишь возможная причина.

Другой инструмент ИИ, предназначенный для подготовки черновиков ответов на сообщения пациентов, также оказался несовершенным. На вопрос пациента об аллергической реакции на помидоры ИИ предложил избегать их, использовать антигистаминные препараты и стероидный крем. Доктор отметил, что согласен с первой рекомендацией, но предостерег от использования стероидного крема на губах из-за тонкости тканей.

Проблемы с точностью ИИ поднимают вопросы о его применении. Например, профессор Стэнфордского университета Роксана Данешжу протестировала ChatGPT на запросы, связанные с маститом. ИИ порекомендовал горячие компрессы и массаж, хотя медицинские рекомендации 2022 года советуют холодные компрессы и избегание стимуляции.

Технологии ИИ могут облегчить жизнь врачей, но пока они требуют тщательной проверки, пишет Джеффри А. Фаулер. Врачи должны подходить к их использованию с осторожностью.