Искусственный интеллект, автоматически составляющий медицинские записи после разговора врача с пациентом, может придумывать диагнозы, ошибаться в названиях лекарств и пропускать важные симптомы, говорится в исследовании, опубликованном в BMJ Digital Health.
Авторы проанализировали 27 научных работ и выяснили, что большинство исследований таких систем посвящено экономии времени врачей, а возможные риски изучены значительно хуже. Среди проблем исследователи называют «галлюцинации» ИИ, пропуски информации и ошибки распознавания речи. В некоторых случаях системы также путали участников разговора и даже придумывали людей, якобы присутствовавших на приеме.
Ученые предупреждают, что зависимость от ИИ может повлиять на клиническое мышление врачей. Кроме того, такие системы не способны полноценно учитывать жесты, выражение лица, паузы и эмоциональные реакции пациента, которые могут иметь значение для диагностики.
