В Британии пользователи ChatGPT м других нейросетей начали обращаться к чат-ботам за медицинскими советами, поскольку система здравоохранения перегружена. Но в Оксфордском интернет-институте предостерегли: чрезмерное доверие к таким помощникам может быть рискованным. Пока не приходится говорить о какой-либо точности подобной самодиагностики.
Ученые привлекли в эксперимент около 1300 участников. Им предлагали с помощью чат-ботов — в том числе GPT-4o, Llama 3 и Command R+ — определить возможные заболевания и дальнейшие действия. Результаты показали: чат-боты не увеличивали точность диагностики, и даже способствовали недооценке серьезности выявленных симптомов.
По словам одного из авторов исследования Адама Махди, участники игнорировали важные детали при вводе запросов. Нейросеть отвечала неоднозначно и содержали как полезные, так и вредные советы. Ученый подчеркнул, что текущие методы оценки ИИ не учитывают сложность взаимодействия с реальными пользователями.
Пока Apple, Amazon и Microsoft пытаются внедрить ИИ в сферу здравоохранения, эксперты и медики сомневаются, что технологии уже готовы к использованию в ответственных клинических задачах. Американская медицинская ассоциация и компании-разработчики, включая OpenAI, не рекомендуют применять чат-ботов для постановки диагнозов.
