Искусственный интеллект, задействованный в сервисе AI Overviews от Google, публикует неточную медицинскую информацию и тем самым создает риски для здоровья. К такому выводу пришли журналисты британской газеты The Guardian по итогам собственного расследования.
AI Overviews формирует краткие ответы на пользовательские запросы и показывает их в верхней части поисковой выдачи. Журналисты обнаружили, что в ряде случаев эти рекомендации противоречат клиническим данным. Так, пациентам с раком поджелудочной железы предлагали избегать жирной пищи — несмотря на то, что для них это жизненно важно. В другой сводке указали ошибочные нормы печеночных анализов, что способно привести к пропуску серьезных диагнозов.
Проблемы затрагивают и темы женского здоровья, психических расстройств и диагностики. По мнению медицинских экспертов, подобные ошибки особенно опасны, когда человек ищет срочную помощь в интернете.
В Google настаивают, что большинство материалов ИИ-сводок остаются точными и полезными, и компания продолжает работу над их улучшением. Однако специалисты требуют более жесткого контроля за использованием ИИ в сфере здравоохранения.
