Обзоры от ИИ (AI Overviews) — сгенерированные сводки, которые Google показывает над обычными результатами поиска, — содержали недостоверные медицинские сведения, часть из них специалисты назвали опасными для жизни. К такому выводу пришло издание The Guardian, опубликовавшее разбор десятков ответов по медицинским запросам. Среди ошибок — совет больным раком поджелудочной железы избегать жирной пищи, трактовка печёночных проб без учёта пола и возраста, а также ложные сведения о скрининге женских онкологических заболеваний. В Google возразили, что многие приведённые примеры представляют собой неполные снимки экрана.
Как The Guardian проверял медицинские сводки
Проверку провели после того, как медицинские благотворительные организации и профильные специалисты начали жаловаться на качество ответов. Журналисты собрали сгенерированные сводки по ряду запросов о здоровье и передали их на оценку врачам, пациентским организациям и профильным фондам. В нескольких случаях эксперты нашли рекомендации, прямо противоречащие принятой клинической практике.
Обзоры от ИИ — функция поиска Google, которая с помощью большой языковой модели формирует сводный ответ на основе нескольких сайтов и показывает его над обычными результатами. В русскоязычном интерфейсе Google использует название «Обзоры от ИИ».
Отдельно специалисты отметили непостоянство ответов: по одному и тому же запросу в разное время появлялись разные сводки, поэтому проверить увиденное повторным поиском удавалось не всегда.
Совет избегать жирной пищи при раке поджелудочной железы
Один из самых опасных примеров касался питания при раке поджелудочной железы. Сводка содержала совет избегать жирной пищи и перечень конкретных продуктов. По словам директора по поддержке, исследованиям и работе с общественностью фонда Pancreatic Cancer UK Анны Джуэлл (Anna Jewell), это прямо противоположно тому, что обычно требуется больным.
Джуэлл пояснила, что из-за влияния болезни на пищеварение пациенты нередко теряют вес и страдают от нехватки питательных веществ. Если следовать совету из сводки, человек рискует недобрать калорий, не сможет набрать вес и окажется слишком ослаблен для химиотерапии или операции.
Печёночные пробы и мазок из шейки матки
Ошибки нашли и в ответах о печёночных пробах — анализах крови, по которым оценивают состояние печени. В сводке приводились «нормальные» диапазоны значений без поправки на пол, возраст, национальность и этническую принадлежность, хотя все эти факторы влияют на трактовку результата. По оценке главы British Liver Trust Памелы Хили (Pamela Healy), это опасно: человек с серьёзным заболеванием печени может решить, что его показатели в норме, и не обратиться за дальнейшей помощью.
В другом случае по запросу о симптомах рака влагалища подходящим методом диагностики в сводке ошибочно назывался мазок из шейки матки (Пап-тест). Глава фонда Eve Appeal Афина Ламнисос (Athena Lamnisos) отметила, что это полностью неверно, а формулировки к тому же менялись от запроса к запросу.
Мазок из шейки матки (Пап-тест) — скрининговое исследование, которое выявляет предраковые изменения и признаки, связанные с раком шейки матки. Методом диагностики рака влагалища он не является.
Опасные рекомендации при психозе и расстройствах пищевого поведения
Претензии вызвали и ответы о психическом здоровье. Глава информационной службы благотворительной организации Mind Стивен Бакли (Stephen Buckley) сообщил, что сводки по темам психоза и расстройств пищевого поведения содержали, по его словам, очень опасные советы — неверные, вредные или способные оттолкнуть человека от обращения за помощью. Бакли добавил, что в ответах часто терялся контекст, критически важный при разговоре о серьёзных психических состояниях.
Ответ Google и удаление части сводок
В Google заявили, что многие показанные примеры представляли собой неполные снимки экрана, и подчеркнули, что вкладывают значительные средства в качество Обзоров от ИИ, особенно по темам здоровья. По утверждению компании, точность сводок сопоставима с другими функциями поиска.
После публикации Google удалила Обзоры от ИИ для части отмеченных экспертами запросов — в частности, для поиска по нормальным диапазонам печёночных проб. При этом полной блокировки не произошло: при иной формулировке того же вопроса сводка по-прежнему может появиться, на что указали в British Liver Trust.
Заключение
Случай показывает, насколько рискованно полагаться на сгенерированные сводки в вопросах здоровья: неверный совет оказывается прямо над проверенными источниками и выглядит так же уверенно, как корректный. Пока Google правит ответы точечно, читателю стоит сверять медицинскую информацию из поиска с профильными специалистами и официальными источниками. Особенно это касается запросов о диагнозах, анализах и лечении, где цена ошибки высока.