ИИ не только книги придумывает, он еще связан с кучей некачественных медицинских исследований. Ученые проанализировали почти 350 статей, опубликованных в 147 журналах. Во всех использовали общедоступные данные NHANES — американского проекта, в ходе которого собрали разные показатели здоровья более чем 130 000 человек.
Выяснилось, что авторы этих работ анализировали данные с помощью ИИ — само по себе это нормально, но они использовали схожие шаблоны, не позволяющие получить достоверные выводы. То есть связывали одну переменную, например, качество сна или уровень витамина D, со сложным состоянием вроде ишемической болезни сердца или депрессии, игнорируя другие факторы, которые могли на него влиять. Как будто прорабатывали все возможные комбинации в поисках корреляций, которые могут стать основой научной статьи.
При этом в некоторых исследованиях безосновательно брали только часть данных. Например, за определенные промежутки времени или для людей определенного возраста. Это говорит, что авторы охотились за статистически значимыми результатами.
Исследователи выявили в этих работах 169 переменных, которые могли быть связаны со здоровьем. Иногда одни и те же переменные в разных статьях представляли или как причину чего-либо, или как следствие. Например, в одной работе предполагали, что высокий уровень воспалительного белка в крови увеличивает риск болезней десен, а в другой, что повышение уровня того же белка — следствие диеты, богатой углеводами.
Ученые считают, что статей с ложной информацией о здоровье станет еще больше. Во-первых, недобросовестные авторы продолжат пользоваться общедоступными данными, которые легко обработать с помощью ИИ. Исследователи взяли для анализа лишь 341 статью, но только в 2024 году опубликовано более 2200 похожих — все на данных NHANES. А еще 1200 таких уже вышло в 2025. Рост числа подобных работ начался где-то в 2022 году — когда большие языковые модели стали сложнее. Во-вторых, другие большие наборы данных, например «Глобальное бремя болезней», тоже могут быть уязвимы.
https://www.nature.com/articles/d41586-025-01592-0
https://www.science.org/content/article/low-quality-papers-are-surging-exploiting-public-data-sets-and-ai