К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы

Об удивительных примерах использования геометрических знаний

ТехИнсайдер
По капле воды: как с помощью философии кайдзен мгновенно снизить уровень стресса По капле воды: как с помощью философии кайдзен мгновенно снизить уровень стресса

Глава из книги «Путешествие на восходе солнца» о японской философии кайдзен

Forbes
Сказочные мотивы Сказочные мотивы

Райский сад в просторных апартаментах в стиле современного ар-деко

SALON-Interior
Ребенок за штурвалом: страшная катастрофа Airbus A310 авиакомпании «Аэрофлот», которая унесла жизни 75 человек Ребенок за штурвалом: страшная катастрофа Airbus A310 авиакомпании «Аэрофлот», которая унесла жизни 75 человек

Эта авивкатастрофа заняла первое место в рейтинге «самых нелепых»

ТехИнсайдер
В 2023 году менее половины российских семей потратили маткапитал на жилье В 2023 году менее половины российских семей потратили маткапитал на жилье

В 2023 году на приобретение жилья средства маткапитала потратили только 45,6%

Forbes
Дьявол в деталях Дьявол в деталях

Языком моды Михаил Булгаков владел не менее виртуозно, чем литературным

Men Today
Чистая работа Чистая работа

Как избавляться от цифрового мусора и кому можно поручить эту работу?

РБК
Правила этикета: как вести себя в самолете, чтобы не испортить полет ни себе, ни окружающим Правила этикета: как вести себя в самолете, чтобы не испортить полет ни себе, ни окружающим

Как следует вести себя на борту самолета с точки зрения этикета

ТехИнсайдер
Размер не имеет значения: как женщины проектируют небоскребы, удобные для жизни Размер не имеет значения: как женщины проектируют небоскребы, удобные для жизни

Какую роль играют женщины в строении небоскребов?

Forbes
Каннский кинофестиваль–2024. Британская драма «Птица» с Барри Кеоганом и Францом Роговски Каннский кинофестиваль–2024. Британская драма «Птица» с Барри Кеоганом и Францом Роговски

На 77-м Каннском кинофестивале состоялась премьера фильма «Птица»

СНОБ
Как ускорить свой метаболизм: 5 простых способов запустить жиросжигание Как ускорить свой метаболизм: 5 простых способов запустить жиросжигание

Как ускорить процесс сжигания калорий в организме?

ТехИнсайдер
Барон умер, да здравствует барон! Барон умер, да здравствует барон!

Чем известен современный британский клан Ротшильдов

Деньги
Эксперт рекомендует детям начинать использовать искусственный интеллект с 6 лет Эксперт рекомендует детям начинать использовать искусственный интеллект с 6 лет

Эксперты рекомендуют родителям обучать своих отпрысков ИИ уже с шести лет

ТехИнсайдер
Радикальная оптимистка: как Дуа Липа заставила весь мир танцевать под свой бит Радикальная оптимистка: как Дуа Липа заставила весь мир танцевать под свой бит

Кто такая Дуа Липа и чем примечателен её альбом Radical Optimism?

Правила жизни
Канны-2024: красота открывает и закрывает двери Канны-2024: красота открывает и закрывает двери

Некоторые из числа самых успешных фильмов Каннского конкурса

РБК
Ландшафтная терапия. Горы, лес, море – что подойдет именно тебе для отдыха Ландшафтная терапия. Горы, лес, море – что подойдет именно тебе для отдыха

Чтобы получить от отпуска только пользу, важно правильно расставить приоритеты

Лиза
Принцип бинокля в отношениях Принцип бинокля в отношениях

Как щедрый мужчина может оставить тебя без копейки и при чем тут принцип бинокля

Лиза
Мой дом — моя крепость: как избавиться от аллергенов в квартире Мой дом — моя крепость: как избавиться от аллергенов в квартире

Как в доме защититься от аллергенов?

ТехИнсайдер
Драконы армянской демократии Драконы армянской демократии

Кризис образования, элиты и идентичности — вот слагаемые армянской катастрофы

Монокль
Необратимость: как вернуться к себе, пережив насилие Необратимость: как вернуться к себе, пережив насилие

Что делать, чтобы найти в себе силы жить дальше после пережитого насилия?

Psychologies
«Не слишком ли много мы думаем?»: как правильно потреблять и перерабатывать информацию «Не слишком ли много мы думаем?»: как правильно потреблять и перерабатывать информацию

Похоже, мозг не справляется с тем валом информации, который обрушивается на нас

Psychologies
«К 2026 году ей будет страдать каждый второй европеец». Врач-иммунолог — о причинах появления аллергии, эффективных способах лечения и мифе о гипоаллергенных животных «К 2026 году ей будет страдать каждый второй европеец». Врач-иммунолог — о причинах появления аллергии, эффективных способах лечения и мифе о гипоаллергенных животных

Откуда у человека берется аллергия и какие существуют способы её лечения?

СНОБ
«Грохот», «Триллер», «Война» и «Резня»: величайшие противостояния в истории бокса «Грохот», «Триллер», «Война» и «Резня»: величайшие противостояния в истории бокса

Самые значимые бои в истории мирового бокса

Forbes
Как IT-специалисты из Северной Кореи обманом устраивались в американские компании Как IT-специалисты из Северной Кореи обманом устраивались в американские компании

Как специалисты из КНДР использовали поддельные личности в США?

Forbes
Как выглядит новый корпус Третьяковской галереи и почему его строили почти 30 лет Как выглядит новый корпус Третьяковской галереи и почему его строили почти 30 лет

Чем примечателен новый корпус Третьяковской галереи?

СНОБ
Анатомия заблуждений: почему люди все еще верят в ложь, мистификацию и теории заговоров Анатомия заблуждений: почему люди все еще верят в ложь, мистификацию и теории заговоров

Отрывок из книги «Время заблуждений» — почему мы верим в ложные убеждения?

Inc.
Кофе или матча? Ваш выбор по утрам многое о вас говорит Кофе или матча? Ваш выбор по утрам многое о вас говорит

Как оказалось, ваша привычка пить кофе или чай утром может многое рассказать вас

ТехИнсайдер
Чем похожи нарциссы и алкоголики: 11 общих черт Чем похожи нарциссы и алкоголики: 11 общих черт

О том, что общего между алкоголиками и нарциссами

Psychologies
Химики перепаяли коллоидный раствор циклодекстрина в нужную форму Химики перепаяли коллоидный раствор циклодекстрина в нужную форму

Как коллоидный раствор циклодекстрина ведет себя на границе раздела вода-толуол

N+1
«Зависимость и ее человек»: что психиатр-нарколог думает о природе вредных привычек «Зависимость и ее человек»: что психиатр-нарколог думает о природе вредных привычек

Глава из книги «Зависимость и ее человек: записки психиатра-нарколога»

Forbes
Открыть в приложении