К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Коллекционер ДНК Коллекционер ДНК

В конце прошлого года ученые описали ранее неизвестную органеллу эксклюсому

N+1
Что такое цукэмэн и как его есть Что такое цукэмэн и как его есть

Как готовят японское блюдо цукэмэн, чем оно похоже на рамен и как его едят

СНОБ
Из светских салонов — в политику: как женщины решали социальные проблемы в XIX веке Из светских салонов — в политику: как женщины решали социальные проблемы в XIX веке

Как идеи, родившиеся в светском салоне, превратились в социальный эксперимент

Forbes
Запах старости: почему пожилые люди странно пахнут Запах старости: почему пожилые люди странно пахнут

«Запах старости»: что его вызывает? Это связано с гигиеной или болезнями?

ТехИнсайдер
Ребенок за штурвалом: страшная катастрофа Airbus A310 авиакомпании «Аэрофлот», которая унесла жизни 75 человек Ребенок за штурвалом: страшная катастрофа Airbus A310 авиакомпании «Аэрофлот», которая унесла жизни 75 человек

Эта авивкатастрофа заняла первое место в рейтинге «самых нелепых»

ТехИнсайдер
Почему астрология — лженаука: ученый опроверг утверждения о знаках зодиака и их влиянии на судьбу человека Почему астрология — лженаука: ученый опроверг утверждения о знаках зодиака и их влиянии на судьбу человека

Положение небесных тел в момент рождения человека не влияет на его судьбу

ТехИнсайдер
Генетики пересчитали время смешения предков современных людей и неандертальцев Генетики пересчитали время смешения предков современных людей и неандертальцев

Когда произошло смешение предков современных людей с неандертальцами?

N+1
Дизайнер Никита Калмыков: Мне давно кажется, что любая одежда — вне гендера Дизайнер Никита Калмыков: Мне давно кажется, что любая одежда — вне гендера

Дизайнер Никита Калмыков — о Каннах, мемных образах и гендерной флюидности

СНОБ
Альбина Мухаметзянова: «Моя жизнь трансформировалась благодаря «ЯРКО»!» Альбина Мухаметзянова: «Моя жизнь трансформировалась благодаря «ЯРКО»!»

«У нас не было времени долго раскачиваться — мы заходили в сформированный рынок»

Караван историй
Знать себе цену Знать себе цену

Как выбирать наилучшую стратегию прохождения карьерного пути?

Psychologies
Лучше, чем сериалы: 5 книг, которые авторы пишут по частям Лучше, чем сериалы: 5 книг, которые авторы пишут по частям

Книги, которые представляют собой часть большой серии

ТехИнсайдер
Женская манипуляция. Всегда ли это нужно и как не увлечься психологическими играми Женская манипуляция. Всегда ли это нужно и как не увлечься психологическими играми

Где та тонкая грань между неэкологичными манипуляциями и женской мудростью?

Лиза
«Я уеду в Туву»: как регион стал перспективным вариантом для жизни «Я уеду в Туву»: как регион стал перспективным вариантом для жизни

Как Тува становится все более привлекательной и для жизни, и для туризма

Правила жизни
Управлять наслаждением Управлять наслаждением

Вы готовы к необычным ощущениям, потрясениям и открытиям?

Psychologies
8 вопросов бизнес-психолога, которые помогут найти свой путь 8 вопросов бизнес-психолога, которые помогут найти свой путь

Как понять, чем вы хотите заниматься и какая должность удовлетворит ваши амбиции

Psychologies
Как справиться с завистью к подруге: советует психолог Как справиться с завистью к подруге: советует психолог

Почему возникает зависть к подруге, как с ней эффективно справиться?

VOICE
Что скрывает черная повязка на правом глазу Кутузова? Все это время нас вводили в заблуждение Что скрывает черная повязка на правом глазу Кутузова? Все это время нас вводили в заблуждение

Мы разобрались, откуда растут ноги у исторической ошибки глаза Кутузова

ТехИнсайдер
Проверка жениха и невесты на прочность: 7 необычных свадебных ритуалов в разных странах Проверка жениха и невесты на прочность: 7 необычных свадебных ритуалов в разных странах

Сколько в мире культур — столько и вариантов справить свадьбу

ТехИнсайдер
Как проверить стартер на работоспособность в домашних условиях Как проверить стартер на работоспособность в домашних условиях

Все о проверке стартера: признаки неисправности и способы ремонта

РБК
Почему мы любим делать несколько дел сразу: пример «обеда за просмотром кино» Почему мы любим делать несколько дел сразу: пример «обеда за просмотром кино»

Есть, отвлекаясь на сериал, — один из самых простых способов переесть

ТехИнсайдер
Маржа на горошинах Маржа на горошинах

Аграрии переводят посевы нерентабельных зерновых на альтернативные культуры

Агроинвестор
Роль керамического искусства в интерьере. Художник Никита Макаров — о том, как сформировать коллекцию Роль керамического искусства в интерьере. Художник Никита Макаров — о том, как сформировать коллекцию

Художник Никита Макаров — как прикладное искусство преображает повседневность

СНОБ
«Симпатия»: как построить приют для собак на фоне политического кризиса «Симпатия»: как построить приют для собак на фоне политического кризиса

Отрывок из книги Родриго Бланко Кальдерона «Симпатия»

Forbes
«Умоляющие» глаза собак появились не для нас. Они есть у диких пород «Умоляющие» глаза собак появились не для нас. Они есть у диких пород

Собаки пользуются мимикой не только с человеком, но и для общения друг с другом

ТехИнсайдер
Что такое «воздушный протеин»: еда будущего Что такое «воздушный протеин»: еда будущего

Что такое Solein? И почему его называют «воздушным протеином»?

ТехИнсайдер
Драконы армянской демократии Драконы армянской демократии

Кризис образования, элиты и идентичности — вот слагаемые армянской катастрофы

Монокль
Юлианна Караулова: «Мне хочется нравиться людям» Юлианна Караулова: «Мне хочется нравиться людям»

Юлианна Караулова: как же обратить негатив себе на пользу и в чем черпать силы

Лиза
Что о вашем здоровье говорит пупок Что о вашем здоровье говорит пупок

Пупок может быть источником инфекций, кист и даже грыж

ТехИнсайдер
Найди свою позу. Как научиться спать на спине и чем это так полезно Найди свою позу. Как научиться спать на спине и чем это так полезно

Умение спать на спине зачастую улучшает качество сна. Как научиться спать так?

Лиза
Благодаря чему Советскому Союзу удалось одержать победу в Великой Отечественной войне? Благодаря чему Советскому Союзу удалось одержать победу в Великой Отечественной войне?

Почему в слове «ПОБЕДА» и «БЕДА» один корень? Совпадение? Не думаю!

ТехИнсайдер
Открыть в приложении