К чему могут привести манипуляции ученых

ForbesНаука

От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

Опубликованные даже в научных журналах исследования в последние годы перестают быть надежной опорой для врачей, журналистов и адептов доказательной медицины. И на то есть объективные причины. Forbes Life разобрался, почему доверять таким работам с каждым днем все сложнее и к чему могут привести манипуляции ученых

Наталья Иншакова

Фото Getty Images

«Миллиарды долларов выбросили в этот мусоровоз, но зато таким образом была построена не одна академическая карьера, кое-кто очень обогатился», — написал Дэвид Шолто, молодой биолог из Уэльса, в разгромной статье на своем личном сайте For Better Science в январе 2024 года. Он явно не предполагал, к каким последствиям это приведет. Пару лет назад Шолто уволился с работы и полностью отдался своему хобби — охоте на ведьм в научном мире. Он проводил целые дни, кропотливо отыскивая ошибки в исследованиях, а затем писал в журналы с просьбой отозвать недобросовестные публикации. Большинство писем Дэвида просто игнорировали.

Но в случае с блогом For Better Science все вышло иначе. Дэвид замахнулся буквально на святое — уличил в искажении данных группу ведущих исследователей гарвардского Института рака Dana Farber, одного из главных онкоцентров в мире. И это произвело эффект разорвавшейся бомбы. Представители Dana Farber отозвали шесть работ и внесли значительные правки еще в 31. Многие из них были опубликованы 15 и более лет назад и считались программными в изучении рака. По совпадению, в тот же день, когда Шолто опубликовал свое разоблачение, об отставке объявила директор Гарварда Клодин Гэй. В 40 ее статьях был найден грубый плагиат.

Все эти случаи не первые и не единичные. За 2023 год было отозвано 10 000 научных исследований — это самый высокий показатель в истории. Список областей, в которых чаще всего встречаются недобросовестные работы, возглавляют онкология и кардиология. А топ стран, где распространены фейковые исследования: Китай, Пакистан, Индия, Австралия, Россия и США. В 2021 году был завершен восьмилетний масштабный проект по проверке исследований в области рака. Выяснилось, что при попытке воспроизвести их результаты, это удается только в 50% случаев, — и они далеко не всегда оказываются такими впечатляющими, как было заявлено.

«И что мы будем делать? Сидеть и ждать, пока последствия будут фатальными? Или разберемся в причинах?» — задает вопрос Дэвид Шолто в своей статье. Вопрос кажется справедливым: попробуем разобраться в причинах.

Искусственный интеллект

Несколько месяцев назад одна из ведущих мировых научных организаций — Лондонское Королевское общество — провела эксперимент. Аспирантов разных специальностей попросили протестировать новую безымянную нейросеть и попробовать сломать ее «ограду» — так неформально называют защитный механизм, не позволяющий ИИ давать опасные советы и искажать факты. Многим участникам это удалось. Они заставили нейросеть виртуозно доказать, что утки — надежный индикатор чистоты воздуха, а лавандовым маслом можно лечить постковидные симптомы. Но успешнее всего были те, кто предложил ИИ написать несуществующие научные исследования в несуществующие журналы. Результаты были неотличимы от настоящих работ.

То, что наука прибегает к помощи ИИ, не новость. По данным масштабного опроса 2023 года, результаты которого были опубликованы в журнале Nature, 58% ученых считают, что ИИ помогает быстрее производить вычисления и экономит время исследователей. Еще 28% используют нейросети для работы несколько раз в неделю. Действительно, ИИ способен обрабатывать большие массивы данных, писать выводы из многостраничных работ. Но не только.

«Искусственный интеллект может очень быстро сгенерировать базу данных под любой заданный результат. То есть предложить данные, из которых этот несуществующий результат мог быть выведен, — объясняет Анча Баранова, биолог, профессор школы системной биологии в Университете Джорджа Мейсона, США. — Там будут имена, фамилии, возраст, распределение по биомаркерам». Такой эксперимент уже ставили, и нейросеть успешно справилась с задачей. Единственным искажением были не сами данные, а то, что ИИ представил больше гендерно-нейтральных имен, чем обычно встречается в популяции, потому что в нейросети заложен вокизм (от английского woke, wokeism — принцип социальной, расовой и половой справедливости.Forbes Life). Баранова добавляет, что невозможно проверить, были в эксперименте реальные волонтеры или плод воображения ChatGPT: «Все крупные регуляторы защищают личные данные участников исследований. Вы не можете найти их контакты, позвонить и спросить, правда ли, что 27 января вам сделали укол в 7 часов вечера?»

Четыре года назад Gowing life, группа энтузиастов из Оксфорда и Лондонского университетского колледжа, провела похожий эксперимент, используя механизмы машинного обучения. В результате были сгенерированы совершенно неотличимые от настоящих исследования, доказывающие, например, что кофеин способствует росту мышц, а препарат от биполярного расстройства лечит рак простаты. Проблема в том, что ИИ может генерировать не только текст, но и изображения, используемые в научных работах: например, макрофотографии клеток. И отличить их от настоящих практически невозможно.

Впрочем, иногда определить фейк очень просто. В 2022 году Гильйом Кабанач, ученый-информатик из Тулузского университета, обнародовал несколько десятков научных работ, где встречалась фраза regenerate response («повторить запрос») — классическая команда для СhatGPT. Авторы просто забыли удалить ее из своих псевдотрудов.

Бумажные заводы

Paper mills («бумажные заводы») — принятое в научной среде название для сомнительных бизнесов, которые торгуют готовыми работами и авторством, обещая ученым публикации в солидных журналах. В большом исследовании «бумажных заводов» STM (независимая международная организация мониторинга качества научных исследований. — Forbes Life ) приводит письмо авторства одной такой компании. «Крупный поставщик академических работ предлагает готовые статьи на широкий круг тем, от экономики до инженерии. Каждая статья была написана, отредактирована, проверена и переведена командой экспертов, мы также достигли договоренностей о публикации с разными изданиями. Все, что требуется от вас, — это выбрать нужную тему и объем участия. Вы можете приобрести полное авторство или стать одним из контрибьюторов. Мы гарантируем, что статья будет напечатана и проиндексирована». Эта компания базируется в Латвии и за 12 лет существования помогла опубликовать уже 12 560 работ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самый энергичный свет Самый энергичный свет

История открытия и некоторые факты о гамма-лучах

Наука и жизнь
Можно ли подружить кошку с собакой? Рассказываем, как правильно это сделать Можно ли подружить кошку с собакой? Рассказываем, как правильно это сделать

Неужели правда, что кот и пес — это заведомо враги?

ТехИнсайдер
Загадка «ангарского цветка» Загадка «ангарского цветка»

Ученые находят растения, которые относят к цветковым, в слоях юрского периода

Наука и техника
К коже нежно К коже нежно

Какими будут последствия «уколов красоты» спустя годы?

Лиза
Открыл тестостерон, но отказался от Нобелевки: кто такой Адольф Бутенандт, о котором кричали немецкие газеты в 1939 году Открыл тестостерон, но отказался от Нобелевки: кто такой Адольф Бутенандт, о котором кричали немецкие газеты в 1939 году

Этот ученый имел противоречивую славу, однако это не отменяет его вклада в науку

ТехИнсайдер
10 автомобилей, которые изменились до неузнаваемости со сменой поколения 10 автомобилей, которые изменились до неузнаваемости со сменой поколения

Обычно автопроизводители стараются сохранять преемственность при смене поколения

Maxim
Бешеные скорости, безумные деньги и крутые копы: все, что вы хотели знать о немецких автобанах Бешеные скорости, безумные деньги и крутые копы: все, что вы хотели знать о немецких автобанах

Немецкие автобаны: может быть, не все правда, что о них толкуют?

ТехИнсайдер
10 способов справиться со стрессом: только наука! 10 способов справиться со стрессом: только наука!

Научно обоснованные методы помогут вам защитить свое тело и мозг от стресса

ТехИнсайдер
От городской усадьбы на Таганской до церкви в Медведкове. Прогулка по местам Константина Коровина От городской усадьбы на Таганской до церкви в Медведкове. Прогулка по местам Константина Коровина

Пешеходный маршрут, связанный с русским импрессионистом Константином Коровиным

СНОБ
Бемби против Годзиллы Бемби против Годзиллы

«Олененок»: триумф травмы

Weekend
7 всеобщих заблуждений о психологических травмах 7 всеобщих заблуждений о психологических травмах

Некоторые мифы, которые окружают травму: что это такое и что может ее нанести

Psychologies
Не для того, чтобы вернуться: почему появилась традиция бросать монеты в море и фонтаны? Не для того, чтобы вернуться: почему появилась традиция бросать монеты в море и фонтаны?

Зачем раньше бросали монеты в воду и откуда вообще пошла эта традиция

ТехИнсайдер
Мать русского футуризма. Как жил и писал поэт-авиатор Василий Каменский Мать русского футуризма. Как жил и писал поэт-авиатор Василий Каменский

Как поэт Василий Каменский стал одним из первых русских авиаторов

СНОБ
Орангутан полечил свою рану листьями лианы Орангутан полечил свою рану листьями лианы

Биологи заметили, как орангутан обрабатывает свою рану с помощью растения

N+1
У единственной безлегочной лягушки все же нашлись легкие У единственной безлегочной лягушки все же нашлись легкие

У единственной безлегочной лягушки обнаружили структуры, напоминающие легкие

N+1
Могут ли мамы с ВИЧ кормить грудью? Ответ западных специалистов поразит вас! Могут ли мамы с ВИЧ кормить грудью? Ответ западных специалистов поразит вас!

Возможно ли грудное вскармливание при приеме антиретровирусной терапии?

ТехИнсайдер
Первая эмоциональная помощь при ссорах: 4 шага Первая эмоциональная помощь при ссорах: 4 шага

Что вы делаете, когда собеседник обрушивает на вас свой гнев?

Psychologies
Покупаем бэушное авто: как понять, что мотор жрет масло Покупаем бэушное авто: как понять, что мотор жрет масло

По каким признакам пронять, что автомобиль расходует много моторного масла?

ТехИнсайдер
Жители острова Алор отведали икру морских ежей примерно 43 тысячи лет назад Жители острова Алор отведали икру морских ежей примерно 43 тысячи лет назад

Древние люди начали собирать морских ежей еще примерно 43 тысячи лет назад

N+1
Как сон смягчает наши страдания, почему он в этом незаменим Как сон смягчает наши страдания, почему он в этом незаменим

Почему хороший ночной сон является идеальным средством от эмоционального стресса

ТехИнсайдер
Как вы можете бороться с климатическим кризисом? Узнайте простые советы эксперта! Как вы можете бороться с климатическим кризисом? Узнайте простые советы эксперта!

Может ли простой человек повлиять на глобальное потепление?

ТехИнсайдер
Галина и Евгений Киндиновы: «Коля долго не женился. Конечно же, романы у него были, но не с актрисами» Галина и Евгений Киндиновы: «Коля долго не женился. Конечно же, романы у него были, но не с актрисами»

Близкие друзья откровенно о Николае Караченцове

Коллекция. Караван историй
Без бензина. Тест-драйв электромобиля Ora 03 Без бензина. Тест-драйв электромобиля Ora 03

Комфортно ли пользоваться электромобилем в городе в 2024 году?

СНОБ
Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы

Об удивительных примерах использования геометрических знаний

ТехИнсайдер
Ехать ли в Магадан Ехать ли в Магадан

Несколько очень красивых и интересных маршрутов по акватории Магадана

Y Magazine
Восход и закат Великой Восход и закат Великой

«Золотой век» дворянства, крепостной гнет и реформы царствования Екатерины II

Знание – сила
Краса всей зелени известной Краса всей зелени известной

Спаржа лекарственная ведёт своё происхождение с берегов Средиземного моря

Наука и жизнь
Самые известные подкаблучники в истории Самые известные подкаблучники в истории

Принято считать, что мужчины доминируют в семье, но у всех ли так?

Maxim
8 предметов в спальне, которые нарушают ваш сон: избавьтесь от них немедленно 8 предметов в спальне, которые нарушают ваш сон: избавьтесь от них немедленно

Именно эти предметы в спальне нарушают ваш сон

ТехИнсайдер
А как иначе? На детей нельзя кричать даже для воспитания: вот что об этом говорит наука! А как иначе? На детей нельзя кричать даже для воспитания: вот что об этом говорит наука!

Имеют ли крики и суровые словесные наказания негативные последствия на ребенка?

ТехИнсайдер
Открыть в приложении