Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Смотри, что у тебя внутри Смотри, что у тебя внутри

Как микробы, живущие в нашем теле, определяют наше здоровье и нашу личность

kiozk originals
Жесткое седло из Монголии назвали древнейшим в мире Жесткое седло из Монголии назвали древнейшим в мире

Жесткое седло из Монголии датируется примерно началом V века нашей эры

N+1
Сергей Шумский: «У роботов не будет инстинкта власти, как у человека» Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»

Минувший год имеет шансы войти в историю как время взрывного роста нейросетей

РБК
(Не) как у всех (Не) как у всех

Кухня — безупречный образец бесконечных повторений

Grazia
Все на подъеме Все на подъеме

Самые выгодные инвестиции 2023 года

Деньги
Искусство оживлять: история палеоарта. Часть 2 Искусство оживлять: история палеоарта. Часть 2

Период палеоарта динозавров ознаменовался чередой ярких художников и открытий

Наука и техника
Шимпанзе долины Исса кастрировали и убили детеныша-чужака Шимпанзе долины Исса кастрировали и убили детеныша-чужака

Почему шимпанзе саванн убивают друг друга?

N+1
О корт, ты — мир О корт, ты — мир

Андрей Рублев добавил теннису эмоций

Men Today
«Оставь мир позади»: как фильмы про апокалипсис перешли от метеоритов к психологии «Оставь мир позади»: как фильмы про апокалипсис перешли от метеоритов к психологии

Как менялся жанр фильмов о конце света на примере лучших релизов последних лет

Forbes
За пределами Фрейда: как на самом деле работает психоанализ За пределами Фрейда: как на самом деле работает психоанализ

Как психоанализ работает и с какой целью люди приходят в психоаналитику?

Psychologies
Повзрослел или разлюбил: почему муж вас больше не ревнует Повзрослел или разлюбил: почему муж вас больше не ревнует

Стоит ли беспокоиться, если ревности в отношениях нет вообще?

Psychologies
Чужд нам берег заморский Чужд нам берег заморский

В этом году россияне остались без иностранных ценных бумаг

Деньги
Борис Порфирьев, Александр Широв: «Решить климатические проблемы в лоб невозможно» Борис Порфирьев, Александр Широв: «Решить климатические проблемы в лоб невозможно»

Как и кем формируется глобальная климатическая повестка

Монокль
Как и зачем тренировать интимные мышцы Как и зачем тренировать интимные мышцы

Рассказываем, зачем нужен вумбилдинг и как правильно тренироваться

Добрые советы
Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента» Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента»

Евгений Колбин рассказал о том, как развиваются облака в России

РБК
Дороги без дураков Дороги без дураков

Разбираемся, как именно строится транспортная система будущего

РБК
Чему учат в школе: как в России изменилась сфера образования Чему учат в школе: как в России изменилась сфера образования

Как учебные учреждения развиваются по всей стране и к чему это все приведет

Правила жизни
Хождение по мухам Хождение по мухам

Как испортился квартирный вопрос и что с этим делать

Weekend
the makers the makers

Победители конкурса «Мейкеры» 2023 года

Seasons of life
«Автор неизвестен»: объективная ценность произведения искусства «Автор неизвестен»: объективная ценность произведения искусства

Можно ли воспринимать анонимные произведения искусства

Монокль
Римские скрепы Римские скрепы

Через 12 лет после гибели Клеопатры Октавиан Август занялся семейными ценностями

Дилетант
Камин в квартире — это реально? Камин в квартире — это реально?

Какие есть типы каминов, которые можно установить в обычных квартирах

CHIP
9 лучших кукольных советских мультфильмов 9 лучших кукольных советских мультфильмов

Кукольные мультфильмы из СССР, которые вы посмотрите с удовольствием

Maxim
Ревизия аптечки. 4 типа лекарств, которые плохо влияют на зубы Ревизия аптечки. 4 типа лекарств, которые плохо влияют на зубы

Насколько безобидны всем привычные препараты, которые мы часто используем?

Лиза
Рацион стройности Рацион стройности

7 проверенных диетических тенденций 2023 года и 1 диета

Добрые советы
У мышей может быть способность к самопознанию У мышей может быть способность к самопознанию

Мыши смогли пройти зеркальный тест

ТехИнсайдер
Авиаторг уместен Авиаторг уместен

Росавиация забрала все рейсы на зарубежных направлениях у «Уральских авиалиний»

Монокль
«Нам пришлось снять шляпу перед нашей субстанцией» «Нам пришлось снять шляпу перед нашей субстанцией»

Наверное, каждый задумывался, как из неживой материи однажды появилась живая

Наука
Великая реквизиция Великая реквизиция

Как автомобильные марки не ушли, а остались в Первую мировую

Автопилот
Еще раз о числе π и о неразрешимой проблеме «квадратуры круга» Еще раз о числе π и о неразрешимой проблеме «квадратуры круга»

Два феномена – число π и египетские пирамиды – связаны невидимыми нитями

Зеркало Мира
Открыть в приложении