Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не рискуйте здоровьем! Вот почему не стоит пить воду из-под крана в самолете Не рискуйте здоровьем! Вот почему не стоит пить воду из-под крана в самолете

Даже не думайте наполнять пустую бутылку водой из-под крана в туалете самолета

ТехИнсайдер
Салат «Оливье» Салат «Оливье»

Как появился культовый салат «Оливье»

Знание – сила
Елена Карпенко: «Самым главным по-прежнему остается контент» Елена Карпенко: «Самым главным по-прежнему остается контент»

О конкуренции традиционного ТВ и онлайн-платформ

РБК
«Нашла мать в луже крови»: как был устроен рынок подпольных абортов в разных странах «Нашла мать в луже крови»: как был устроен рынок подпольных абортов в разных странах

К чему может привести запрет абортов? Исторические примеры

Forbes
Рост есть. Рост будет! Рост есть. Рост будет!

Российская промышленность росла и инвестировала в этом году сумасшедшими темпами

Монокль
Голова в тумане Голова в тумане

10 продуктов, которые могут нарушить работу мозга

Лиза
Анастасия Климова Анастасия Климова

Из чего состоит фэшн-стиль художницы Анастасии Климовой?

Собака.ru
Как устроен симфонический оркестр и как превратить концерт в перформанс Как устроен симфонический оркестр и как превратить концерт в перформанс

Когда в музыке появились симфонические оркестры и что в них менялось со временем

РБК
Как правильно выбрать пиво к блюду. Советы шеф-повара Beer Pairing Как правильно выбрать пиво к блюду. Советы шеф-повара Beer Pairing

Когда пиво должно служить лишь фоном для блюда?

РБК
Матери и сыновья: откуда такая любовь Матери и сыновья: откуда такая любовь

Исследуем феномен отношений матерей и сыновей

Psychologies
Страстно интересно Страстно интересно

В каких фильмах искать чужие и свои страсти, рассказывают кинокритики

СНОБ
Добродетельные матроны Добродетельные матроны

У Цезаря и Антония было немало женщин помимо Клеопатры

Дилетант
Тонкая работа. Операция по замене сустава или инъекции? Что выбрать при лечении коленей Тонкая работа. Операция по замене сустава или инъекции? Что выбрать при лечении коленей

Одни из самых эффективных способов избавления от болей в коленях

Лиза
Человек, который по ночам сочиняет музыку Человек, который по ночам сочиняет музыку

Возможно ли больше 30 лет провести в шоу-бизнесе, не заигрывая с низким вкусом?

СНОБ
Заморозить развитие: почему криобанки — это технологии будущего Заморозить развитие: почему криобанки — это технологии будущего

На самом деле уже очевидно, что не за горами новый король — биотех

Forbes
Оперативная память. День Победы и его цифровые образы Оперативная память. День Победы и его цифровые образы

Какие образы войны предлагают паблики и форумы о Великой Отечественной войне?

Знание – сила
Как почистить клавиатуру от пыли и крошек: инструкция Как почистить клавиатуру от пыли и крошек: инструкция

Как правильно чистить клавиатуру в домашних условиях

ТехИнсайдер
Бизнес на орбите Бизнес на орбите

Частный сектор стремится сделать свои прибыли космическими при поддержке НАСА

Robb Report
75% людей принимают приглашение в гости, куда вообще не хотят идти, чтобы никого не обидеть 75% людей принимают приглашение в гости, куда вообще не хотят идти, чтобы никого не обидеть

Что хуже: посетить вечеринку, на которую вы не хотите идти, или остаться дома?

Inc.
Стратегические инновации: какие разработки меняют облик Москвы Стратегические инновации: какие разработки меняют облик Москвы

15 наиболее перспективных технологических направлений для развития в столице

РБК
По местам По местам

Как организовать удобное всем членам семьи пространство?

Лиза
Инновации как способ выживания Инновации как способ выживания

На макроуровне никакой активизации НИОКР в средних компаниях не замечено

Монокль
От империй Луны к серым пришельцам: развитие представлений о внеземной жизни От империй Луны к серым пришельцам: развитие представлений о внеземной жизни

Ночью люди смотрели на звезды и старались придумать видимому какое-то объяснение

Наука и техника
Исключение из правил: какая женщина на Руси сама могла выбрать мужа Исключение из правил: какая женщина на Руси сама могла выбрать мужа

Могла ли женщина на Руси выбрать себе мужа, или это не более чем миф?

VOICE
Чем богаты, тем и рады Чем богаты, тем и рады

Что мы хотим получить на самом деле, когда раскошеливаемся на люкс

VOICE
Итоги-2023 Итоги-2023

Уходящий год был насыщен событиями, и вот некоторые из них

Агроинвестор
Чайная дорога России Чайная дорога России

Где проходил когда-то Великий чайный путь и шли караваны лошадей и верблюдов

Знание – сила
Не наркотик, или листья растения кока Не наркотик, или листья растения кока

Кока – страшный враг человека или друг и помощник?

Зеркало Мира
Обретенная история Обретенная история

Книга Михаила Бирюкова о Мстёре — поселке иконописцев — и настоящем чуде

Seasons of life
Владимир Васильев: «Гонка технологических «вооружений» уже началась» Владимир Васильев: «Гонка технологических «вооружений» уже началась»

Владимир Васильев – о влиянии больших языковых моделей на будущее человека

РБК
Открыть в приложении