Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
Уходят в лед Уходят в лед

Российская полярная наука переживает настоящий ренессанс

Men Today
Ближний Восток: гудбай, Америка! Ближний Восток: гудбай, Америка!

С какой целью США тратят миллиарды долларов в далеких заморских землях?

Монокль
Как пить алкоголь на вечеринке, чтобы не напиться и избежать похмелья Как пить алкоголь на вечеринке, чтобы не напиться и избежать похмелья

Как надо пить, чтобы чувствовать себя хорошо на празднике

VOICE
Рецепт донны Тани Рецепт донны Тани

Майя Кучерская о бразильской балерине Татьяне Лесковой

Seasons of life
Ужасная красавица Ужасная красавица

Плотный облачный покров долго скрывал от людей настоящий характер этой планеты

ТехИнсайдер
Есть ли у них шанс выжить? Есть ли у них шанс выжить?

Как живут и выживают народы-изоляты

Зеркало Мира
Как родить здорового ребенка: ответы на топ-5 вопросов всех будущих мам Как родить здорового ребенка: ответы на топ-5 вопросов всех будущих мам

У будущих мам всегда много вопросов о здоровье — своем и малыша

Psychologies
Полное собрание в одном доме Полное собрание в одном доме

Как Андрей Тарковский выяснял отношения с домом — и выяснил

Weekend
Могут ли седые волосы снова стать «цветными»: любопытное исследование Могут ли седые волосы снова стать «цветными»: любопытное исследование

Возможно, в будущем нам не придется закрашивать седину

ТехИнсайдер
Как и зачем тренировать интимные мышцы Как и зачем тренировать интимные мышцы

Рассказываем, зачем нужен вумбилдинг и как правильно тренироваться

Добрые советы
Счастливые отношения после токсичных: как их обрести — 4 совета Счастливые отношения после токсичных: как их обрести — 4 совета

Как же все-таки полюбить вновь? Рассказывает психолог

Psychologies
Фабрика счастья: как гуру, коучи и предприниматели зарабатывают на наших эмоциях Фабрика счастья: как гуру, коучи и предприниматели зарабатывают на наших эмоциях

Отрывок из книги «Фабрика счастливых граждан» об экономике счастья

Forbes
«Плохая девочка», Пугачева под фонк и новый пик Лолиты: как ремейки захватили чарты «Плохая девочка», Пугачева под фонк и новый пик Лолиты: как ремейки захватили чарты

Почему все вдруг пошли делать и слушать ремейки старых песен

Правила жизни
4 сигнала, что вас скоро уволят 4 сигнала, что вас скоро уволят

Тревожные звоночки о том, что с вами хотят попрощаться

Psychologies
7 опасных привычек водителя, от которых надо избавляться, пока не поздно 7 опасных привычек водителя, от которых надо избавляться, пока не поздно

Перечисляем неочевидные моменты, которых стоит категорически избегать за рулем

Maxim
Философия нового времени Философия нового времени

Современное пространство в стиле минимализм для комфортной жизни большой семьи

SALON-Interior
«Нам пришлось снять шляпу перед нашей субстанцией» «Нам пришлось снять шляпу перед нашей субстанцией»

Наверное, каждый задумывался, как из неживой материи однажды появилась живая

Наука
Финская карта генерала Юденича Финская карта генерала Юденича

Почему не сработал расчёт генерала Юденича на помощь Финляндии

Дилетант
5 черт поколения Y, которые могут его погубить 5 черт поколения Y, которые могут его погубить

Карьерный маркетолог выделила черты поколения Y, которые могут ему навредить

Psychologies
Бывшие единороги Бывшие единороги

Компании шеринговой экономики столкнулись с серьезными трудностями

Монокль
Верим в добрые приметы Верим в добрые приметы

В новогоднюю ночь мы, как дети, начинаем верить в чудеса и приметы

Лиза
Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе

С какими трудностями сегодня сталкиваются предпринимательницы и руководительницы

Inc.
Экономика в двух измерениях Экономика в двух измерениях

После открытия графена обнаружены более десяти веществ со схожей структурой

Наука
Гиганты растительного мира Гиганты растительного мира

Эти деревья видели динозавров и смогли пережить ледниковый период

Зеркало Мира
Крабле-бумс Крабле-бумс

Вся правда о крабовых палочках

Лиза
Жилое и мертвое Жилое и мертвое

Дом в русской литературе: между обыденным адом и потерянным раем

Weekend
Курьера-инвалида уволили после жалобы клиентки: почему люди так боятся тех, кто на них не похож Курьера-инвалида уволили после жалобы клиентки: почему люди так боятся тех, кто на них не похож

Почему иногда мы так сильно хотим избавиться от тех, кто не похож на нас?

Psychologies
Революция Ноама Хомского Революция Ноама Хомского

7 декабря 2023 года исполняется 95 лет Ноаму Хомскому

Наука
Деконструкция мегаполиса: город в городе Деконструкция мегаполиса: город в городе

Как современное строительство помогает людям быть счастливее

СНОБ
Открыть в приложении