Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Генетики нашли сходство в ДНК у неродственных двойников Генетики нашли сходство в ДНК у неродственных двойников

Так ли похожи неродственные двойники?

N+1
Рацион стройности Рацион стройности

7 проверенных диетических тенденций 2023 года и 1 диета

Добрые советы
Сергей Шумский: «У роботов не будет инстинкта власти, как у человека» Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»

Минувший год имеет шансы войти в историю как время взрывного роста нейросетей

РБК
Корабли лавируют Корабли лавируют

Учимся выстраивать опоры, чтобы справляться с кризисами

VOICE
Аркадий Райкин Аркадий Райкин

Аркадий Райкин, артист эстрады, сатирик, скончался 17 декабря 1987 года

Правила жизни
Стартап с домашними питомцами и заявкой на мировое лидерство Стартап с домашними питомцами и заявкой на мировое лидерство

Сеть зоопарикмахерских «Грум» запустила производство косметики для животных

Монокль
the makers the makers

Победители конкурса «Мейкеры» 2023 года

Seasons of life
Раз и готово Раз и готово

Как за один сеанс стереть морщины, созвездия капилляров и постройнеть

Собака.ru
Потребители поддержали мясные цены Потребители поддержали мясные цены

Увеличившийся спрос стал стабилизирующим фактором на рынке свинины и птицы

Агроинвестор
Елки-палки Елки-палки

Как выбрать живую и искусственную елку

Лиза
Наталья Оксентюк: «В каждом из нас живет внутренний родитель, взрослый и ребёнок. И важно, чтобы они были в гармонии» Наталья Оксентюк: «В каждом из нас живет внутренний родитель, взрослый и ребёнок. И важно, чтобы они были в гармонии»

Кто такие внутренний родитель, взрослый и ребенок?

Здоровье
Аркадий Ипполитов (26.03.1958 - 5.11.2023) Аркадий Ипполитов (26.03.1958 - 5.11.2023)

Историк искусства Екатерина Андреева об искусствоведе Аркадии Ипполитове

Собака.ru
Софт-минимализм Софт-минимализм

Квартира, которая подкупает своим спокойствием и простотой

Идеи Вашего Дома
Много шума — и ничего Много шума — и ничего

Антирейтинг — топ-7 наиболее значимых технологических провалов нашего времени

РБК
Александр Попов. Русский волшебник беспроводной связи Александр Попов. Русский волшебник беспроводной связи

Как русский ученый-физик Александр Степанович Попов изобрел радио

Зеркало Мира
Диет-советы к празднику Диет-советы к празднику

Как легко похудеть к 31 декабря

Лиза
Беспощадный космос Беспощадный космос

Какие смертельные опасности таит в себе космос?

Зеркало Мира
Агенты Дмитрия Самозванца убивают сына Бориса Годунова Агенты Дмитрия Самозванца убивают сына Бориса Годунова

Момент, когда низвергнутый царь, сумевший дать отпор убийцам, лишается сил

Дилетант
Появление олдованской культуры удревнили до 3,2-3 миллионов лет назад Появление олдованской культуры удревнили до 3,2-3 миллионов лет назад

Археологи определили, когда появилась олдованская культура

N+1
Елена Цыплакова: «Моя Зося из «Школьного вальса» стала для некоторых зрительниц примером» Елена Цыплакова: «Моя Зося из «Школьного вальса» стала для некоторых зрительниц примером»

В театре про меня сказали: «Наглая! Все киношники наглые»

Караван историй
Рецепт донны Тани Рецепт донны Тани

Майя Кучерская о бразильской балерине Татьяне Лесковой

Seasons of life
Традиции русской мысли о развитии и пространстве Традиции русской мысли о развитии и пространстве

Почему для российской урбанистики важно понимать, что есть живое

Монокль
Полная гармония Полная гармония

Квартира с яркими цветовыми сочетаниями и оригинальными дизайнерскими приемами

Идеи Вашего Дома
«Диагноз» по селфи «Диагноз» по селфи

Иногда селфи может рассказать о человеке больше, чем тысяча слов

Здоровье
«Городок» «Городок»

Юмористическое шоу «Городок», выходило с 1993 по 2012 г.

Правила жизни
Юбилей Тегеранской конференции: как смогли договориться победители Юбилей Тегеранской конференции: как смогли договориться победители

Со времени проведения Тегеранской конференции прошло 80 лет

Наука
Римские скрепы Римские скрепы

Через 12 лет после гибели Клеопатры Октавиан Август занялся семейными ценностями

Дилетант
10 великих фильмов, которые освистали в Каннах 10 великих фильмов, которые освистали в Каннах

Критики холодно приняли работы Дэвида Линча, Квентина Тарантино, Софии Копполы

Правила жизни
Тейлор Свифт стала человеком года по версии Time: почему одни люди ее боготворят, а другие — на дух не переносят Тейлор Свифт стала человеком года по версии Time: почему одни люди ее боготворят, а другие — на дух не переносят

Тейлор Свифт: за что её любят и за что ненавидят?

Psychologies
Увеличения площади листьев не помогло лесам Индии стать продуктивнее Увеличения площади листьев не помогло лесам Индии стать продуктивнее

Потепление снижает эффективность фотосинтеза и увеличивает затраты на дыхание

N+1
Открыть в приложении