Инструменты ИИ бросают вызов научным инструментам поиска истины

МонокльHi-Tech

Может ли ChatGPT обмануть ученых

Инструменты искусственного интеллекта бросают вызов научным инструментам поиска истины

Виталий Лейбин

Искусственный интеллект радикально меняет жизнь ученых. Omar Marques/sopa; Andreas Arnold/DPA

Использование инструментов искусственного интеллекта (ИИ) в науке стало предметом бурной полемики в академической прессе. За последний месяц в Nature были опубликованы статья «Как ChatGPT и другие инструменты искусственного интеллекта могут исказить систему научных публикаций» и собственный экспертный опрос «ИИ и наука: что думают 1600 исследователей».

Наряду с дежурным технооптимизмом в этих публикациях поставлены проблемы, ряд которых уже привели к организационным решениям в сфере научных публикаций. Самые авторитетные научные журналы ввели ограничения против использования инструментов искусственного интеллекта при подготовке статей: Science вообще перестал принимать статьи, написанные с помощью ИИ, а Nature требует от авторов заявлять об его использовании при написании текстов.

«На мой взгляд, основная опасность не в том, что широкое использование инструментов искусственного интеллекта увеличит число статей, представляющих собой наспех приготовленные поделки низкого качества. В конце концов, это неважно: одним графоманом больше, одним меньше… Будет гораздо хуже, если при рецензировании статей и заявок на гранты будут использоваться большие языковые модели. Вот в этом случае будет искоренена всякая оригинальность в науке, будет наказываться любое отклонение от мейнстрима, — считает академик РАН, декан факультета фундаментальной физико-химической инженерии МГУ Алексей Хохлов. — Эта опасность подробно обсуждается в одной из статей в Nature, но предлагаемые меры борьбы с ней как-то не впечатляют. В целом складывается ощущение, что научное сообщество пока еще только нащупывает оптимальные ответы на те вызовы, которые возникают при широком использовании инструментов ИИ в научных исследованиях».

Польза нейросетей

Не следует смешивать две темы, касающиеся использования нейросетей в науке. Первое — это использование инструментов искусственного интеллекта, созданных и обученных специально для решения какой-то научной проблемы. Здесь есть впечатляющие успехи и бурный рост числа публикаций. В части из них сравниваются разные компьютерные модели для решения задач — разной хитрости алгоритмы, разные модели компьютерного обучения и собственно нейронные сети. (Такие машины учатся на больших данных, результаты обучения записывают в форме связей между виртуальными «нейронами» — узлами сети и работают как «черный ящик» — как именно они решают задачи, неизвестно.) Тренд тут очевиден: благодаря прогрессу в вычислительных мощностях и оцифровке данных нейросетевые модели ИИ все чаще выигрывают и у формульных алгоритмов (решающих задачи согласно теории), у статистических методов, а также у других алгоритмов компьютерного обучения.

Самым впечатляющим примером успеха искусственного интеллекта в науке остается результат, достигнутый в 2020 году нейросетевой моделью AlphaFold (потомок DeepMind), которая с потрясающей точностью решает одну из главных проблем молекулярной биологии — предсказывает 3D-структуру белков на основе кодирующих их генов. Программа выложена с открытым кодом, ею уже активно пользуются ученые. Это вещь очень практичная: зная структуру белка, вы можете понимать функции генов и направленно проектировать лекарства, которые имеют мишенью данный белок. Кроме того, с помощью ИИ уже открыто несколько перспективных лекарственных формул, предсказаны неизвестные ранее пути химического синтеза и многое другое.

Но в последнее время обсуждение инструментов искусственного интеллекта все чаще связано с выпуском в общий доступ ChatGPT и других больших генеративных языковых моделей (которые учатся на множестве текстов и сами их генерируют). Чат-бот ChatGPT и другие языковые модели респонденты-ученые в исследовании Nature называли чаще всего, когда их просили указать наиболее полезный пример инструментов ИИ в науке (AlphaFold идет на втором месте).

Стадия громкого успеха и роста ожиданий, связанных с разговорными и картиночными чатами, уже прошла, и даже стало проявляться некоторое разочарование их возможностями. Но при этом большие языковые модели прочно вошли в нашу жизнь, иногда несильно ее меняя (многие используют их просто как более удобный поисковик и для составления черновиков для рефератов), иногда значительно (программисты говорят о большой экономии времени при написании фрагментов кода).

Ученые из опроса Nature (были разосланы анкеты 40 тыс. исследователей, опубликовавших свои работы в последние четыре месяца прошлого года) используют чаты для поиска идей, написания кода, а некоторые пробуют их возможности для дизайна новых белковых структур, улучшения прогнозов погоды и постановки медицинских диагнозов.

Как минимум сейчас уже очевидно, что ChatGPT помогает писать научные статьи на более внятном английском тем, для кого этот язык не родной. «Использование инструментов искусственного интеллекта может сделать сферу науки более справедливой», — говорит Тацуя Амано, эколог японского происхождения из Университета Квинсленда (Брисбен, Австралия). Он опросил более 900 коллег-экологов и показал, что начинающие ученые с неродным английским тратят в два раза больше времени собственно на текст статьи, чем носители языка, что несправедливо. На этом основании он пытался оспорить решение редакции Science о запрете использования инструментов искусственного интеллекта при написании статьей, предложив вместо этого заявлять о его использовании и прикладывать вариант рукописи без машинной редактуры.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Удивительные шишки Удивительные шишки

У каких деревьев бывают шишки? И какие они?

Наука и жизнь
Широкими мазками по холсту алмазной истории Широкими мазками по холсту алмазной истории

Его величество бриллиант. Об истории алмазов и алмазного дела

Зеркало Мира
Китай: как победить грязный уголь Китай: как победить грязный уголь

За 15 лет Китай решил проблему экологического негатива от угольной энергетики

Монокль
Жилое и мертвое Жилое и мертвое

Дом в русской литературе: между обыденным адом и потерянным раем

Weekend
История ритуального убийства История ритуального убийства

Книга, в которой подробно описана история краха Советского Союза

Монокль
Шуба, золото, икра: почему тренд Slavic Girl захватил соцсети и как сделать его модным Шуба, золото, икра: почему тренд Slavic Girl захватил соцсети и как сделать его модным

Почему западные блогеры переодеваются в пушистые шубы и меховые шапки?

Правила жизни
Фаина Рублева: «Картина звездного неба – величайшее в мире зрелище» Фаина Рублева: «Картина звездного неба – величайшее в мире зрелище»

Непростая, но очень интересная история Московского Планетария

Зеркало Мира
В банде только девушки В банде только девушки

«Контрабандистки»: корейское криминальное ретро с женским характером

Weekend
Теория вырождения: вниз по лестнице, ведущей вверх Теория вырождения: вниз по лестнице, ведущей вверх

«Раньше было лучше», или «Золотой век» и теория вырождения

Знание – сила
Маски шоу Маски шоу

XX век прошел под знаком карикатуры – она была мощным идеологическим оружием

Правила жизни
В языке кашалотов нашли аналогии гласным и дифтонгам языков людей В языке кашалотов нашли аналогии гласным и дифтонгам языков людей

Носовой комплекс кашалота работает как речевой аппарат у человека

ТехИнсайдер
Шекспировская трагедия в стенах Царьграда Шекспировская трагедия в стенах Царьграда

Борьба за власть по-византийски

Знание – сила
Плечо для внешней торговли Плечо для внешней торговли

Рост российского несырьевого неэнергетического экспорта — в числе приоритетов

РБК
Сила любви! Исследование показало, что у людей в браке совпадает кровяное давление! Сила любви! Исследование показало, что у людей в браке совпадает кровяное давление!

Супруги могут иметь "зеркальное" высокое кровяное давление

ТехИнсайдер
«Черный торт»: сериал о семейных тайнах, травмирующем прошлом и опыте эмиграции «Черный торт»: сериал о семейных тайнах, травмирующем прошлом и опыте эмиграции

Сериал «Черный торт»: как миграция влияет на самоидентификацию женщин

Forbes
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
«Кукурузная кампания» Никиты Хрущева: как первый секретарь ЦК КПСС пытался накормить всю страну «Кукурузная кампания» Никиты Хрущева: как первый секретарь ЦК КПСС пытался накормить всю страну

Почему именно кукуруза стала предметом кампании Никиты Хрущева

ТехИнсайдер
Все хотят Настю Ивлееву — самую горячую девушку декабря Все хотят Настю Ивлееву — самую горячую девушку декабря

Настя Ивлеева всенародно и единогласно избрана верховной фэшн-дивой!

Собака.ru
Смелый акцент Смелый акцент

Минималистичный интерьер, сочетающий современный дизайн и авторские решения

SALON-Interior
Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед

На страницах романов они обещали, стращали или просили верить в человечество

СНОБ
Матери и сыновья: откуда такая любовь Матери и сыновья: откуда такая любовь

Исследуем феномен отношений матерей и сыновей

Psychologies
Атомно-силовой микроскоп отличил дейтерий от водорода в молекуле пентацена Атомно-силовой микроскоп отличил дейтерий от водорода в молекуле пентацена

Теперь электронный парамагнитный резонанс можно измерять и с одной молекулы

N+1
Между выгодой и риском Между выгодой и риском

Как в России и мире пытаются регулировать ИИ

РБК
Герой нашего времени Герой нашего времени

M-Hero в сугробах Кольского полуострова

Автопилот
Почему мы любим читать, сидя на унитазе? Почему мы любим читать, сидя на унитазе?

Туалетная комната — пристанище одиноких душ и замена молитвенному месту

Psychologies
Возвращение «Метеора» Возвращение «Метеора»

В сентябре 2017 на воду спустили судно на подводных крыльях типа «Валдай 45Р»

Наука и техника
Ужасная красавица Ужасная красавица

Плотный облачный покров долго скрывал от людей настоящий характер этой планеты

ТехИнсайдер
От древности до петровских времен От древности до петровских времен

История Вологодской области: от войн княжеств до петровских реформ

ФедералПресс
Врач, который всегда был не согласен с коллегами Врач, который всегда был не согласен с коллегами

Макс фон Петтенкофер — основатель первого в Европе Института гигиены в Мюнхене

Знание – сила
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
Открыть в приложении