ИИ в науке: бум "научного шлака" или новый этап развития?

За последние три года генеративный искусственный интеллект (ИИ) оказал огромное влияние на общество, особенно на человеческое письмо. Большие языковые модели, лежащие в основе таких инструментов, как ChatGPT, обучены на разнообразных текстовых данных и способны создавать сложные и качественные тексты.

Однако широкое применение ИИ привело к «гиперпроизводству» так называемого «научного шлака» — низкокачественных результатов, сгенерированных ИИ с минимальными усилиями или вовсе без них. Насколько это влияет на науку?

Новое исследование: «Шлак» побеждает

Согласно исследованию, проведенному учеными из Калифорнийского университета в Беркли и Корнеллского университета, опубликованному в журнале Science, «научный шлак» начинает доминировать. Анализ более миллиона препринтов (публично доступных статей до рецензирования) за период с 2018 по 2024 год показал, что использование ИИ напрямую связано с ростом академической продуктивности.

Рост продуктивности и языковые барьеры

После начала использования ИИ авторами количество публикуемых препринтов значительно увеличилось – от 36,2% до 59,8% в месяц. Этот рост был особенно заметен среди неносителей английского языка, в том числе азиатских авторов (от 43% до 89,3%). У авторов из англоязычных учреждений этот показатель был скромнее – от 23,7% до 46,2%. Это свидетельствует о том, что ИИ часто используется для улучшения письменного английского.

Качество статей: парадоксальный эффект

Статьи, написанные с помощью ИИ, в среднем использовали более сложный язык. Однако, в отличие от статей, написанных без ИИ, где более сложный язык коррелировал с более высокой вероятностью публикации, у статей с поддержкой ИИ наблюдался обратный эффект: чем сложнее язык, тем ниже вероятность публикации. Это может указывать на использование ИИ для маскировки низкого качества научной работы.

Расширение кругозора: новые источники

Исследование также выявило, что ИИ увеличил разнообразие используемых академических источников. Анализ загрузок статей с платформ Google и Microsoft показал, что пользователи Bing, использующего ИИ-чат, получали доступ к более широкому спектру и более свежим публикациям по сравнению с пользователями Google. Это, вероятно, связано с использованием технологии retrieval-augmented generation (RAG), которая комбинирует результаты поиска с запросами ИИ.

Будущее научной публикации

ИИ стал неотъемлемой частью научного письма, особенно для неносителей английского языка, и его роль будет только расти. Встраиваясь в привычные приложения, ИИ станет практически неизбежным инструментом.

Наиболее значимым для науки является то, что ИИ ставит под сомнение роль сложного языка как индикатора научного достоинства. Быстрая оценка статей по качеству языка становится ненадежной, и необходимы новые, более глубокие методы оценки.

В условиях растущего числа рукописей и высокой рабочей нагрузки редакторов, использование ИИ-инструментов для проверки и оценки научных работ, таких как разработанный в Стэнфорде, может стать единственным жизнеспособным решением.