Бдите! Нейросети придумали ученых, которых не было, и публикуют их «статьи»

Нейросети сгенерировали имена ученых, которых никогда не существовало. Под этими вымышленными фамилиями в научных базах уже скопилось свыше 1,6 тысячи псевдонаучных публикаций. Исследование о фейковых авторах опубликовали эксперты Samsung и Варшавского университета.

В расследовании указано, что больше всего работ подписали имена Елена Васкес и Маркус Чен. Только за последние месяцы эти двое побывали вулканологами, астронавтами, героями триллеров, ведущими подкастов и соавторами научных статей.

Все следы ведут на Zenodo — крупнейший открытый репозиторий для научных работ. Там бесплатный аккаунт и собственный цифровой код DOI получает любой желающий, а агрегаторы вроде Google Scholar и Semantic Scholar подхватывают записи без проверки. В итоге вымышленные имена расползлись по десяткам платформ и сложились в целые «исследовательские коллективы», сгенерированные разными моделями.

Установлено также, что у каждой нейросети свой набор излюбленных имен. Claude чаще выдает Елену Амару Окафор, Gemini — Ариса Торна и Лену Петрову, ChatGPT — Элару Восс и Маркуса Чена. Некоторые фамилии «слипаются» и появляются в одних и тех же текстах парами. Для рецензентов это сигнал, что перед ними не живой ученый, а шаблон из языковой модели.

Для научного сообщества это удар по репутации открытых баз — мусорные статьи засоряют поиск и снижают доверие к агрегаторам. Для издателей — повод наконец ввести обязательную верификацию авторов. А для обычного читателя, который ищет информацию через Google Scholar, это риск наткнуться на исследование, написанное машиной от имени человека, которого никогда не было, отмечают исследователи.