Препринт — материал ещё не прошёл рецензирование
Сговор рецензентов более чем вдвое повышал вероятность их назначения на целевые статьи
Кратко
В компьютерной модели конференции сговорившиеся рецензенты чаще получали статьи, выбранные их группой, и оценивали эти статьи примерно на два балла выше честных рецензентов. Общий результат для всей конференции оставался небольшим, а точно обнаружить сговор по заявкам на статьи удавалось лишь в небольшой доле случаев.
Зачем это знать
Это показывает, как взаимные договорённости могут незаметно менять распределение статей, даже если общий ущерб для конференции невелик. Вывод получен в компьютерной модели с ИИ, поэтому он предупреждает о риске, а не описывает реальные конференции.
Разбор
Авторы построили виртуальную конференцию и сравнивали два мира с одинаковыми статьями, рецензентами и правилами назначения. Менялось только поведение части рецензентов: в одном мире все действовали честно, в другом некоторые заранее объединялись в небольшие группы и выбирали статьи коллег по тематической близости. Такой парный эксперимент нужен потому, что в реальной конференции нельзя одновременно увидеть, что произошло, и что произошло бы без сговора.
Сговор здесь не сводился к случайному выбору чужих работ. Группы формировались из рецензентов, чьи научные интересы совпадали, а каждый участник мог нацеливаться только на статьи коллег из своего списка наиболее близких по теме работ. Поэтому модель проверяла более правдоподобный сценарий: договорённости не обязательно выглядят как интерес к совершенно чужой области.
Отдельно проверили, можно ли заметить проблему уже на этапе заявок. Простое наблюдение за положительными заявками оказалось ненадёжным: рецензент действительно может выбрать статью из-за научного интереса, а не из-за сговора. Более строгий просмотр только заявок с максимальной заинтересованностью помогал находить некоторые локальные группы, но пропускал много случаев. Все выводы относятся к поведению настроенных языковых моделей в симуляции, а не к наблюдению реальной конференции.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, поэтому его ещё не проверили независимые рецензенты. Кроме того, исследование основано на симуляции с языковыми моделями и искусственно заданными правилами, а не на данных реальной конференции; семь запусков помогают оценить устойчивость, но не заменяют проверку в настоящих циклах рецензирования.
Пересказано ИИ по научной статье. Как это устроено