Препринт — материал ещё не прошёл рецензирование
Без веб-поиска ИИ продолжает находить новые бренды к 15-му запуску
Кратко
Авторы проверили 50 вопросов: каждый из них 15 раз задавали шести системам ИИ. В пяти системах без веб-поиска новые бренды появлялись даже в последнем запуске — в 86–92% случаев, тогда как система с поиском обычно быстрее исчерпывала список.
Зачем это знать
Полнота списка зависит не только от формулировки вопроса, но и от того, ищет ли ИИ информацию в интернете. Это препринт с конкретными вопросами и настройками, поэтому он не показывает, насколько хороши рекомендации и сохраняется ли результат для других тем, языков и режимов.
Разбор
Авторы не просто сравнили ответы, а отслеживали, какие организации появляются впервые при каждом повторе одного и того же вопроса. Для этого они собрали 300 сочетаний «вопрос–система» и свели упомянутые бренды к единому списку из 1 470 организаций — так разные названия одной компании не искажали подсчёт. Затем оценили не только уже найденное число, но и то, сколько редких организаций могло остаться за пределами наблюдений. Такой подход важен, потому что обычный список заранее известных брендов создаёт искусственный потолок: когда модель называет всё из этого списка, кажется, что поиск закончен, хотя открытый ответ мог бы продолжаться.
Картина оказалась разной для двух режимов. У системы с веб-поиском список обычно замыкался примерно к десятому повтору, а без поиска новые организации продолжали появляться и после этого. Даже один запуск давал лишь 62–77% набора брендов, который набирался за пять запусков, поэтому единичный ответ заметно недооценивает разнообразие рекомендаций. В четырёх специально подробно проверенных сочетаниях авторы продолжали находить новые домены источников до 24-го запуска; это показывает, что расширяется не только список брендов, но и карта сайтов, на которые опираются ответы.
Есть и ещё один результат: на типичном вопросе системы вместе называли 38 организаций, но 15 из них встречались ровно у одной системы. Значит, сравнение нескольких ИИ добавляет не просто дубликаты, а заметный слой уникальных вариантов. При этом исследование отвечает на вопрос о полноте и разнообразии списков, а не о том, какие бренды лучше, чаще рекомендуются или действительно подходят покупателю.
Ключевые цифры
Можно ли доверять
Это препринт на arXiv, поэтому работу ещё не проверили рецензенты. Анализ охватывает шесть систем и 50 вопросов, но авторы сами отмечают, что результат нужно отдельно проверять для других категорий, языков, настроек генерации и вариантов веб-поиска.
Пересказано ИИ по научной статье. Как это устроено