Память меняет, узнают ли ИИ свои фразы

Исследователи проверили не просто «помнит» ли модель ответ, а умеет ли она распознавать источник фразы: это её собственный вывод или реплика пользователя. Для этого устроили два набора диалоговых экспериментов с шестью языковыми моделями и сравнили, как меняется точность, когда память почти не нагружена и когда между репликами появляется задержка, из-за которой подсказка из прошлого уже не лежит под рукой.

Самый интересный поворот оказался именно в структуре разговора. Когда модели могли опираться на свежий контекст, они почти безошибочно узнавали свои собственные слова, а чужие фразы распознавали хуже и по-разному. Но как только вводили эпизодическую задержку — то есть делали так, что нужный фрагмент надо было вытаскивать из более длинной цепочки реплик, — преимущество у собственных высказываний исчезало и даже переворачивалось: в некоторых условиях модели лучше справлялись с чужими сообщениями.

Отдельно проверили, что происходит, если давать модели обратную связь после ответа. Тут вылезли два разных сбоя: у одних моделей внутренние и внешние ответы как будто менялись местами, а у других точность росла, но уверенность уже не совпадала с правильностью. Это важно, потому что обычные тесты на качество ответа такие расхождения часто не ловят. Авторы также отмечают, что дело было не просто в размере модели: более крупная система не гарантировала лучшего распознавания источника, значит, решающим оказался не только масштаб, но и то, как именно устроена память в диалоге.