dumaiRectified Flows могут сохранять сигнал о принадлежности примера к обучению
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы разбирают, как Rectified Flow ведёт себя на пути интерполяции между данными, и показывают: разница между обучающими и тестовыми примерами меняется по колоколообразной кривой от λ. На аудио и изображениях этот шаблон воспроизводится, а в работе его используют для атаки на принадлежность примера к обучающей выборке.
Зачем это знать?
Это важно для понимания приватностных рисков: даже без явного копирования данных модель может сохранять сигнал о том, был ли пример в обучении. Но это preprint и демонстрация риска, а не проверенный на практике способ защиты или готовый совет для пользователей.
Разбор
Авторы взяли саму траекторию обучения Rectified Flow и посмотрели не только на итоговую генерацию, а на то, как меняется ошибка реконструкции по пути интерполяции между исходными данными и шумом. Если сказать проще, они проверяли: на каких промежуточных точках модель лучше восстанавливает примеры из обучения, а на каких — новые примеры, которые она не видела. Для этого они сравнили train и test на разных значениях λ и увидели, что разрыв между ними не растёт равномерно, а сначала усиливается, потом ослабевает — получается колокол.
Ключевые цифры
Можно ли доверять
Это preprint на arXiv, то есть работу ещё не проверили независимые рецензенты. При этом авторы проверили эффект не на одной игрушечной задаче, а на аудио и изображениях, плюс отдельно тестировали разные архитектуры и наборы данных. Но демонстрация membership inference показывает риск в лабораторных условиях, а не готовую атаку для реального мира, и сами авторы прямо пишут, что точное предсказание пика работает не всегда — например, хуже на более сложных латентах.
- Preprint on arXiv, not peer reviewed.
- Membership-attack results are shown as a proof of concept, not a deployed defense or benchmark.
- The closed-form peak prediction depends on near-Gaussian isotropic latents; the peak deviates on CelebA with SD VAE.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено