dumaiТочное воспроизведение изображения известным ИИ указывает на возможное синтетическое происхождение
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы сравнили 20 способов распознавать изображения, созданные ИИ, на 10 генераторах и обнаружили: со временем точность обычных проверок падала с 99,5% до 76%. Новый подход ищет у известного генератора точное повторение картинки; при выбранном пороге ошибочно подтверждёнными оказывались не более 1% созданных изображений. Защиту проверили только на известных генераторах и ограниченном наборе специально изменённых файлов.
Зачем это знать?
Подход помогает оценивать возможное синтетическое происхождение изображения, не полагаясь только на его внешний вид. Он сохранял заявленный предел ошибок на проверенных атаках, но работает лишь для известных генераторов, а точное воспроизведение реальных изображений со временем меняется.
Разбор
Авторы сначала проверили, насколько устойчивы привычные детекторы к небольшим намеренным изменениям файла. Такие изменения почти полностью сбивали их с толку: система могла перевернуть свой ответ с «настоящее» на «сгенерированное» или наоборот. Это показывает проблему глубже, чем просто отставание детекторов от новых моделей: по одному содержимому иногда вообще нельзя надёжно понять происхождение картинки. Генератор мог, например, когда-то запомнить настоящее изображение и затем воспроизвести его почти без изменений.
Поэтому авторы предложили другой вопрос: способен ли конкретный известный генератор заново собрать именно эту картинку? Если да, это не доказывает, что изображение искусственное, но делает его подлинность правдоподобно оспоримой. Чтобы не выдавать случайные совпадения за доказательство, исследователи настроили порог с учётом частоты ошибок: он ограничивает долю изображений, созданных известными генераторами, которые система ошибочно сочтёт подтверждёнными.
Отдельно проверили защиту на специально атакованных файлах. Более строгая настройка сохранила заявленный предел ошибок для проверенных атак с ограниченными изменениями, тогда как обычные детекторы на них ломались. Но есть тревожная практическая деталь: современные генераторы воспроизводят старые изображения лучше, чем ранние версии. Значит, со временем проверка может становиться не слабее, а сильнее — и это делает постфактумную проверку происхождения подвижной задачей.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, а не статья, прошедшая независимую проверку рецензентами. Эксперименты показывают результат на известных генераторах и на ограниченном классе атак с небольшими изменениями; произвольные преобразования файлов и неизвестные генераторы исследование не покрывает.
- Это препринт, поэтому результаты еще не прошли независимую научную проверку.
- Гарантия против атак показана только для ограниченного класса возмущений; произвольные преобразования не проверялись.
- Метод работает с известными генераторами, а способность воспроизводить реальные изображения меняется со временем: у генераторов 2024 года невоспроизводимыми оказались 55–79 из 3000 изображений Reddit против 1116 у модели 2022 года.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено