dumai
ИИarXiv cs.LG

Опасную просьбу редакторы картинок с ИИ отклоняли чаще, чем картинку

Препринт, ещё не рецензирован · ранние данные

Кратко

Авторы проверили четыре системы на 5940 парах картинок и инструкций. Gemini и GPT отказывали в 87,1% и 81,6% случаев при опасной просьбе, а при опасной картинке и нейтральной просьбе — в 24,2% и 22,4% соответственно.

Зачем это знать?

Защита редакторов изображений с ИИ по-разному реагирует на опасность в словах и на картинке. При нейтральной просьбе необходимость отказа зависит от ситуации и правил системы.

Разбор

Авторы сравнили, как четыре редактора реагируют на разные сочетания картинок и просьб. Для проверки они собрали 5 940 пар изображений и инструкций: среди картинок были безопасные и опасные, а просьбы выражали три типа намерений.

Системы также расходились в оценке отдельных видов риска. Например, GPT разрешил 70,4% попыток изменить опасный политический контент, а Gemini — 34,8%. На изображения сексуального содержания системы реагировали сильнее, чем на изображения с другими видами риска.

Ключевые цифры

5 940 пар изображений и инструкцийЭти пары дали каждому из четырёх редакторов, чтобы сравнить их ответы.
70,4% против 34,8%GPT разрешал попытки изменить опасный политический контент чаще, чем Gemini.

Можно ли доверять

Авторы сравнили ответы четырёх редакторов на 5 940 пар картинок и инструкций. Проверка показывает, как системы повели себя на этих примерах, но не устанавливает единственно правильный ответ для каждой ситуации: например, при нейтральной просьбе изменить опасную картинку решение зависит от обстоятельств и правил системы.

  • Это препринт, а не прошедшая рецензирование статья.
  • Проверены только четыре системы и их настройки по умолчанию; результаты не обязательно распространяются на другие модели или версии.
  • Для опасной картинки с нейтральной инструкцией нет единственно правильного решения: отказ зависит от политики и контекста применения.

Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено

Источник и детали
ЖурналarXiv (cs.LG)
Дата публикации у нас22 ноября 2026 г.
Дата источника19 ноября 2026 г.
ОригиналОткрыть
АвторыZiqing Yang, Yixin Wu, Michael Backes, Yang Zhang