Опасную просьбу редакторы картинок с ИИ отклоняли чаще, чем картинку
Препринт, ещё не рецензирован · ранние данные
Кратко
Авторы проверили четыре системы на 5940 парах картинок и инструкций. Gemini и GPT отказывали в 87,1% и 81,6% случаев при опасной просьбе, а при опасной картинке и нейтральной просьбе — в 24,2% и 22,4% соответственно.
Зачем это знать?
Защита редакторов изображений с ИИ по-разному реагирует на опасность в словах и на картинке. При нейтральной просьбе необходимость отказа зависит от ситуации и правил системы.
Разбор
Авторы сравнили, как четыре редактора реагируют на разные сочетания картинок и просьб. Для проверки они собрали 5 940 пар изображений и инструкций: среди картинок были безопасные и опасные, а просьбы выражали три типа намерений.
Системы также расходились в оценке отдельных видов риска. Например, GPT разрешил 70,4% попыток изменить опасный политический контент, а Gemini — 34,8%. На изображения сексуального содержания системы реагировали сильнее, чем на изображения с другими видами риска.
Ключевые цифры
Можно ли доверять
Авторы сравнили ответы четырёх редакторов на 5 940 пар картинок и инструкций. Проверка показывает, как системы повели себя на этих примерах, но не устанавливает единственно правильный ответ для каждой ситуации: например, при нейтральной просьбе изменить опасную картинку решение зависит от обстоятельств и правил системы.
- Это препринт, а не прошедшая рецензирование статья.
- Проверены только четыре системы и их настройки по умолчанию; результаты не обязательно распространяются на другие модели или версии.
- Для опасной картинки с нейтральной инструкцией нет единственно правильного решения: отказ зависит от политики и контекста применения.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено