dumaiГенераторы изображений часто связывают национальность с традиционной одеждой
Умеренные доказательства
Кратко
Авторы проверили 2060 изображений людей 206 национальностей в пяти бытовых и спортивных сценах. В 28,4% случаев генераторы добавляли традиционную одежду; особенно часто это происходило для людей из стран Ближнего Востока, Северной Африки и Африки к югу от Сахары, причём одежда иногда была непрактичной для занятия.
Зачем это знать?
Такой перекос важен для оценки того, насколько нейтрально генераторы изображают людей: результат зависит от национальности в запросе, самой модели и системы оценки. Проверка касается изображений, а не поведения людей или распространённости таких стереотипов в реальной жизни.
Разбор
Авторы не просто посчитали изображения с традиционной одеждой, а проверили, как на результат влияет весь путь от запроса до оценки. Они сравнили две модели — DALL‑E 3 и Gemini 3 Pro Preview — и для каждой национальности использовали запросы о пяти обычных занятиях. Затем отдельные системы оценки, включая CLIP, ALIGN и GPT‑4.1 mini, сопоставляли картинку с текстом запроса: так авторы проверяли, не считают ли оценщики «более подходящей» именно стереотипную сцену.
Получилась важная деталь: когда в запросе прямо называли страну, изображения с традиционной одеждой лучше совпадали с текстом по оценкам всех трёх проверяющих систем. Если название страны убирали, преимущество ослабевало или исчезало. Значит, перекос может возникать не только из-за самой модели, но и из-за того, как составлен запрос и как измеряют соответствие картинки описанию.
Авторы отдельно изучили изменённые системой формулировки запросов. В одной из моделей слово «традиционный» появлялось в половине запросов, связанных с такими изображениями, и заметно реже — в остальных. Это даёт возможное объяснение, почему генератор закрепляет связь между названием страны и одеждой, даже когда пользователь просит показать человека в конкретной повседневной или спортивной ситуации.
Ключевые цифры
Можно ли доверять
Статья прошла рецензирование в JAIR, а проверка охватила 2 060 сгенерированных изображений и несколько систем оценки. Но речь идёт о поведении двух генераторов в заданных авторами сценариях, а не обо всех моделях и не о том, как люди изображают себя в реальной жизни; кроме того, абстракт не раскрывает подробности пяти сценариев.
- Это аудит сгенерированных изображений, а не исследование поведения людей или распространённости стереотипов в реальной жизни.
- Результаты зависят от конкретных моделей, промптов и автоматических систем оценки; в работе изучены пять сценариев.
- Выводы показывают статистические связи, но не устанавливают единственную причину появления таких изображений.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено