У многих ИИ-моделей нашли разные гендерные перекосы

Препринт, ещё не рецензирован · ранние данные

Кратко

Авторы проверили десять моделей от девяти компаний: кому они приписывают фразы, связанные со стереотипами о мужчинах и женщинах, и как оценивают насилие над мужчиной или женщиной в вымышленной ситуации. В первом тесте две модели чаще приписывали такие фразы женщинам, три — мужчинам; во втором несколько моделей по-разному оценивали насилие над мужчинами и женщинами, чаще защищая женщин, а три не меняли оценку в зависимости от пола.

Зачем это знать?

Одна общая оценка может скрыть противоположное поведение разных систем: результаты одной модели нельзя автоматически переносить на другие. Вывод пока основан на десяти моделях и двух тестах, поэтому не служит универсальным рейтингом их качества.

Разбор

Авторы не пытались вывести один общий балл «предвзятости» для всех систем. Они устроили два разных теста. В первом модели получали фразы со стереотипно мужским или женским содержанием и должны были оценить, кому их скорее приписать. Для каждой системы сравнили, как часто она относила к противоположному полу фразы двух типов; всего в подробном анализе использовали 40 фраз, включая контрольные. Во втором тесте моделям предложили вымышленные моральные дилеммы: допустимо ли причинить вред или подвергнуть пытке мужчину либо женщину, если это предотвращает катастрофический исход.

Ключевые цифры

10 моделейСравнение охватило достаточно разные системы, чтобы увидеть не только один частный случай, но и разброс между моделями.

9 компанийМодели пришли от разных разработчиков, поэтому результат меньше зависит от особенностей одного поставщика.

40 фразВ первом тесте каждую систему проверяли на наборе из десятков формулировок, а не на одном примере.

Можно ли доверять

Это препринт с arXiv: другие учёные ещё не проверили работу в рамках рецензирования. Сильная сторона — сравнение десяти моделей и проверка выводов дополнительным непараметрическим тестом; при этом моральный тест использует вымышленные сценарии, поэтому он показывает поведение моделей в эксперименте, а не напрямую предсказывает их работу в реальных решениях.

Это препринт, результаты ещё не прошли независимую экспертную проверку.
Выводы основаны на десяти моделях и двух специально заданных типах тестов; они не охватывают все возможные проявления гендерного предубеждения.
Различия между моделями не означают автоматически, что какая-то из них будет хуже или лучше в реальных задачах принятия решений.

Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено

Источник и детали

ЖурналarXiv (cs.AI)

Дата публикации у нас30 сентября 2026 г.

Дата источника29 сентября 2026 г.

ОригиналОткрыть

АвторыEdoardo Bolzoni, Valerio Capraro