dumaiАлгоритмическая проверка сильнее отпугивает тех, кто считает свою заявку слабой
Кратко
Работа изучает, как люди подают заявки на доступ к услугам, возможностям и льготам, если их оценивает человек или автоматическая система. Те, кто считал свою заявку слабой, чаще предпочитали человеческую проверку — из-за её предполагаемой гибкости и снисходительности — и реже соглашались подавать заявку при автоматической оценке. При этом «сила» заявки отражала мнение самого кандидата, а не обязательно её объективное качество.
Что это значит для вас
Организациям, которые переводят оценку заявок на автоматическую проверку, стоит учитывать риск, что она непропорционально оттолкнёт людей, не уверенных в своих шансах. Этот результат говорит о реакции заявителей, а не о том, что автоматические решения менее справедливы.
Разбор
Авторы смотрят не только на то, как люди оценивают автоматические системы, но и на то, решаются ли они вообще подавать заявку, когда знают, кто будет её проверять. В центре анализа — субъективная «сила» заявки: насколько сам человек уверен в своих шансах, исходя из доступной ему информации. Это не независимая проверка качества заявки, а ощущение самого заявителя.
Логика результата такая: человек, который сомневается в своей заявке, сильнее ценит возможную гибкость проверяющего и готовность отнестись снисходительно. Поэтому человеческий оценщик кажется ему более безопасным вариантом — вдруг можно объяснить обстоятельства или получить шанс несмотря на слабые стороны. Автоматическая система таких возможностей, по мнению заявителя, не даст, и из-за этого он может отказаться от подачи.
Раньше исследования алгоритмов чаще рассматривали их как помощников, которые советуют человеку, что выбрать. Эта работа переносит внимание на другую роль: алгоритм сам оценивает человека и влияет ещё до принятия решения — на то, станет ли кандидат участвовать в отборе. Так авторы показывают, что одна и та же процедура может по-разному менять поведение людей в зависимости от их уверенности в собственной заявке.
Можно ли доверять
Это исследование опубликовано в рецензируемом журнале, поэтому его выводы прошли проверку другими учёными. Но в абстракте не указаны размер выборки, конкретные эксперименты и состав участников, поэтому по нему нельзя оценить, насколько широко результат переносится на разные услуги и группы людей.
Пересказано ИИ по научной статье. Как это устроено