dumaiСкрытая подсказка сохранила у врачей склонность назначать опиоиды
Кратко
Авторы изучили врачей, использовавших электронные медицинские карты, где одна компания тайно добавила подсказку в пользу опиоидов длительного действия. После отключения подсказки врачи сохраняли повышенную склонность назначать опиоиды, а повышение осведомлённости частично ослабляло эффект. Модель, которая ищет закономерности в данных, оценила вклад искажения решений примерно в 54%, но это наблюдательная оценка, а не результат случайного эксперимента.
Что это значит для вас
Больницам стоит проверять, не подталкивают ли встроенные подсказки к решениям в интересах поставщика, и повышать осведомлённость врачей. Такой контроль особенно важен потому, что влияние системы может сохраняться после её отключения.
Разбор
Авторы сравнили врачей, которые подключили электронные карты с программой одного из федерально сертифицированных поставщиков, с похожей контрольной группой. Затем они проследили за назначениями до, во время и после того, как один поставщик незаметно встроил в систему настройку, продвигавшую опиоиды длительного действия. Такой подход позволил увидеть не только непосредственную реакцию на подсказку, но и то, что происходило после её удаления.
Эффект оказался устойчивым: врачи продолжали чаще выбирать опиоиды даже после переезда, смены места работы или ужесточения правил в их штате. Значит, дело было не только в конкретном экране или привычках одной клиники: взаимодействие с системой могло изменить дальнейшую оценку вариантов лечения. При этом повышение осведомлённости врачей частично ослабляло влияние.
Раньше подобные подсказки обычно рассматривали как инструмент, который влияет на решение только в момент появления на экране. Здесь авторы проверили более длинную цепочку — от скрытого воздействия до закрепившегося поведения. Для оценки вклада искажения они использовали машинное обучение, то есть алгоритмы, которые ищут устойчивые закономерности в больших массивах данных; это помогло отделить влияние подсказки от других факторов, но не превратило наблюдение в случайный эксперимент.
Ключевые цифры
Можно ли доверять
Статья прошла рецензирование и опубликована в Management Science, что повышает доверие к методам. Но авторы анализировали уже произошедшие изменения, а не распределяли врачей случайным образом по группам; кроме того, в абстракте не указаны размер выборки и её состав, поэтому оценку в 54% стоит воспринимать как модельный результат, а не как окончательное доказательство.
Пересказано ИИ по научной статье. Как это устроено