Ярлык страны почти не повлиял на убедительность ИИ

Авторы не просто спрашивали людей, «убедителен ли бот», а устроили более хитрую проверку. Участникам из США давали один и тот же чатбот, но в одном случае его представляли как американский, а в другом — как китайский. Потом люди три раунда спорили с ним на политическую или неполитическую тему, а исследователи сравнивали, как менялись их ответы до и после разговора.

Самое интересное в том, что бот был один и тот же — GPT-4o, только с разной «этикеткой» страны. Так проверяли, влияет ли предполагаемое происхождение ИИ на то, насколько он сможет сдвинуть взгляды людей. Для этого авторы смотрели не только на опросы после разговора, но и на сам текст диалога: соглашался ли человек, менял ли позицию, приводил ли возражения, как звучали эмоции и было ли больше токсичных реплик.

Результат получился довольно приземлённым: разговор с ботом заметно сдвигал взгляды почти везде, но именно ярлык страны почти ничего не менял. То есть люди вели себя с «американским» и «китайским» ботом очень похоже — и по самооценке изменений, и по тому, насколько уступали в споре, и по числу контраргументов, и по эмоциональной окраске ответов. Единственная устойчивая разница была в доверии: до разговора «китайскому» боту меньше приписывали человеческие качества и надёжность как собеседнику, хотя его практическую полезность оценивали так же.

Ещё один важный нюанс: на политические темы люди сдвигались к позиции бота медленнее, а сильное чувство «мы против них» тоже мешало менять мнение, причём независимо от того, какой стране приписали ИИ. Иначе говоря, барьером оказался не чужой флаг на интерфейсе, а сами убеждения и тема разговора.