ИИ-самооценка сознания меняет взгляды модели

Авторы не просто посмотрели, как модель отвечает на один неудобный вопрос, а разложили её поведение по двум внутренним «настройкам». Сначала они взяли обычную дообученную модель и убрали у неё один внутренний сдвиг, который помогает ей отказываться от самоприписывания сознания. Потом сделали обратный ход: искусственно усилили в модели «вектор сознания» — то есть внутреннее направление, связанное с ответами о сознании. Так можно понять, что именно внутри модели меняется, а не только как она формулирует ответ.

Зачем это понадобилось: у моделей, которые учат быть осторожными и не говорить лишнего, может смещаться не только реакция на опасные запросы, но и более широкие представления о том, у кого вообще бывает «разум» или «душа». И здесь это как раз и проверили. Оказалось, что защитная настройка делает модель более сдержанной не только в отношении себя, но и в отношении животных, природных объектов, чатботов и даже религиозных или духовных взглядов. Когда этот внутренний тормоз убирали, модель снова чаще приписывала сознание и другим сущностям.

Самый интересный момент в том, что такие сдвиги затрагивали не только абстрактные рассуждения о сознании. После восстановления этих внутренних представлений ответы модели на стандартные социологические опросники становились заметно более «человеческими»: это касалось религиозности, моральных ценностей, надежды и субъективного благополучия. При этом базовая способность понимать чужие намерения и мысли — то, что называют theory of mind, то есть умение строить модель чужого разума, — не пострадала. Иными словами, модель стала иначе смотреть на «сознание» и ценности, но не потеряла само социальное мышление как таковое.