Языковые модели представляют мораль как несколько связанных, но разных направлений

Авторы не пытались спросить модель о её взглядах напрямую. Они обучили отдельные простые классификаторы для каждой моральной темы и взяли найденные ими направления в пространстве внутренних представлений модели. Затем сравнили углы между направлениями: так можно увидеть, сливаются ли все моральные оценки в один общий сигнал или разные темы занимают разные области. Для проверки результата использовали и другой способ — просто вычитали среднее представление нейтральных примеров из среднего представления моральных. Он дал ту же общую картину, поэтому вывод не выглядит следствием одного конкретного алгоритма.

У направлений оказался общий моральный компонент, но каждая тема при этом сохраняла заметную самостоятельность. Такой общий компонент был гораздо сильнее, чем у набора неморальных понятий, собранного для сравнения. Геометрия повторялась в разных архитектурах и размерах моделей и появлялась уже на ранних этапах обучения — раньше, чем классификаторы достигали максимальной точности. Это важно: модель, по-видимому, довольно рано формирует общую структуру моральных сигналов, а затем уточняет её.

Авторы также проверили предсказание теории моральных оснований о разделении тем на два типа. Ожидаемого устойчивого разбиения не нашли; сами авторы оговаривают, что такая проверка была слабой. Когда анализ перенесли на моральные дилеммы, направление конкретной дилеммы частично складывалось из направлений её отдельных тем, но большая часть различий отражала именно столкновение ценностей. Иными словами, в представлении модели сохраняется напряжение между сторонами ситуации, а не только готовый ответ «за» или «против».