В симуляции пять одинаковых программ приобрели разные модели поведения

Препринт, ещё не рецензирован · ранние данные

Кратко

Авторы запустили пять одинаковых программ в искусственной среде. Когда программы могли менять внутренние правила выбора действий, различия между ними выросли примерно с 0,03 до 1,91 ± 0,29, тогда как в контрольной группе оставались нулевыми; появились также разные рассказы программ о себе.

Зачем это знать?

Работа показывает, как в симуляции у программ могут постепенно закрепляться разные модели поведения и взаимодействия. Но эти наблюдаемые различия не доказывают, что программы обрели субъективное сознание.

Разбор

Авторы собрали систему, в которой программа не просто запоминает прошлые ответы. У каждого агента есть таблица переходов — по сути, карта того, как прошлое состояние влияет на следующий выбор. После своих действий агент описывает, что произошло, а его «размышление» меняет эту карту. Так появляется замкнутый цикл: действие вызывает обратную связь, обратная связь меняет внутренние настройки, а новые настройки влияют на следующие действия. В обычных симуляциях размышления часто остаются текстом в памяти и не меняют сам механизм поведения — здесь это специально проверили.

Чтобы отделить эффект настоящего обновления от эффекта общения, исследователи сравнили несколько условий. В одной группе агенты общались и могли менять свои карты переходов; в контрольной они получали тот же текст размышлений, но карта оставалась прежней. Отдельно проверяли изолированных агентов, которые не видели друг друга. Такой дизайн позволяет спросить не только «стали ли ответы разными», но и «изменился ли устойчивый способ принимать решения».

Основной механизм сначала проверили без языковой модели — на упрощённом прототипе, где легче проследить причинную цепочку. Он показал, что после первоначального расхождения поведение не просто случайно колебалось: внутренние карты постепенно закреплялись, а устойчивость выбора росла. Затем авторы добавили языковой слой и попросили агентов регулярно описывать себя и отличия от конкретных соседей. В отдельном обсуждении пять агентов сами выстроили социальную структуру: один стал центром согласия, а позицию другого отвергли все остальные. Это наблюдение относится к поведению системы, а не к переживаниям: авторы сознательно не делают вывода о субъективном опыте программ.

Ключевые цифры

600 шаговСтолько взаимодействий прошла каждая группа в одном прогоне — различия проверяли не по нескольким случайным ответам, а на длинной последовательности действий.

30 запусковМеханизм проверили с разными начальными случайностями много раз, поэтому результат не сводится к одному удачному сценарию.

0,51 ± 0,13К концу эксперимента устойчивые модели самих себя у разных агентов заметно разошлись; разброс после знака ± показывает вариативность между запусками.

0,84 ± 0,10Это высокий уровень закреплённости выбора: после обучения агенты чаще придерживались характерных для них способов действовать, а не выбирали варианты равномерно.

Можно ли доверять

Это препринт с arXiv, а не статья, прошедшая независимую проверку рецензентами. Сильная сторона работы — 30 запусков основного эксперимента и явные контрольные условия, но проверка остаётся симуляцией; эксперименты с реальной языковой моделью проводили на одной модели, а повторение на другом семействе авторы оставили на будущее.

Это препринт, а не прошедшая рецензирование статья.
Результаты получены в искусственном эксперименте с пятью агентами; межмодельная проверка с другим семейством LLM пока не проведена.
Измеряются поведение, внутренние состояния и тексты агентов, а не субъективный опыт или сознание.

Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено

Источник и детали

ЖурналarXiv (cs.AI)

Дата публикации у нас16 сентября 2026 г.

Дата источника15 сентября 2026 г.

ОригиналОткрыть

АвторыXiaoyang Liu