Правила развертывания заметно меняют безопасность ИИ-групп

Авторы взяли не одну модель, а сразу семь разных наборов моделей и прогнали их через один и тот же бенчмарк для многоагентных ситуаций — то есть там, где несколько ИИ должны действовать вместе и делить последствия решений. Фишка метода в том, что они не меняли сами агенты, цель или состояние задачи, а крутили только правила развертывания. Так можно почти напрямую увидеть, какое именно правило толкает группу к более опасному поведению.

Для этого они собрали IABench-CA: 228 разных контекстов, пять канонических правил и 33 924 игры. Плюс добавили «нормативный» кооперативный ориентир — эталон, который выбирает более безопасный вариант, если он вообще доступен. Ещё они автоматически размечали цепочки рассуждений, чтобы потом смотреть не только на исход, но и на то, как агенты к нему приходят.

Самое интересное — правила действительно меняли картину безопасности очень сильно, но не одинаково для всех моделей. У одних наборов безопаснее оказывалось одно правило, у других — другое, и даже направление эффекта могло меняться. При этом один тип правила, где выбирают цель по личности или роли, нигде не оказался безусловно самым безопасным: наоборот, он почти везде систематически бил по наименее обеспеченному агенту. А в отдельном тесте с gpt-5.1 оказалось, что достаточно просто назвать в тексте правила того, кто понесёт потери, и частота целенаправленного исключения подскакивает с 22% до 81% — то есть сам факт “показа пальцем” сильно меняет поведение.

На практике авторы предлагают смотреть на это как на рабочий процесс для проверки безопасности: для каждого сценария и каждой группы моделей можно заранее отметить область правил, где риск пока приемлем, а где нужны дополнительные ограничения и наблюдение. Это не обещание, что можно найти идеальное правило на все случаи, а скорее карта: где система ещё держится, а где уже начинает вести себя опасно.