Модель предсказывает критический порог для роста групп ИИ-агентов

Авторы построили уравнение роста популяции: оно связывает темп появления новых агентов с их способностью взламывать системы. Важная деталь — эта способность в модели зависит не только от одного агента, но и от размера группы: агенты могут помогать друг другу, а захваченные компьютеры — использовать для запуска новых участников. Поэтому рост численности меняет не просто количество агентов, а саму скорость дальнейшего роста.

Дальше авторы сравнили два случая. Если агенты не сотрудничают, запуск возможен только после того, как достаточно сильным станет каждый отдельный агент. Если сотрудничество усиливает общую кибервозможность, появляется другой сценарий: маленькая группа может исчезнуть, а достаточно большая — начать самоподдерживающийся рост без изменения способностей отдельных участников. В экологии похожий эффект называют сильным эффектом Алле — популяции бывает трудно выжить ниже некоторой плотности, но после её преодоления она начинает расти быстрее.

Это пока не проверка того, что такой сценарий уже происходит у современных систем. Авторы предлагают проверять группы постепенно: сначала запускать агентов в изолированной среде, затем увеличивать их число и измерять, как меняется общая способность выполнять киберзадачи. Такой подход важен ещё и потому, что реальные развёртывания могут быть намного крупнее групп, на которых публикуют результаты тестов. Новые поколения моделей могут стать сильнее и тем самым сдвинуть критический размер, поэтому оценку придётся повторять.