Препринт — материал ещё не прошёл рецензирование
Коллектив ИИ создал более разнообразный и устойчивый набор технологий
Кратко
В искусственной симуляции одинаковые программы на базе языковых моделей сами разделились на роли: одни исследовали мир, другие строили и поддерживали созданные вещи. Вместе они накопили более разнообразный и устойчивый набор технологий, чем при независимом поиске, хотя именно независимый поиск сохранял преимущество в создании одного самого сильного решения.
Зачем это знать
Результат помогает понять, как ИИ может организовываться без начальника и заранее заданных ролей. Но это вывод только из мира с установленными правилами, а не из реальных обществ или роботов.
Разбор
Авторы поместили одинаковых языковых агентов в SwarmWorld — искусственный мир с пространством, ресурсами и материалами. Агентам не назначали профессии и не давали готовых инструкций: они сами выбирали, что исследовать, что строить и как использовать найденное. Каждый созданный объект оставался в мире, а программа управления им проходила проверку в симуляторе с заранее не показанными помехами — уже после того, как агенты исчезали. Это отделяло красивые предложения агентов от реально работающих технологий.
Такой подход нужен, чтобы проверить не только способность найти удачную идею, но и способность общества накапливать знания. Авторы сравнили общий мир с независимым поиском: в последнем несколько агентов решали задачи отдельно, не обмениваясь результатами. Оказалось, что взаимодействие особенно помогало там, где нужны целые наборы совместимых технологий: одни агенты чаще исследовали новые области, другие занимались строительством, ремонтом или координацией, а их программы и конструкции можно было наследовать и переделывать.
Важную роль сыграла не переписка, а сама материальная среда. Почти все первые случаи повторного использования технологии начинались с физического наблюдения за уже существующим объектом; общение усиливало этот процесс, но не было его единственным источником. Со временем объекты стали внешней памятью общества: вокруг устойчивых построек возникали цепочки наблюдения, установки, ремонта и передачи программ. Поэтому преимущество коллективов проявлялось в широте и долговечности технологической системы, а не обязательно в создании абсолютного рекордсмена.
Ключевые цифры
Можно ли доверять
Это препринт arXiv, поэтому работу ещё не проверили рецензенты. Кроме того, все выводы получены в детерминированной симуляции с заранее заданными правилами материалов и действий, а не на реальных роботах или людях; сравнение с независимым поиском делает результат содержательным, но не доказывает, что такая организация возникнёт в реальном мире.
Пересказано ИИ по научной статье. Как это устроено