dumaiПри обучении разным задачам ИИ-сеть сама делится на специализированные части
Компьютерная симуляция · ранние данные
Кратко
Компьютерные эксперименты показали: при обучении нескольким задачам искусственная сеть сама формирует специализированные части, особенно когда её ёмкость ограничена. Если задачи добавлять постепенно, такое разделение усиливается, и устройство сети начинает напоминать организацию сетей мозга.
Зачем это знать?
Результат подсказывает, что разделение работы между частями может возникать само в процессе обучения, а не задаваться заранее. Но это не объясняет напрямую устройство человеческого мозга: вывод получили только на искусственных сетях.
Разбор
Авторы не задавали сети готовую схему с отдельным блоком под каждую задачу. Они смотрели, как меняется внутренняя организация сети, когда одна и та же система учится выполнять несколько разных заданий. Отдельно проверили случай, когда ресурсов сети не хватает на полноценное хранение всех навыков: такое ограничение помогает увидеть, как система распределяет работу между своими частями.
Ещё один вариант обучения начинался с одной задачи, а затем новые задачи добавлялись по очереди. Такой порядок оказался важен: он усиливал разделение функций внутри сети. Иными словами, организация зависела не только от набора задач, но и от истории обучения. Работа показывает, что внутреннее устройство сети может быть результатом самого процесса обучения, а не только заранее выбранной архитектуры.
Можно ли доверять
Это рецензируемая работа, опубликованная в Nature Machine Intelligence, поэтому её выводы прошли проверку другими учёными. Но абстракт не сообщает размер экспериментов, конкретные архитектуры и набор задач, поэтому по нему нельзя оценить, насколько результат устойчив для других типов сетей и задач; кроме того, речь идёт о компьютерных экспериментах, а не о наблюдении за мозгом или людьми.
- Вывод основан на искусственных сетях и не показывает напрямую, как устроен или обучается человеческий мозг.
- Абстракт не уточняет, насколько устойчиво сходство с мозгом и как именно измерялась модульность.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено