dumaiНовые оптимизаторы ускорили обучение моделей для молекул
Препринт, ещё не рецензирован · ранние данные
Кратко
Для обучения моделей, которые предсказывают поведение атомов в молекулах и материалах, сравнили AdamW с тремя более новыми оптимизаторами: SOAP, Muon и гибридом SOAP-Muon. В двух моделях NequIP и Allegro они чаще давали более быструю сходимость и обычно лучшую точность; особенно заметен выигрыш был, когда обучающих меток по силам было мало, включая обучение только по энергиям.
Зачем это знать?
Похоже, в таких моделях на результат сильно влияет сам выбор оптимизатора, а не только архитектура и данные. Проверка охватила лишь два семейства моделей и две химические системы, так что это ранний сигнал, за которым стоит следить.
Можно ли доверять
- Preprint on arXiv, so results are not yet peer reviewed.
- The study tests only two model families and two chemical systems.
- SOAP-Muon needed extra tuning on water to work well.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено
Источник и детали
ЖурналarXiv (cs.AI)
Дата публикации у нас3 июля 2026 г.
Дата источника2 июля 2026 г.
ОригиналОткрыть
АвторыGil Harari, Yoel Zimmermann, Ola Tangen Kulseng, Laura Zichi, Chuin Wei Tan, Marc L. Descoteaux, Boris Kozinsky