Kandinsky 6.0 Video Pro превзошла предшественницу, особенно по качеству речи
Препринт, ещё не рецензирован · ранние данные
Кратко
Kandinsky 6.0 Video создаёт пят секундных роликов из текста или изображения с синхронным звуком, включая совпадение речи и движения губ, в разрешении до 1920×1080. В оценке людей версия Pro превзошла Kandinsky 5.0 Video Pro и осталась сопоставима с ведущими системами, особенно по качеству речи.
Зачем это знать?
Открытый код и модели делают эту систему заметным вкладом в разработку генерации коротких роликов, где изображение, звук и речь создаются вместе. Качество длинных и сложных сцен из этого результата не следует.
Разбор
Авторы не стали учить звук и видео как одну неразделимую систему с нуля. Они разделили модель на два потока: один отвечает за видеоряд, другой — за аудио, а двустороннее внимание связывает их по времени и смыслу. Благодаря этому звук должен соответствовать происходящему в кадре, а речь — движениям губ. Такой подход продолжает работу Kandinsky 5.0, но добавляет отдельную аудиочасть и механизм согласования двух потоков.
Обучение шло в несколько этапов. Сначала аудиопоток учили отдельно на больших наборах звуков, затем оба потока дообучали на парах «видео плюс звук», стараясь не испортить качество каждого компонента по отдельности. После этого авторы использовали обучение на размеченных примерах, дополнительную настройку с помощью отзывов о качестве и упрощение модели для более быстрого запуска. В итоге выпустили две версии: Lite рассчитана на меньший размер, Pro — на более высокое качество. Код, готовые веса и подключение к библиотеке Diffusers доступны по лицензии MIT, поэтому другие исследователи могут запускать систему и дорабатывать её.
Ключевые цифры
Можно ли доверять
Это препринт с arXiv, поэтому его ещё не проверили независимые рецензенты. Сравнение проводили люди, но в абстракте не указано, сколько было оценщиков и роликов; кроме того, речь идёт о коротких клипах, а не о проверке в реальных производственных сценариях.
- Это препринт, поэтому результаты ещё не прошли полноценную независимую проверку.
- Оценка основана на сравнении людьми; в abstract не указаны размер и детали этой оценки.
- Генерируются короткие ролики длительностью 5 секунд, поэтому результат не показывает качество длинных или сложных сцен.
Пересказано ИИ по научной статье. Это научпоп, а не совет врача. Как это устроено