Генерация видео на GTX 1660 Super (эксперимент)

Всем привет
Когда минимакс модель выстрелила, я посмотрел на то, что чет все сложно и передумал. Но любопытство взяло верх, и я решил попробовать

Делал по этому и другим урокам автора

Провел эксперимент, чисто для себя, для интереса
Вводные
Xeon E5 2667v4
40 gb DDR4 ECC REG (плашки 16+16 (2400 дуал ранг самсунг) + 8 (сингл ранг 2133 самсунг (вся память работает в 2400))
MSI GeForce GTX 1660 Super 6 Gb

Генерировал видео в 0,2 мп (я сразу понимал, что нужно ставить все по минималке).
Сначала я попробовал стоковые настройки, они содержали в себе 20 шагов. Увидев, что время генерации будет огромным, я попробовал 5 шагов. Но видео получилось очень глючным. Поэтому я попробовал 15 шагов. Видео, с учетом промта, количества шагов и референсов (а по сути референсы первые попавшиеся под руку картинки с аниме персонажами), вышло не так уж плохо (по сравнению с 5 шагами), но как-то конечно вообще нет попадания в промт (но я не составлял его с учетом руководства и все делал на скорую руку).

В общем, генерация видео на 15 шагов, 0,1 мп заняла...2 часа 56 минут и 34 секунды. Конечно, это уже много. Одно дело, когда карта справляется с 0,4 мп за 30 минут (как у @0гурчик его 3050 на 8), и совсем другое, когда даже 0,2 мп 5 секунд видео генерируется почти 3 часа. Но это - эксперимент, чисто на попробовать. Но я понял что такая скорость генерации очень маленькая, поэтому уже подумываю о покупке 3060 на 12. Дополнительно изучу детали, а рабочую среду пока оставлю, потому что уж картинки моя видеокарта должна генерировать с приемлемой точностью и проблем возникнуть не должно. Тем более рабочая среда уже имеется

Изначально я расчитывал на создание приемлимых видео на своей видеокарте за час. Надо сказать правда, что я не знаю, обновлял ли я cuda до 130 по совету блогера, и тянет ли моя видеокарта вообще cuda 130

Но главное я попробовал, получил рабочую среду и так далее. Вообще я и отдельную тему создам, но и хотел здесь отписаться, тип я принял вызов с достоинством. Потому что основное и очень узкое место здесь это именно видеокарта.


Что показывает эксперемент? Вы можете генерировать видео даже на GTX видеокартах, но это занимает много времени. И даже для видео в так себе качестве нужно потратить много времени.
Я в свою очередь уже задумываюсь о покупке RTX 3060 на 12. Это должно хорошо увеличить производительность

где видео то але

Almighty One сказал(а):↑

где видео то але

Нажмите, чтобы раскрыть...

да там вообще фигня вышла

Makson2019 сказал(а):↑

да там вообще фигня вышла

Нажмите, чтобы раскрыть...

Border сказал(а):↑

Нажмите, чтобы раскрыть...

ну так я плохо промт проработал, ну и качество понятное дело 0,2 мп

просто я ожидал получить какое-то приемлимое время генерации, чтобы тренироватся, но не вышло

я уже думаю о покупке 3060 на 12, ее же хватит чтобы делать генерации за приемлимое время? учитывая что владельцы 3050 пишут, что у них видеокарты за 30-40 минут справляются

Almighty One сказал(а):↑

где видео то але

Нажмите, чтобы раскрыть...

а помнишь как ты говорил, что в нейронках нет прогресса, что раньше каждую неделю было что-то новое?
а тут вышел мини макс н3 и сделал довольно большой прорыв, теперь обычные люди у кого хотя бы есть rtx 3050 могут генерировать мемные видео

Makson2019 сказал(а):↑

ну так я плохо промт проработал, ну и качество понятное дело 0,2 мп

просто я ожидал получить какое-то приемлимое время генерации, чтобы тренироватся, но не вышло

я уже думаю о покупке 3060 на 12, ее же хватит чтобы делать генерации за приемлимое время? учитывая что владельцы 3050 пишут, что у них видеокарты за 30-40 минут справляются

а помнишь как ты говорил, что в нейронках нет прогресса, что раньше каждую неделю было что-то новое?
а тут вышел мини макс н3 и сделал довольно большой прорыв, теперь обычные люди у кого хотя бы есть rtx 3050 могут генерировать мемные видео

Нажмите, чтобы раскрыть...

У меня друг в конфе 5-10 секундные нсвф видосы в конфе генерил с кучей артефактов, галюнами и низким разрешением, вроде по 40-60 минут убивал на полудохлой 16ти гиговой видюхе. Делал слопчик как няша титьки оголяла, оч быстро сдался. Куда ты там собрался с 12 гигами? Все это баловство, практический смысл около нулевой

Педогрязь сказал(а):↑

У меня друг в конфе 5-10 секундные нсвф видосы в конфе генерил с кучей артефактов, галюнами и низким разрешением, вроде по 40-60 минут убивал на полудохлой 16ти гиговой видюхе. Делал слопчик как няша титьки оголяла, оч быстро сдался. Куда ты там собрался с 12 гигами? Все это баловство, практический смысл около нулевой

Нажмите, чтобы раскрыть...

а что за 16 гб видеокарта у него?

Makson2019 сказал(а):↑

а что за 16 гб видеокарта у него?

Нажмите, чтобы раскрыть...

3060

Педогрязь сказал(а):↑

3060

Нажмите, чтобы раскрыть...

не бывает 3060 на 16

Makson2019 сказал(а):↑

не бывает 3060 на 16

Нажмите, чтобы раскрыть...

Чекнул, у него 12 гигов, все равно того не стоит

Педогрязь сказал(а):↑

Чекнул, у него 12 гигов, все равно того не стоит

Нажмите, чтобы раскрыть...

это кому как

люди и на 3050 генерируют 8 гиговой за 30-40 минут

как по мне это все же интересно

а этот твой друг есть на форуме?

Makson2019 сказал(а):↑

это кому как

люди и на 3050 генерируют 8 гиговой за 30-40 минут

как по мне это все же интересно

а этот твой друг есть на форуме?

Нажмите, чтобы раскрыть...

Друга на форуме нет, знакомить не буду

Педогрязь сказал(а):↑

Друга на форуме нет, знакомить не буду

Нажмите, чтобы раскрыть...

ок, допустим. хотя бы спроси у него в каком качестве он генерировал, какую модель минимакс использовал, какие лоры (если какие-то нестандартные типо турболоры), сколько мегапикселей и сколько времени занимала генерация

так же интересен конфиг его компа целиком (особенно оператива)

Makson2019 сказал(а):↑

ок, допустим. хотя бы спроси у него в каком качестве он генерировал, какую модель минимакс использовал, какие лоры (если какие-то нестандартные типо турболоры), сколько мегапикселей и сколько времени занимала генерация

так же интересен конфиг его компа целиком (особенно оператива)

Нажмите, чтобы раскрыть...

32гига отстальное лень

Makson2019 сказал(а):↑

В общем, генерация видео на 15 шагов, 0,1 мп заняла...2 часа 56 минут и 34 секунды.

Нажмите, чтобы раскрыть...

На 5080 6-исекундное видео с тонной входных данных (по типу клонирования голоса, внешности, сценолокации и т.д.) с 0.6мп и 20 шагов генерируется за 3 минуты 23 секунды

При условии, что я в этом не разбираюсь от слова совсем и от скачивания comfyui и генерации первого видео по гайду из видоса у меня заняло минут 30

Спойлер

из которых 20 это скачивание моделей с huggingface, максимальная скорость скачки которого даёт 400-500мбит/сек в сумме на все модели, что скачивались вместе с minimax, и всё, что я сделал для ускорения генерации, это добавил ноду sage attention kj, которая ускорила генерацию с 4:30 до 3:10 (понятия не имею, что она делает, взял из первого попавшегося совета из комментария), думаю можно даже быстрее

А почему ты в предыдущей теме разбирался с этой движухой сутки я понять так и не смог

Ты точно уверен, что 3060 тебе сильно поможет? Ну предположим будешь ты генерировать видео вместо 3 часов ну скажем пол часа, почему бы не заплатить на пару тыщ больше и не взять условную 5060?

Александр сказал(а):↑

На 5080 6-исекундное видео с тонной входных данных (по типу клонирования голоса, внешности, сценолокации и т.д.) с 0.6мп и 20 шагов генерируется за 3 минуты 23 секунды

При условии, что я в этом не разбираюсь от слова совсем и от скачивания comfyui и генерации первого видео по гайду из видоса у меня заняло минут 30

Спойлер

из которых 20 это скачивание моделей с huggingface, максимальная скорость скачки которого даёт 400-500мбит/сек в сумме на все модели, что скачивались вместе с minimax, и всё, что я сделал для ускорения генерации, это добавил ноду sage attention kj, которая ускорила генерацию с 4:30 до 3:10 (понятия не имею, что она делает, взял из первого попавшегося совета из комментария), думаю можно даже быстрее

А почему ты в предыдущей теме разбирался с этой движухой сутки я понять так и не смог

Ты точно уверен, что 3060 тебе сильно поможет? Ну предположим будешь ты генерировать видео вместо 3 часов ну скажем пол часа, почему бы не заплатить на пару тыщ больше и не взять условную 5060?

Нажмите, чтобы раскрыть...

1) неплохо, очень неплохо

2) потому что случился какой-то баг. не смотря на то, что я делал все по инструкции, .bat файл не приводил к запуску программы. она закрывалась за доли секунды, так быстро, что даже папка user не успевала создастся. и кстати как убрать этот баг я так и не нашел, а хейтерок @SepiaFatum на удивление помог, потому что хоть его метод и был предназначен для поиска ошибки, по факту, комфи запустился у меня именно через терминал. во все последующие разы, когда я работал с комфи, мне приходилось именно заходить в нужную папку, вызывать cmd в проводнике и далее специальной командой запускать комфи

решение этой проблемы по итогу так и не нашлось, но она и не так критичная

3) да. смотри, @0гурчик делает на 3050 видео 0,4 мп за 30-40 минут

причина? да потому что у него тензорные ядра второго поколения ну и хотя бы 8 гигабайт памяти

а у меня - GTX 1660 Super. у нее тензорных ядер нет, CUDA ядра слабее, чем у карт будущих поколений, версия CUDA 13 может быть поддерживается, а может быть и нет

мне даже переход на 3050 даст сильный буст, т.к. напоминаю она делает 0,4 мп видео за 30-40 минут, а я делал 0,2 мп (!) видео за 3 часа

ну и в 3060 уже 12 гигабайт памяти. это уже сильно лучше 6, и это лучше 8. и как говорили в другой теме, различия между 12 и 16 уже не столь велики, как между даже 8 и 12 и уж тем более 6 и 12

кстати твои впечатляющие результаты обусловлены тем, что у 5080 сильно больше памяти и сильно мощнее чип, сильно мощнее куда ядра и скорее всего тензорки посвежее и помощнее. короче все необходимое положили, обращается в оперативу видеокарта у тебя явно куда реже

Александр сказал(а):↑

На 5080 6-исекундное видео с тонной входных данных (по типу клонирования голоса, внешности, сценолокации и т.д.) с 0.6мп и 20 шагов генерируется за 3 минуты 23 секунды

При условии, что я в этом не разбираюсь от слова совсем и от скачивания comfyui и генерации первого видео по гайду из видоса у меня заняло минут 30

Спойлер

из которых 20 это скачивание моделей с huggingface, максимальная скорость скачки которого даёт 400-500мбит/сек в сумме на все модели, что скачивались вместе с minimax, и всё, что я сделал для ускорения генерации, это добавил ноду sage attention kj, которая ускорила генерацию с 4:30 до 3:10 (понятия не имею, что она делает, взял из первого попавшегося совета из комментария), думаю можно даже быстрее

А почему ты в предыдущей теме разбирался с этой движухой сутки я понять так и не смог

Ты точно уверен, что 3060 тебе сильно поможет? Ну предположим будешь ты генерировать видео вместо 3 часов ну скажем пол часа, почему бы не заплатить на пару тыщ больше и не взять условную 5060?

Нажмите, чтобы раскрыть...

касаемо 3060
3060 на 12 на авито начинаются от 20 000

5060 - 30-35 тысяч и это за 8 гиговую версию (которая скорее всего хуже 3060 на 12, ибо чип то у нее мощнее, а памяти прилично меньше)
5060 (вроде, ti) на 16 почти не продается. да и стоила бы она очень дорого. я помню как до всяких дефицитов 4060ti на 16 тоже стоила неприлично дорого
в магазинах к слову уже 5050 стоит больше 40 000

так что вариантов только 2
либо 3060 на 12, либо 2060 на 12, о существовании которой я узнал сегодня. но 2060 на 12, по идее, прилично так слабее именно как вычислитель, поэтому 3060 на 12 может оказатся сильно лучше, а доплата за нее около 5 000 (к тому же, 3060 на 12 куда более распространена, 2060 на 12 это своего рода экзотика)

к сожалению, ни cmp видеокарты (которые вообще имба за свои деньги, и это даже нвидиа), ни амд видеокарты (по типу 7600 xt на 16 за 27 000), ни интел видеокарты (по типу арк видеокарт на 16 гигов) не подходят для нейронок, по крайней мере болт он. в случае амд вообще придется ставить линукс для разблокировки ROCm или как там его (аналог куда у нвидии)

да и 3060 на 12 и для игр неплохой вариант, хотя бы не 8 гб затычка. хотя мне для игр хватало и 1660 (сейчас на 1660с, но это скорее всего не надолго)

Александр сказал(а):↑

На 5080 6-исекундное видео с тонной входных данных (по типу клонирования голоса, внешности, сценолокации и т.д.) с 0.6мп и 20 шагов генерируется за 3 минуты 23 секунды

При условии, что я в этом не разбираюсь от слова совсем и от скачивания comfyui и генерации первого видео по гайду из видоса у меня заняло минут 30

Спойлер

из которых 20 это скачивание моделей с huggingface, максимальная скорость скачки которого даёт 400-500мбит/сек в сумме на все модели, что скачивались вместе с minimax, и всё, что я сделал для ускорения генерации, это добавил ноду sage attention kj, которая ускорила генерацию с 4:30 до 3:10 (понятия не имею, что она делает, взял из первого попавшегося совета из комментария), думаю можно даже быстрее

А почему ты в предыдущей теме разбирался с этой движухой сутки я понять так и не смог

Ты точно уверен, что 3060 тебе сильно поможет? Ну предположим будешь ты генерировать видео вместо 3 часов ну скажем пол часа, почему бы не заплатить на пару тыщ больше и не взять условную 5060?

Нажмите, чтобы раскрыть...

ну так что в итоге скажешь?

мама знает про твои покупки?

Makson2019 сказал(а):↑

ну так что в итоге скажешь?

Нажмите, чтобы раскрыть...

Могу сказать, что ты разочаруешься во всем этом

Предположим, что ты сгенерируешь за 30 минут видео в плохом качестве (0.5мп и 10 прогонов) или за час в хорошем. Откуда уверенность, что оно выйдет отличным с первого раза? Представь потратить 30 минут с афк ПК, которым не получится пользоваться во время генерации привычным образом, и у тебя выйдет совсем не то, что ты хотел. Идти редачить параметры в нодах, промпт, входные данные, чтобы посидеть ещё пол часа и.. снова неудовлетворительный результат, и так по кругу

Ты точно этого хочешь? Когда ожидание стоит 3 минут и когда ожидание стоит 30-60 минут это существенная разница. Если очень хочется этим заниматься - думай над тем, чтобы потратиться на нормальное железо. Если чисто побаловаться, то можешь и онлайн поковыряться, оплатив подписку и генерируя за 30 секунд на выделенных мощностях, выйдет в разы дешевле, если это месячная забава

Александр сказал(а):↑

Могу сказать, что ты разочаруешься во всем этом

Предположим, что ты сгенерируешь за 30 минут видео в плохом качестве (0.5мп и 10 прогонов) или за час в хорошем. Откуда уверенность, что оно выйдет отличным с первого раза? Представь потратить 30 минут с афк ПК, которым не получится пользоваться во время генерации привычным образом, и у тебя выйдет совсем не то, что ты хотел. Идти редачить параметры в нодах, промпт, входные данные, чтобы посидеть ещё пол часа и.. снова неудовлетворительный результат, и так по кругу

Ты точно этого хочешь? Когда ожидание стоит 3 минут и когда ожидание стоит 30-60 минут это существенная разница. Если очень хочется этим заниматься - думай над тем, чтобы потратиться на нормальное железо. Если чисто побаловаться, то можешь и онлайн поковыряться, оплатив подписку и генерируя за 30 секунд на выделенных мощностях, выйдет в разы дешевле, если это месячная забава

Нажмите, чтобы раскрыть...

а вот сложно сказать на самом деле
тоже об этом думал
но 30 минут еще как-то как будто терпимо
может конечно, мне стоит подождать еще развития технологий (как видеокарт, так и моделей)

ну а так я даже на 1660с когда генерировал вполне себе сидел в ютуб шортсах, просто заняло куда больше, чем я планировал. я был готов к часу

ну и еще конечно тот самый момент планирования

когда с одной стороны ты можешь в шортсах/ютубе сидеть часами, это одно, но другое дело, когда ты фоном ставишь какую-то генерацию, и тут ты уже чувствуешь, что как бы не совсем хозяин положения, хотя казалось бы, особо ничего не поменялось, так же сидишь шортсы смотришь
ну и как вариант попробовать это унести на второй комп (правда у меня нет второго хорошего процессора и озу), работая с ним через виртуальный рабочий стол