Tak dnes zkoušíme v igloonet vypomoct @nprofile1q... se zpracováním fronty videí a jen pro zajímavost doba přepisu textu pro 23 minutové video:

- server 20m54.214s: CPU only (zvládne 7 naráz)
- můj komp na Radeon RX 6800 XT: real 15m3.519s
- runpod s RTX 4090: 1m17.398s

U toho Radeonu je to srovnání nespravidlivé, protože whisper-ctranslate2 nemá podporu pro AMD takže to jede přes pomalejší openai-whisper ale je to mazec.

Na GPU mám vyzkoušeno, že když běží víc naráz, tak se prostě lineárně natáhne čas zpracování, takže je to prašť jak bouchni.

#vhsky