Никакой аппаратный Intel QuickSync с этим старьём (стабилизатором) не работает
Так и не должен, аппаратное ускорение это распаковка и упаковка на лету, а работу плагина делает процессор, вот почему подгружается com surrogate и что то не может сделать и висит забирая все ресурсы, вот это и есть вопрос, попробуйте разжать видео до ряда ключевых кадров, например, некомпресс или mjpeg, где просчет как таковой сводится лиш к регистрации, посмотрите поведение системы, возможно эффект будет нормально работать, он хоть и архаичный, но работать то должен.

По поводу файла dllhost.exe, если он в Windows\System32 и Windows\SysWOW64\, трогать и удалять его не надо, а вот если как у меня было года три назад он оказался в папке Local\Temp\, то эту копию убирать надо, и чистить систему.