Это известная проблема (Pinnacle Studio 20/21 x64 + ProDAD Heroglyph 4 x64).
Пробуйте и пробуйте несколько раз вызывать плагин из PS21. В конце концов он начинает работать.
Также, пробуйте открывать/закрывать Heroglyph as standalone application.