есть ли возможность обеспечить плавное перемещение и/или вращение окна в окне
Да. Можно.

При беглом ознакомлением с инструкцией PS23 я этого не нашёл.
Страница 77
Произвольный поворот видеоклипа

Страница 96, 97
Эффект «картинка в картинке» (PIP)