Если у Вас была установлена PS17, то при установке PS20 должен был оригинальным инсталлятором выполнен автоматически, прозрачно для пользователя перенос RedGiant из PS17 в PS20.
Значит, по каким-то причинам перенос не был выполнен успешно.

1. Проверьте в папке c:\Program Files\Pinnacle\Studio 20\plugins\RTFXV2 наличие папок и соответствующих файлов (каждая указанная далее папка должна иметь размеры от ~1,5 МБ до ~28МБ):
KnollEZSE
MBCosmoSE
MBLooksSE
MBMojoSE
RGWarpSE
TCParticularSE
TCShineSE

Если все файлы присутствуют, то далее:
2. Файлы, скачанные по ссылке выше (с Я-Диска) Rcom1932.dll и Rcom1964.dll скопировать в директорию c:\Program Files\Pinnacle\Studio 20\programs (это понятно)
3. Файлы, которые там имеются RCom32.dll и RCom64.dll трогать не нужно, пусть лежат там.

 4. Запускаете командную строку с правами администратора
Запуск командной строки с правами администратора в Windows 7
[Только зарегистрированные и активированные пользователи могут просматривать ссылки. ]
Запуск командной строки с правами администратора в Windows 10
[Только зарегистрированные и активированные пользователи могут просматривать ссылки. ]

5. Выполняете команду regsvr32 "C:\Program Files\Pinnacle\Studio 20\programs\RCom1964.dll"
6. Выполняете команду regsvr32 "C:\Program Files\Pinnacle\Studio 20\programs\RCom1932.dll"
откуда начинать выполнять эту команду? Куда войти?
Выполнять эти две команды нужно после того, как Вы вошли в командную строку (см. видео выше).
7. Открываете Studio Tools 20 выбираете "Перестроение базы данных эффектов" - "Анализ" - "Выполнить"
или, что тоже самое, открываете PS20 и на вкладке "Организовать" нажимаете на кнопку внизу "Обновить библиотеку"
Как всегда, необходимо дождаться, когда PS20 полностью закончит довольно длительный процесс обновления библиотеки.

P.S. Эффекты Red Giant Warp в PS20 не работают