Кодер DVD (mpeg2) у студии mpegencoderlib.dll версии 4.0.895.11774 довольно приличный, обновляется, правится.

Проверял на Вашем файле полуторагигабайтном 1.avi (MJPG, 1920x1080, 421 Mb/s).

1. Экспорт "Диск": Лучшее качество, PAL (16:9), 720x576/50i, 8500 kbit/s, т.е. настройки по-умолчанию. Вывод в папку VIDEO_TS на жестком диске.
2. Экспорт "Файл MyDVD": PAL (16:9), 720x576/50i, 6000 kbit/s, там жёсткие пресеты для полной совместимости с программой Pinnacle MyDVD.

В обоих случаях качество на уровне, соответствующем формату DVD. Первый вариант из-за более высокого битрейта субъективно получше.