Картина понятна.

1. Чем обусловлен выбор формата экспорта MPEG-4 Visual ?
MPEG-4 Visual - устаревший формат. Используется старый Dicas'ский энкодер. Возможно только софтовое кодирование. Настройки аппаратного кодирования никак не влияют на этот формат вывода.
Также, качество кодирования с помощью энкодера от Dicas, мягко сказать, оставляет желать лучшего.

2. Размер рассчитывается правильно, т.к. используется переменный битрейт, то расчёт идёт по максимальному заданному 17 МБит/с. В реале в зависимости от контента он "скачет" (переменный) и в итоге размер полученного файла меньше, чем расчётное. На картинке показан усреднённый битрейт. В MediaInfo и при просмотре в плеере, который умеет показывать текущий битрейт это хорошо видно.

Советы.
1. Если Вы не хотите принудительно апскалить разрешение видео, то ставьте галку на "Совпадают с временной шкалой". Хотя бы для проверки, выставляемых программой параметров. Всегда можно изменить/скорректировать.
2. Формат экспорта (я сужу по косвенным признакам) выставите H.264/AVC. В этом случае работает настройка аппаратного кодирования. И здесь INTEL отрабатывает на 100%. Программа заточена на INTEL. Скорость вывода намного выше реалтайма. С настройкой CUDA здесь вероятнее всего будут "проблемы". Проверьте и поделитесь. Кстати, какая видеокарта у Вас?