Возможно что продолжительность фильма не позволяет повысить битрейт кодирования. Попробуйте сделать просчет для диска на 50 гб. Не обязательно даже его физически записывать. Просто сравните результаты на компе.