Наталья, причин тому может быть масса.
В первую очередь проанализируйте что изменилось на вашем компьютере в период между "раньше" (когда вывод через Custom Video File происходил без проблем) и "сейчас".
Если переставляли программу, могли остаться "хвосты" старой, хотя Producer не настолько капризен в данных вопросах.
Возможно с установкой какой либо другой программы были установлены сторонние кодеки. Да и программа могла встать "криво". Попробуйте переустановить её, предварительно почистив систему с помощью [Только зарегистрированные и активированные пользователи могут просматривать ссылки. ]