Статья старая, но там доступным языком описано про YV12 и YUY2 - это то что вам нужно в текущей ситуации
 Статья
[Только зарегистрированные и активированные пользователи могут просматривать ссылки. ]

Из лослесс кодеков, при необходимости промежуточного рендера, я чаще использую FFDShow и Lagarith. Но все ещё проще, можно подключить [Только зарегистрированные и активированные пользователи могут просматривать ссылки. ] и выводить сразу любимым кодером.
Без заморочек можно вывести напрямую из Вегаса в h.264 Sony XAVC, правда в MXF контейнере, и все равно там будет рабочее пространство Вегаса YUY2, т.е 4:2:2 -но стоит попробовать, перепаковать в mp4 -дело 2-ух сек.