Студия 15 лучшее качество картинки дает при выводе в m2ts, и mov, если Вам нужен во что бы то ни стало mkv, используйте после вывода матрешечник.