Попробуй с камеры сделать захват в ScenaliserLive (он в avi хватает), возможно что проблема отпадет