Что значит качество не удовлетворило? Когда вы подключаете камеру к телевизору непосредственно, через SVHS выход, тогда вас качество устраивает? Ведь на DV касету изображение записывается уже сжатое в соотношении 5:1 с потерями. И могут быть видны артефакты при показе ножества движущихся мелких объектов, например, листвы дерева при сильном ветре.

При записи DV напрямую на компьютер вы берете все тот-же сжатый сигнал и просто помещаете его в AVI файл. Тут вроде никакой порчи данных не должно быть. Исключение составляет только случай, когда у вас медленная скорость записи на диск. При этом появляются потеренные кадры ( рваный эффект при воспроизведении). Еще нужно учесть, что по яркости картинка на телевизоре ярче, чем у вас будет на компьютерном мониторе. Именно для этого в профессиональных картах есть дополнительный аналоговый выход на телевизор.

Далее вы монтируете ваш материал. При этом материал опять-таки обробатываетя в DV формате, для того чтобы избежать перекомпрессии и, следовательно, потери в качестве.

Ну и после этого вы записываете созданный ролик в выходном формате.
Если вам нужно обратно записать на DV-касету, тогда просто пишите в исходном DV-формате.
Если собираетесь записывать материал на DVD, тогда компрессируете видео в MPEG2. При этом параметры кодека нужно подбирать таким образом, чтобы не ухудшить картинку.
Если просто для хранения на компьютере, тогда можно сжать в MPEG4 (DivX).