Захватываю видео TV-тюнером WINFAST tv2000XP с камеры SONY CCD-TRV228E PAL в режиме ожидания камеры — отлично захватывает. Когда захватываю видео с камеры воспроизводящей кассету – на видео подворачивает несколько строк в нижней части кадра. Как это исправить?

Вырезать их.

Настройте параметры захвата в кодеке, количество захватываемых строк должно соответствовать количеству строк в видеопотоке, формат потока долженсоответствовать возможностям кодека (YUV, RGB).

Исправить это нельзя НИКАК (!), в т.ч. никакими настройками. Но от этого можно и нужно избавиться. Лично я делаю захват в максимальном разрешении (768*576) и на лету эти строки обрезаю кроппингом, и на лету же делаю ресайз в нужное мне разрешение, напр. 384*288, если это с VHS-кассеты.