У тебя на камере MJPEG, по умолчанию это Microsoft's MJPEG decoder, который барахло. Поставь ffdshow, включи MJPEG в настройках декодера, затем скачай Win7DSFilterTweaker и в нём установи выбор декодера MJPEG на ffdshow.
Кодировщик тоже поменяй на NVENC, он лучше картинку выдаёт, чем Quicksync.
Кодировщик тоже поменяй на NVENC, он лучше картинку выдаёт, чем Quicksync.