Запись геймплея, стриминг и рендеринг.

1. Запись геймплея лучше всего производить аппаратно (в твоем случае с помощью shadowplay). Как юзать первая же ссылка тебе все объяснит.
2. А у тебя выбор только из adobe premiere и Sony Vegas (сейчас он зовется VEGAS Pro или как-то так).
Так, парочка советов. Держи игру и склад футажей на разных винтах, а то может глючить от перегрузки. На СГ есть даже курс по сони Вегасу от Максима Кулакова, можешь что-то от него почерпнуть. А если чет поновее то videosmile ( на русском) и lynda.com (если владеешь инглишом).

А как в рекламных агентствах относятся к Final Cut? Исключительно из любопытства.

1. OBS. Он поддерживает то же самое аппаратное кодирование, что и Shadowplay, но более гибкий в настройках. Через него же можно вести стрим. Карта видеозахвата вещь забавная, но для начала совершенно не нужна. Если она тебе понадобится позже, ты сам это поймёшь, выбор такой карты это отдельный квест, где уже желательно представлять, что да как с видеообработкой.
2. Вегас проще в освоении и быстрее для простого сведения и нарезки без сложных спецэффектов; для последних лучше Премьер. Можно всё сразу делать в последнем, но мне лично кажется, что для «отрезать лишнее и наложить музыку» он какой-то громоздкий.

Обрати внимание, что качество зависит от битрейта и кодеков — видеозахват ты захочешь делать с минимальным сжатием и максимальным качеством, но будь бдителен, потому что слишком большой битрейт может превысить скорость записи данных на диск. Рекомендуемые цифры для тестов, но это уже после монтажа, а для записи в OBS есть предустановки, позволяющие записывать либо без потерь, либо практически без потерь, которые ты тоже можешь покрутить, записав несколько сэмплов.

Ах да, у Нвидии все еще периодически возникают проблемы с нестандартными разрешениями. Так что захватывай игры в 16х9.

Для монтажа больше рекомендую Adobe Premiere Pro, да он более громоздкий и новичку в нём сложнее разобраться чем в вегасе, но в будущем это окупиться.
В интернете куча курсов и уроков на YouTube для освоения монтажа, проблемы быть не должно.
Плюс из своего личного опыта скажу что если затянет сфера монтажа то на каналах, в рекламных агенствах и прочих подобных местах требуют исключительно Premiere, а при фразе о навыках работы с Sony Vegas пытаются деликатно слать обратно, независимо он набранных в нём навыков(личный опыт) =)

:D, Ну если найдёшь место где на маках работают то крайне положительно относятся, наверное.

Удивительно редко встречающийся вариант, но я для записи первое время использовал карту захвата от Avermedia, которая писала на… второй компьютер. Ну, у меня был комп с Radeon просто. Сейчас карта от Nvidia, и я так только для консолей делаю.
Юмор в том, что так система с игрой не имеет никаких лишний нагрузок от слова совсем. А для записи вполне хватит бюджетного ноута, главное процессор адекватный.