Пороговая температура GTX 1060: 94 градуса по Цельсию. Так что переживаешь за её температуры зря, но если хочешь ниже — проверь, что корпус хорошо вентилируется.
Комп не может зависать из-за высокой температуры видеокарты в обычных условиях. Если происходят падения видеодрайвера или отказ видеокарты при высоких нагрузках, это может быть аппаратная проблема, например, какой-то из модулей видеопамяти сбоит, или получает нестабильное питание (см. свои опасения про блок питания)
Когда происходит зависание, и при этом система его регистрирует, в журнале ошибок Windows обычно создаётся отчёт. Посмотри оные и поделись, если они есть, возможно проблема в чём-то ещё.
Блок питания дешёвый это примерно как в хороший автомобиль ставить двигатель от газонокосилки, без разницы, создаёт это проблемы или нет. Если не создаёт — то рано или поздно создаст. Конечно, тут тоже компьютер не супер дорогой и актуальный, но я бы поставил в него хороший БП, который в будущем просто переставил в более новый комп.
Про память: вот официальный лист совместимых модулей. В спецификации к материнке сказано явно, что выше 1666MHz память будет работать только при использовании Core i5/i7 без встроенной Intel HD.