Почему не работает очень похожая оперативная память?

Для начала: ты абсолютно уверен, что новый модуль памяти в целом исправен? Если да, то начни с обновления BIOS своей материнской платы, одновременно сбросив настройки на стандартные (особенно если всякие там XMP включены). Версия 4207 от 14 декабря последняя.

Если я ничего не путаю, версия модуля 5.30 означает, что чипы памяти на нём от Hynix, а 3.20 — Samsung. На материнских платах под Ryzen первого поколения, к которым твоя и относится, с памятью Hynix были проблемы на частотах выше 3000МГц, и обычно с обновлениями BIOS ситуация сглаживалась.

Сам с такой же проблемой недавно столкнулся.

Оперативную память купил такую же, но отличается надписями. На старой написано:«ver 3.20», а на новой:«ver 5.30»

Скорее всего в этих версиях отличаются тайминги для работы на повышенных частотах.
Например, у одной ревизии 16 16 16 39, а у другой 16 16 16 37 (как правило у более новой версии последнее число бывает меньше).
Биос автоматом подхватывает XMP профиль одной из ревизий и применяет настройки при которых другая ревизия не работает или работает нестабильно.

В первую очередь нужно потестировать новую память отдельно. В том числе и применив XMP и погоняв тестами на заявленных повышенных частотах.

Сбросить Биос на дефолтные настройки или выставить частоту памяти 1333 МГц.
В программе CPU-Z нужно посмотреть информацию о мудулях памяти обеих ревизий (вкладка SPD): там можно посмотреть тайминги для различных частот и напряжение. Для стандартизированных частот (JEDEC) они одинаковы, а вот для XMP профиля могут отличаться.
Возможно, эту информацию можно посмотреть и в Биосе.

Чтобы заставить всё это работать вместе в разгоне нужно уже вручную всё выставлять. Если коротко, то нужно выставить самый большой тайминг из обеих ревизий (в приведённом выше примере это 16 16 16 39) и указать частоту.