Без мыла красиво не выйдет на таком железе, ИМХО. Ты либо выкручиваешь все на высокие при ~30 кадрах в секунду с разрешением поменьше, либо ставишь разрешение повыше, но скручиваешь качество и детализацию + детализацию на расстоянии.
Ставь нативное разрешение (или на пару шагов ниже), выкручивай настройки на средние, текстуры на ± высокие, т.к. сомневаюсь, что у тебя хватит видеопамяти на отрисовку фреймов и хранение кучи лайтмапов с нормалями, на которые сильно полагаются современные игры.
После чего прогоняй тесты и итеративно меняй настройки под свой вкус.