Welche GPU passt zu meinem bestehendem System?

Die eigentliche Frage ist was du überhaupt vorhast mit diesem System. Reinpassen tut da Vieles.

überwiegend:
You Tube/surfen
PUBG
Apex Legends
Fallout 4
CoD BO 4
Deadspace 2 und 3
League of Legends
CS Source
Diablo 3
und bisher nur in 1920x1080, da mein Monitor ASUS VX279 nicht mehr hergibt.

Ich persönlich würde als Gamer zu einer GTX 1070 greifen. Etwas schwächer in der Leistung, dafür aber auch günstiger, käme an zweiter Stelle bei mir eine RX Vega 56. Jetzt bleibt es dir überlassen, welche du nimmst ...

Danke.
Das mag zwar stimmen, aber eine GTX 1070 ist nicht nur ein wenig, sondern gleich ein ganzes Stück teurer und das immernoch! Nach meinen Recherchen geht die 1070iger bei 260,00 Euro los. Das ist dann aber diese Zotac Miniversion. Reguläre GTX 1070iger starten bei 350,00 – 380,00 Euro. Im Vergleich dazu die RX Vega 56 kostet aktuell 249,00 Euro und dann sogar eine gute von Sapphire. Nur weiss ich zu wenig darüber um hier eine vernünftige Pro- und Contra Liste abzuwägen. Ich habe Berichte gefunden,  in welchen erklärt wurde, dass mit einem Bios / Software / Treiber Update der RX Vega 56 ein guter Leistungsschub verpasst werden kann. Ob ich mich daran traue... weiss ich noch nicht. Meine CPU ist ein AMD und harmonisiert es nicht besser zueinander, wenn die Grafikkarte dann ebenfalls von AMD stammt? Ich hatte ein wenig Angst dass die RX Vega 56 schneller als mein AMD Ryzen R5 1600x arbeitet und hier ein Flaschenhals entstehen könnte. Wenn ich bei Youtube Vergleichsweise Videos von Grafikkartentests a la „RX Vega 56 vs. GTX 1070“ anschaue empfinde ich da nun keine massiven Unterschiede, aber das bedeutet nichts. Es liegt in der persönlichen Auffassung jeden einzelnen Users ob ein Unterschied von 6-8 Fps diese Mehrkosten rechtfertigen. 

Ich denke es wird die RX Vega 56, werd aber nochmal eine Nacht drüber schlafen. Danke.

Mit der RX Vega 56 machst du nichts falsch. Du kannst ja mal hier selber vergleichen:

https://www.gpucheck.com/de-eur/compare/nvidia-geforce-gtx-1070-vs-amd-radeon-rx-vega-56/intel-core-i7-6700k-4-00ghz-vs-intel-core-i7-7700k-4-20ghz/