@Fadi:
Ich stimme @dude08/15 zu, denn laut den beiden u. a. Beiträgen hier im AW Community Forum fehlt dem Alienware "All Powerfull" M17x R3 Notebook ein UEFI-fähiges BIOS, was wiederum Voraussetzung für die Funktionsfähigkeit der GeForce GTX 980m Grafikkarte ist.
Aus meiner eigenen Erfahrung heraus mit einem GPU-Upgrade bei einem älteren Alienware 18 Notebook benötigt die GeForce GTX 980m Grafikkarte zudem einen modifizierten Kühlkörper mit einer besseren Kühlleistung von 100 Watt, sprich der im M17x R3 Notebook vorhandene GPU-Kühlkörper dürfte zum Einen nicht auf die GeForce GTX 980m Grafikkarte drauf passen und zum Anderen ist der vorhandene Kühlkörper auch thermisch nicht ausreichend dafür ausgelegt.
Laut dem Beitrag hier im AW Community Forum, den Dir @Svencore schon verlinkt hat, kann man im M17x R3 Notebook aber wohl eine GeForce GTX 880m Grafikkarte zum Laufen bringen, aber auch das bedarf offensichtlich einiges an Aufwand.
Leider hat das M17x R3 Notebook auch keinen Anschluss für den Alienware Graphics Amplifier (AGA), so dass Du darin evtl. eine leistungsstärkere externe Grafikkarte betreiben könntest. Und selbst wenn so hättest Du dann aber das Problem, dass die im im M17x R3 Notebook vorhandene CPU zu "schwach" ist und zum sog. "bottleneck" für die Gesamtperformance wird.
Ältere Grafikkarten gibt's ja zu 99% nur noch als Gebrauchtware. Man weiß also nie, was man dann letztlich bekommt bzw. ob die Grafikkarte überhaupt funktioniert. Außerdem hat man in der Regel kein Umtausch-/Rückgaberecht und das ganze ist immer irgendwie mit diverser Hard-/Software-"Bastelei" verbunden.
Von daher stimme ich@Jörg vollumfänglich zu, Dein Notebook lieber so zu belassen, wie es ist, und besser in aktuellere Hardware zu investieren. Es muss ja nicht gleich die neueste und teuerste HighEnd-Hardware sein, aber zumindest sollte sie insbesondere im Hinblick auf die systembedingten Anforderungen von Windows 11 schon zukunftssicher(er) sein.