Vielen Dank für die Tipps.
Ich habe die Treiber (mit Hilfe von DDU) im abgesicherten Modus entfernt. Nachfolgend habe ich diese neu installiert (einmal mit angeschlossenem AGA und einmal ohne AGA) Problem bleibt bestehen. Leider habe ich nicht die Möglichkeit die Karte in einem Tower einzusetzen bzw. eine andere Karte habe ich auch nicht. Halte ich aber nicht für das Problem. Alienware gibt an das dass Netzteil 480W hat. Die MSI GTX 1080ti sollte diesen nicht voll ausreizen. Da es Leute mit einem AGA welche eine GTX 1080 Costum Edition mit höherem Verbrauch laufen haben schließe ich dies aus.
Update: Habe gerade mit dem Support von Dell telefoniert, die konnten mir leider nicht weiterhelfen. Jedoch habe sie mir eine interessante Information zukommen lassen, man benötige einen Externen Bildschirm, ohne einen solchen funktioniert der Amplifier nicht. Ist das wahr?
Habe jetzt einen externen Bildschirm angeschlossen aber dieser hat kein Signal (duplizieren unter Win 10 eingestellt).